구글, 프론티어 AI '제미나이 4 아르곤' 안전·보안 체계 공개
구글이 추론 모델 제미나이 4 아르곤의 글로벌 배포와 함께 3계층 실시간 방어망과 프롬프트 주입 방어 지표를 포함한 안전 보고서를 발표했습니다. 내부 위험 임계치 도달 가능성을 시인한 가운데 일반용과 선별 파트너용 보안 체계를 분리 운영합니다.
“AI안전” 검색 결과검색 초기화5편
OpenAI, 위장 연구기관·언론인 계정 차단… AI 문장보다 출처 구조가 문제
OpenAI가 러시아와 이란에서 시작된 것으로 판단한 두 영향력 공작의 계정을 차단했다고 밝혔다. 위장 연구기관과 언론인 명의를 이용해 메시지를 기존 매체로 전달한 사례다. 회사가 확인한 공개 확산과 공작 주체가 과장한 성과를 구분하고, 출처 검증의 의미를 살핀다.
OpenAI, 청소년용 ChatGPT에 대학 진학 플래너와 학습 도구 도입 예고
OpenAI가 고등학생의 대학 입시 일정과 재정 보조 절차를 돕는 '대학 진학 플래너'와 플래시카드, 퀴즈 생성 등 학습 보조 기능을 청소년용 ChatGPT에 도입한다고 발표했습니다. 안전 규제 압박 속에서 사용 시간 방어 논리를 폈으나, 안전성 검증을 둘러싼 외부 시민단체의 비판도 함께 제기됩니다.
OpenAI, 프론티어 강화학습에 안전 논증 제안…평가·격리·대응을 함께 문서화
OpenAI가 프론티어 강화학습 실행에 앞서 위험과 통제 근거를 구조적으로 제시하는 안전 논증 방향을 공개했다. 학습 평가·환경 격리·감시뿐 아니라 반대 검토, 중단 절차와 사고 조사를 포함한다. 현재 구현 중인 권고이며 외부 인증이나 모든 배포 상황의 안전 입증은 아니다.
엔비디아 Halos, 물리 AI 안전의 여러 층 설명…검사기관 인정과 제품 인증 구분
엔비디아가 차량·로봇의 하드웨어·소프트웨어·AI 행동·운영 환경을 함께 다루는 Halos의 안전 접근을 설명했다. 공식 기술 자료는 실제 시험과 시뮬레이션·운영 기록으로 안전 주장의 근거를 쌓는 구조다. ANAB의 검사기관 인정은 검사 수행 역량에 관한 것이며 모든 통합 제품의 최종 인증을 뜻하지 않는다.
