OpenAI, 보호된 추론 추출 시도 차단 발표…공격 규모와 귀속의 한계
OpenAI가 7월 관찰한 조직적 모델 추론 추출 활동을 9월 30일 공개했다. 요청 수는 성공한 추출 건수가 아니며 문샷AI 관련 인물에 대한 귀속은 회사의 평가다. 연구 논문을 대조하면 암호화된 추론의 세션 간 재사용과 공개 로그 관리가 별도 보안 과제로 드러난다.
“보안모델” 검색 결과검색 초기화2편
마이크로소프트, 자율 보안 에이전트 시스템 '프로젝트 퍼셉션' 공개
마이크로소프트가 AI 기반 기계 속도 사이버 공격에 대응하는 자율형 에이전트 오케스트레이션 시스템 '프로젝트 퍼셉션'과 자체 보안 특화 소형 모델 'MAI-Cyber-1-Flash'를 공개했다. 기존 방어 루프를 재편하고 비용을 절감하겠다는 구상이지만, 벤치마크 조건과 초기 환경 제약에 대한 면밀한 검증이 필요하다.
