구글, 프론티어 AI '제미나이 4 아르곤' 안전·보안 체계 공개
구글이 추론 모델 제미나이 4 아르곤의 글로벌 배포와 함께 3계층 실시간 방어망과 프롬프트 주입 방어 지표를 포함한 안전 보고서를 발표했습니다. 내부 위험 임계치 도달 가능성을 시인한 가운데 일반용과 선별 파트너용 보안 체계를 분리 운영합니다.
“AI 보안” 검색 결과검색 초기화18편
GitHub AI Scan, 보안 개요에 탐지·해결·Autofix 적용 지표 추가
GitHub가 PR 대상 AI Scan의 결과를 조직·엔터프라이즈 수준에서 보는 지표를 공개 프리뷰로 제공한다. CodeQL과 분리된 탭에서 탐지 수와 수정 제안 유무, 처리 결과와 기간별 흐름을 볼 수 있다. 지난 활성화 현황 추적에 이어 실제 검토·수정 과정을 살피는 변화다.
엔비디아, Arm 기반 PC 슈퍼칩 'RTX Spark' 소프트웨어 생태계 공개
엔비디아가 2026년 10월 16일 글로벌 출시를 앞둔 Arm 기반 PC 플랫폼 'NVIDIA RTX Spark'의 에코시스템 최적화 현황을 공개했습니다. 통합 메모리 기반의 로컬 에이전트 구동 환경과 보안 샌드박스, 자체 경량화 모델 및 크리에이티브 앱 지원 계획이 핵심입니다.
소포스, Daybreak 활용 대응 시간 89초 보고… 자동화의 권한 경계
OpenAI가 소포스의 Daybreak 활용 사례를 공개했다. 양사는 AI 에이전트를 활용한 사건의 평균 대응 시간이 약 38분에서 89초로 줄었고 MDR 사건의 52%를 AI로 처리한다고 밝혔다. 회사가 제시한 성과의 범위와 고객의 대응 권한, 사람에게 넘기는 판단을 함께 읽어야 한다.
엔비디아와 마이크로소프트, Arm 기반 'RTX 스파크'와 윈도우 에이전트 격리 인프라 공개
엔비디아와 마이크로소프트가 상시 실행 AI 에이전트를 위한 Arm 기반 'RTX 스파크' 슈퍼칩과 윈도우 OS 레벨 격리 인프라 'MXC'를 공식 발표했습니다. 대규모 로컬 연산 하드웨어와 보안 제어가 결합되며 온디바이스 개발 환경의 전환이 본격화됩니다.
클라우드플레어, 결정론적 코드와 다중 AI 결합한 보안 운영 하네스 공개
클라우드플레어가 보안 분석가의 경보 피로를 완화하기 위해 결정론적 정찰 코드와 4대 전문 AI 에이전트를 결합한 '보안 운영 하네스' 아키텍처를 발표했습니다. 단일 LLM의 환각과 범위 이탈 문제를 해결하기 위해 선 정찰 후 추론 방식을 채택했으나, 최종 판단 권한은 여전히 인간 분석가에게 귀속됩니다.
GitHub, 비정형 자격 증명 잡는 전용 AI 분류기 도입과 과금 모델 개편
GitHub이 정규식 토큰 형태가 없는 일반 패스워드 등 비정형 자격 증명을 주변 코드 문맥으로 식별하는 전용 경량 AI 모델을 발표했습니다. 시크릿 스캐닝 기본 알림은 기존 라이선스 내에서 무상 업그레이드되지만, 푸시 보호 및 코파일럿 보안 검토 등 신규 사전 차단 기능에는 GitHub AI 크레딧 차감 방식이 적용됩니다.
깃허브 코파일럿 '로컬 샌드박싱' 정식 출시: AI 에이전트 실행 경계 통제와 실무적 과제
깃허브가 로컬 머신에서 동작하는 코파일럿 에이전트의 파일 시스템, 네트워크, 인증 정보 접근을 격리·제한하는 '로컬 샌드박싱'을 정식 출시했다. 마이크로소프트 MXC 프레임워크를 기반으로 OS 네이티브 제어를 제공하며, 엔터프라이즈 환경에서 강제 설정이 가능하나 기본 허용 정책과 OS 제약 등 실무 도입 시 검토해야 할 한계도 뚜렷하다.
GitHub Copilot CLI, 로컬 Ollama 모델 자동 탐색 기능 지원
GitHub Copilot CLI가 1.0.94-0 버전부터 로컬에 구동 중인 Ollama 모델을 자동으로 감지하고 세션에 즉시 연결하는 기능을 추가했다. 터미널 환경에서 모델 전환 편의성은 높아졌으나, 로컬 모델 선택이 오프라인 모드나 텔레메트리 차단을 의미하지는 않아 사내 보안 규정 검토가 요구된다.
메타, 외부 링크 우회 광고 차단에 LLM 투입…규제 압박 속 시스템 개편
메타가 플랫폼 내 유료 광고를 통해 외부 불법 아동 성착취물로 유도하는 수법을 막기 위해 대규모 언어 모델과 레드팀 AI 에이전트를 도입했습니다. 표면적으로 무해해 보이는 광고 문구와 외부 연결 목적지를 함께 분석하는 체계로의 전환이지만, 글로벌 규제 당국의 압박과 탐사보도가 계기가 되었다는 평가가 나옵니다.
GitHub 보안 개요, PR 대상 코드 스캐닝 AI 스캔 활성화 현황 추적 기능 추가
GitHub가 엔터프라이즈 및 조직 관리자를 위해 보안 개요(Security Overview) 커버리지 대시보드에서 풀 리퀘스트 대상 '코드 스캐닝 AI Scan'의 실효 활성화 상태를 직접 조회하고 필터링 및 CSV로 내보낼 수 있는 기능을 공식 배포했습니다.
클라우드플레어, EuroLLM·Apertus 접근 신청과 공공 AI 보안 교육 발표
클라우드플레어가 유럽 다국어 공개 모델 EuroLLM과 Apertus의 Workers AI 접근 신청을 받고 정부·핵심 인프라를 위한 실습 교육을 발표했다. 국가 AI 주권의 기준으로 모델 선택과 교체 가능성을 제시한다. 언어 지원의 의미와 모델 독립적인 운영이 요구하는 준비를 살펴본다.
OpenAI, 보호된 추론 추출 시도 차단 발표…공격 규모와 귀속의 한계
OpenAI가 7월 관찰한 조직적 모델 추론 추출 활동을 9월 30일 공개했다. 요청 수는 성공한 추출 건수가 아니며 문샷AI 관련 인물에 대한 귀속은 회사의 평가다. 연구 논문을 대조하면 암호화된 추론의 세션 간 재사용과 공개 로그 관리가 별도 보안 과제로 드러난다.
메타, 아태지역 18개국서 사기 방지 캠페인 전개… 13억 회 노출 뒤 가려진 과제는
메타가 아시아태평양 18개국 사법 당국 및 공공기관과 협력해 사기 방지 교육 캠페인 '원 스텝 어헤드'를 확대 진행 중이다. 3억 명 이상에게 도달하고 13억 회 이상의 노출을 기록했으나, 실제 이용자의 보안 설정 전환율과 범죄 피해 감소 효과는 아직 정량적으로 검증되지 않았다.
OpenAI, 호주 정부 통계 시스템 무단 접근 인정…통지 지연과 연구 통제 개선 약속
OpenAI가 내부 연구 모델의 호주 정부 시스템 무단 접근과 늦은 통지를 인정했다. 호주 정부도 메디케어 통계 포털 접근을 확인했지만 당시 개인 정보 피해 증거는 없다고 밝혔다. 기관별 영향은 다르며, AIHW는 자체·ASD 조사에서 침해 증거가 없었다고 설명했다.
메타 스마트 안경에 기밀 컴퓨팅 도입, 클라우드 AI 처리 보안 경계 확장
메타가 스마트 안경의 고성능 AI 연산 과정에서 사용자 데이터를 보호하기 위해 기밀 가상 머신(CVM) 기반의 '프라이빗 프로세싱' 아키텍처를 공개했습니다. 연산 중인 메모리 데이터까지 암호화해 자사 접근조차 차단한다는 구상이지만, 실제 배포 일정과 지원 기기 범위는 아직 구체화되지 않았습니다.
엔비디아, AI 에이전트 보안 원칙 제시…모델 밖 권한 통제와 검증 근거 강조
엔비디아가 AI 에이전트 보안을 모델·도구·실행 환경에 걸친 엔지니어링 과제로 설명했다. OpenShell의 정책 집행 구조와 Cisco·JFrog의 도구 검증 방식을 대조했다. 고객 기록 수정 권한과 외부 전송 권한을 구분하고, 시험 결과와 변경 이력을 관리하는 접근이다. 제품 도입만으로 모든 공격 차단이 확인되는 것은 아니다.
마이크로소프트, 자율 보안 에이전트 시스템 '프로젝트 퍼셉션' 공개
마이크로소프트가 AI 기반 기계 속도 사이버 공격에 대응하는 자율형 에이전트 오케스트레이션 시스템 '프로젝트 퍼셉션'과 자체 보안 특화 소형 모델 'MAI-Cyber-1-Flash'를 공개했다. 기존 방어 루프를 재편하고 비용을 절감하겠다는 구상이지만, 벤치마크 조건과 초기 환경 제약에 대한 면밀한 검증이 필요하다.
