EU AI Act 대응을 위한 텍스트 워터마킹 정책 발표
OpenAI가 2026년 10월 5일 공식 블로그를 통해 유럽연합(EU)의 텍스트 출처(Provenance) 규칙을 준수하기 위한 신규 기술 도입 방안을 공개했습니다. 이번 발표는 2026년 8월 2일부터 발효된 EU AI Act 제50조 제2항에 따라 생성형 AI 제공자가 텍스트 출력물을 기계 판독 가능한(machine-readable) 형태로 표시하고 탐지 가능하게 해야 한다는 규정을 충족하기 위해 마련되었습니다.
기존 출시된 인공지능 시스템에 부여된 최대 2026년 12월 2일까지의 유예 기간 만료를 앞두고 OpenAI는 자체 텍스트 워터마킹 기법인 'textGrain'의 배포 일정을 구체화했습니다. OpenAI는 유럽연합의 '생성형 AI 투명성 실천 강령(Code of Practice on Transparency of AI-generated Content)' 참여 기업으로서 선제적 규제 대응 차원에서 이번 정책을 시행한다고 밝혔습니다.
서비스별 적용 일정 및 배포 범위의 차이점
이번에 발표된 워터마킹 정책은 서비스 유형과 사용자 지역에 따라 상이하게 적용됩니다. ChatGPT와 개발 도구인 Codex의 경우 유럽연합(EU) 소속 사용자에게만 국한되어 적용되며, 무료와 유료를 포함한 전 플랜을 대상으로 발표 시점 이후 수 주에 걸쳐 순차적으로 배포될 예정입니다. 글로벌 일반 사용자 대상으로는 기본 적용되지 않습니다.
반면 API 서비스의 경우 지역 제한 없이 전 세계 개발자와 기업 고객을 대상으로 2026년 10월 5일부터 기능 지원이 시작되었습니다. 다만 API 환경에서는 강제 적용이 아닌 조직 및 프로젝트 설정에서 직접 활성화해야 하는 '선택 적용(Opt-in)' 방식을 택했으며, 기본 설정값은 꺼짐(Off by default)으로 유지됩니다. 워터마크 삽입에 따른 별도 추가 과금은 공지되지 않았으며, 워터마크 탐지 도구는 일반 대중 대신 선별된 승인 연구자 및 기관에 한해 우선 접근 권한이 부여됩니다.
확률 분포 변조 기반의 'textGrain' 기술 원리
OpenAI가 도입한 'textGrain'은 겉으로 드러나는 라벨이나 숨겨진 특수 문자, 제로 너비 공백, 비정형 구두점을 삽입하지 않는 비가시성 통계적 워터마킹 방식입니다. 모델이 다음 단어를 예측(Next Token Prediction)하는 샘플링 과정에서 사전에 지정된 비밀 키(Secret key)와 직전 문맥을 기반으로 토큰 선택 확률 분포를 미세하게 변조하여 눈에 띄지 않는 통계적 패턴을 남기는 원리로 작동합니다.
기술 문서에 따르면 textGrain은 전체 어휘집을 여러 블록으로 분할한 후 쿨백-라이블러(KL) 발산 정규화 기반의 최적 수송(Optimal Transport) 이론을 적용해 엔트로피 예산을 체계적으로 관리합니다. OpenAI는 자체 Astra 벤치마크 평가를 근거로 워터마크를 삽입하더라도 모델의 생성 품질 저하가 유의미하게 발생하지 않았으며, 기존 구글 딥마인드의 SynthID(텍스트용) 대비 동등 이상의 성능을 보인다고 주장했습니다.
분량 및 사후 편집에 따른 기술적 취약점 분석
기술적으로 우수한 알고리즘을 표방하지만, 실제 텍스트 환경에서의 탐지 성능은 매우 명확한 제약을 가집니다. OpenAI가 공개한 지표에 따르면 오탐률(False-positive rate)을 1%로 통제한 조건에서 400토큰 분량의 서술형 텍스트는 약 95%의 높은 탐지율을 기록했으나, 분량이 200토큰으로 줄어들 경우 탐지율은 약 80% 수준으로 하락했습니다. 문맥이 짧거나 문장 구조가 단편적인 경우 신뢰할 수 있는 패턴 검출이 급격히 어려워집니다.
특히 단어 선택의 다양성이 제한되는 도메인과 사후 수정 작업에 심각한 취약성을 보입니다. 단어 조합의 자유도가 낮은 수학 풀이나 정형화된 프로그래밍 코드에서는 탐지율이 크게 저하됩니다. 또한 400토큰 분량의 텍스트에서 단어의 10%만 유의어로 교체해도 탐지율은 약 92%에서 66%로 떨어지며, 25%를 변경할 경우 17%까지 급락합니다. 번역이나 문장 재구성(Paraphrasing)을 거치면 워터마크가 사실상 소실되므로, 생성 텍스트의 완벽한 추적 기술로 해석하는 것은 무리가 있습니다.
규제 준수와 실무 도입 시 고려해야 할 해석상 주의점
실무 현장과 컴플라이언스 담당자는 textGrain의 탐지 결과를 절대적인 사실 판단의 근거로 오인해서는 안 됩니다. OpenAI 역시 공식 문서를 통해 워터마크 검출 여부가 특정 사용자 식별, 입력 프롬프트 역추적, 표절 판정, 인간 기여도 측정, 혹은 내용의 사실성을 입증하는 증거가 될 수 없다고 선을 그었습니다. 역으로 워터마크가 검출되지 않았다고 해서 인간이 작성한 원문이라고 단정하는 음성 판정의 증거로 삼아서도 안 됩니다.
아울러 아직 해소되지 않은 실무적 쟁점들도 남아 있습니다. 탐지 도구의 일반 사용자 공개 일정이나 구체적인 오픈소스 라이선스 형태 및 배포 시점은 공개되지 않았습니다. 또한 EU 집행위원회의 소스코드 표시 면제 가이드라인과 Codex 적용 간의 구체적 기술 적용 기준 역시 명확한 추가 설명이 요구됩니다. 따라서 기업 실무진은 API의 선택 적용 기능을 컴플라이언스 보조 수단으로 이해하되, 법적 책임이나 계약 이행을 담보하는 유일한 검증 잣대로 삼지 않도록 주의해야 합니다.
출처
OpenAI News의 원출처와 본문에 표시한 참고자료를 바탕으로 한국어로 재구성했습니다. ‘ARCH.B 분석’은 자료를 읽고 덧붙인 편집 해석입니다.
Our approach to EU text provenance rules (새 창)
