내부 프론티어 모델로 도출한 수학 미해결 과제 초안 722편 일괄 공개
2026년 10월 6일 OpenAI는 공식 연구 발표를 통해 아직 일반에 출시되지 않은 내부 프론티어 모델(unreleased internal frontier model)을 사용해 수학 연구 미해결 문제들을 다룬 논문 초안과 코드 결과물을 깃허브(GitHub) 리포지토리에 아파치(Apache)-2.0 라이선스로 공개했다고 발표했습니다.
이번에 공개된 연구 자료는 기존 벤치마크가 포화 상태에 이른 뒤 약 4,000건의 수학 난제를 테스트한 결과물 중 선별된 것입니다. OpenAI는 총 372개 문제군(families)에 걸친 722편의 연구 초안 매뉴스크립트와 함께 컴퓨터 정리 증명 언어인 린(Lean 4) 기반의 형식화 검증 코드, 그리고 모델의 문제 해결 추론 요약(reasoning summaries) 10건을 함께 수록했습니다.
결과물당 3시간 연산 투입… 준 리만 가설 등 광범위한 이론 수학 포괄
OpenAI의 설명에 따르면 공개된 각 결과물 도출에는 ChatGPT Pro Thinking 모드 연산량 기준 평균 약 3시간 분량의 컴퓨팅 자원이 투입되었습니다. 대다수 결과는 단일 AI 에이전트에 한 차례의 상세 프롬프트를 실행하거나 일부 소수의 시도를 거쳐 얻어졌습니다.
수록된 논문 초안들은 고등 정수론과 해석학 등 현대 이론 수학의 대표적 난제들을 포괄하고 있습니다. 구체적으로는 영점이 존재하지 않는 반평면 범위를 제시한 준 리만 가설(quasi-Riemann hypothesis), 란다우-지겔 영점(Landau–Siegel zeros)의 배제 영역, 원주율(π)의 비유리성 지수 한계, 대칭 및 일반 말러 추측(Mahler conjectures), 힐베르트 10번 문제의 유리수 확장 등이 포함되어 있습니다.
학술지 투고 대신 오픈소스 코드 저장소를 택한 배경과 기계 검증 체계
OpenAI가 수백 편에 달하는 방대한 논문 초안을 전통적인 학술 저널에 투고하지 않고 깃허브 공개 방식을 택한 것은 학계의 병목 현상을 고려한 실무적 조치로 해석됩니다. 동료 연구자들의 검토(Peer review)에 전적으로 의존하는 기존 학술 출판 시스템에 수백 편의 AI 생성 논문이 일시에 쏟아질 경우 심사 인력의 심각한 과부하와 평가 마비를 초래할 수 있기 때문입니다.
이에 따라 연구진은 자연어로 작성된 논문 텍스트 대신 기계가 구문과 증명 논리를 엄밀하게 자동 판정할 수 있는 린(Lean) 언어 기반의 상호작용 정리 증명을 제시했습니다. 인간 심사관이 단계별 증명 과정을 수작업으로 검토하지 않더라도 컴파일러의 형식 검증을 통해 수학적 무결성을 빠르게 확인하도록 유도하겠다는 전략입니다.
IAS 자문 협의와 수학계의 거센 반발… 절차적 정당성 논란
OpenAI는 이번 공개가 지난 2026년 9월 프린스턴 고등연구소(IAS) 기반으로 출범한 '수학 및 인공지능 자문 그룹(AGMAI)'과의 사전 논의 및 권고안을 반영한 결과라고 밝혔습니다. 이 자문 기구에는 티머시 고워스, 마틴 헤어러, 에드워드 위튼, 라비 바킬 등 저명한 수학자 9인이 참여하고 있습니다.
하지만 학계 일각에서는 거센 비판이 터져 나왔습니다. 인간 수학자 연합(AHM)은 성명을 내고 OpenAI가 자문 그룹의 핵심 권고였던 '미공개 독점 모델을 통한 연구 배포 지양' 방침을 실질적으로 무시했다고 지적했습니다. 수학자 테렌스 타오는 블로그를 통해 이를 전하며, 동료 검증 체계를 우회한 채 대규모 결과물을 일방적으로 방출하는 것은 학문적 공헌보다는 기업의 연산 능력을 과시하려는 행위에 불과하다는 비판을 소개했습니다.
미공개 모델의 재현성 공백과 불완전한 형식화가 남긴 실무적 한계
이번 연구 공개가 안고 있는 가장 근본적인 한계는 재현성(Reproducibility)의 부재입니다. 문제 해결을 주도한 핵심 프론티어 모델이 상용 제품이나 API로 제공되지 않는 내부 폐쇄형 모델이기 때문에, 독립적인 외부 연구진이 모델을 직접 구동해 동일한 결과가 재현되는지 실험적으로 검증하는 것은 불가능합니다.
또한 722편의 초안 전체에 린(Lean) 형식화 검증 코드가 완성되어 제공된 것은 아닙니다. 상당수 초안은 여전히 자연어 기반의 비형식화 상태로 남아 있어 오류가 잠재되어 있을 가능성이 높으며, OpenAI 리포지토리 문서 역시 결함의 가능성을 스스로 인정하고 있습니다. 단순히 기계적 정리 증명 도구를 통과했다고 해서 해당 결과가 수학적으로 유의미한 통찰을 담고 있는지에 대해서는 학계의 장기적인 정밀 검토가 필수적입니다.
출처
OpenAI News의 원출처와 본문에 표시한 참고자료를 바탕으로 한국어로 재구성했습니다. ‘ARCH.B 분석’은 자료를 읽고 덧붙인 편집 해석입니다.
Sharing AI progress in mathematics (새 창)
