50년 버텼던 수학 난제, AI가 1시간 만에 깼다…수학계 "검증 중"

입력 2026-07-13 10:00:00
로봇
mWiz 이 기사 포인트

오픈AI, 사이클 더블 커버 추측 증명 논문 공개…동료 심사는 미완료

컴퓨터 화면에 수식과 그래프 이론 관련 코드가 표시되고 있는 모습. 오픈AI의 최신 AI 모델이 50년 난제를 증명한 연구 결과를 시각화하고 있다.
컴퓨터 화면에 수식과 그래프 이론 관련 코드가 표시되고 있는 모습. 오픈AI의 최신 AI 모델이 50년 난제를 증명한 연구 결과를 시각화하고 있다.

오픈AI 연구원 에단 나이트는 13일(한국 시각 기준) 소셜 플랫폼 엑스(X)에 GPT-5.6 솔 울트라(Sol Ultra)가 그래프 이론의 50년 난제인 '사이클 더블 커버 추측(Cycle Double Cover Conjecture)'을 증명한 논문과 프롬프트를 공개했다고 밝혔다. 그는 "GPT-5.6 솔 울트라를 일반 공개한 지 하루 만에 이 모델이 64개의 서브에이전트를 활용해 1시간이 채 안 되는 시간 안에 50년 된 사이클 더블 커버 추측의 증명을 만들어냈다"고 전했다.

사이클 더블 커버 추측은 1973년 조지 세케레스(George Szekeres)와 1979년 폴 세이모어(Paul Seymour)가 각각 독립적으로 제기한 그래프 이론의 대표적 미해결 문제다. 모든 정점과 간선으로 이뤄진 네트워크에서, 각 간선을 정확히 두 번씩 지나는 사이클 집합을 항상 찾을 수 있는지를 묻는다. 이 추측은 그래프 이론에서 "가장 중요한 미해결 문제 중 하나"로 널리 꼽혀 왔다.

솔 울트라는 64개의 서브에이전트를 병렬로 가동해 1시간이 채 안 되는 시간에 증명을 완성했고, 실제 논문 작성은 플래그십 모델 솔(Sol)이 맡았다. 이 증명은 7월 10일 오픈AI의 CDN에 PDF 형태로 공개됐으며, 저자는 전적으로 해당 모델로 표기됐다.

공개된 프롬프트에 따르면 오픈AI는 모델에 최대 64개의 동시 서브에이전트를 할당했다. 각 에이전트는 서로 다른 수학적 표현과 대수적 접근, 구조적 귀납법 등을 독립적으로 탐색했고, 별도의 적대적(adversarial) 에이전트는 반례 가능성과 논리적 오류를 집중적으로 검토하도록 설계됐다. 인터넷 검색은 금지됐고, 최대 8시간의 계산 시간이 할당됐지만 실제 소요 시간은 약 1시간에 그쳤다.

증명 방식을 보면, 문제를 3차 정규 그래프(cubic graph)로 환원한 뒤 8-플로우 정리(8-flow theorem)를 활용해 간선에 GF(3) 기반 레이블을 부여했다. 이후 각 간선이 정확히 두 개의 사이클에 포함되는 구조를 선형대수 기법으로 구성했으며, 논문은 총 3페이지 분량이다.

맨체스터대 수학자 토마스 블룸(Thomas Bloom)은 이 증명을 "매우 훌륭한 증명"이라 평가하면서도 선행 연구를 전혀 인용하지 않은 점을 문제로 지적했다. 그는 "놀라울 정도로 간결하고 어쩌면 오래전에도 가능했을 법한 해법"이라면서, "AI가 초기에 실패한 접근을 포기하지 않고 수많은 변형을 반복 탐색한 점이 강점"이라고 설명했다. 1983년 바몬드, 잭슨, 예거 연구가 언급되지 않은 점은 AI 생성 수학 논문에서 자주 나타나는 문제라고도 덧붙였다.

이번 결과는 학술지 게재나 동료 심사(peer review) 없이 공개됐으며, 사이클 더블 커버 추측은 과거에도 여러 차례 증명이 주장됐다가 오류가 발견되거나 철회된 사례가 있어 수학계는 신중한 입장을 유지하고 있다. 린(Lean)이나 코크(Coq) 같은 형식 검증 시스템으로도 아직 검증되지 않았다.

이번 발표는 해커뉴스(Hacker News) 첫 페이지에 오른 지 한 시간 만에 위키피디아 사이클 더블 커버 추측 항목에도 반영됐다. 수학계는 수일에서 수주에 걸쳐 각 단계의 논리적 타당성을 검토한 뒤 최종 결과를 판단할 계획이다.