앤트로픽 연구원·인간 수학자 같은 날 증명 주장…독립 검증 일부 통과했지만 수학계 최종 인정은 아직
167년 동안 세계적인 수학자들도 해결하지 못한 '리만 가설'을 증명했다는 주장이 잇따라 등장하면서 세계 수학계가 술렁이고 있다.
인공지능(AI) 기업 앤트로픽의 연구원이 AI 모델 '클로드'와 함께 약 1740만 줄의 증명 코드를 공개한 데 이어, 다른 수학자가 AI의 도움 없이 독자적으로 작성한 약 940쪽의 증명 논문을 내놓았다. 두 발표가 모두 지난 20일(현지시간) 이뤄지면서 인간과 AI의 증명 경쟁이라는 흥미로운 구도까지 형성됐다.
다만 두 주장 모두 아직 수학계에서 최종 인정받은 것은 아니다. AI 증명은 독립적인 프로그램 검증에서 잇따라 긍정적인 결과를 얻고 있지만, 인간이 작성한 증명에서는 보완이 필요한 문제들이 보고된 상황이다.
◆AI 클로드와 1740만 줄 증명…컴퓨터 독립 검증 잇따라 통과
앤트로픽의 수학자 레벤트 알푀게는 20일 자신의 홈페이지에 4쪽 분량의 문서를 공개하고 "클로드와 협업해 리만 가설의 증명을 발견했다고 믿는다"고 밝혔다.
알푀게는 리만 가설뿐 아니라 더 강한 명제인 일반화 리만 가설까지 증명했다고 주장했다. 공개된 일반화 리만 가설의 범위는 디리클레 L함수에 관한 것이다.
특히 눈길을 끈 것은 증명의 방대한 규모다. 알푀게는 일반적인 논문 형태의 설명을 AI로 생성하려 했지만 분량이 25만 쪽을 넘어서자 이를 공개하는 대신 수학 증명 보조 프로그램 '린'(Lean)으로 작성한 약 1740만 줄의 코드를 공개했다.
이후 세계 수학자들이 검증에 나섰다. 미국 매사추세츠공대(MIT)의 앤드루 서덜랜드 교수는 17만5187개 모듈이 오류 없이 컴파일됐으며, 독립적으로 구현된 검증 프로그램들도 핵심 정리들을 받아들였다고 밝혔다.
이는 단순히 AI가 그럴듯한 수학 문장을 만들어낸 수준을 넘어 실제 형식 검증을 통과하는 증명이 제출됐다는 의미다. 다만 해당 코드가 수학적으로 무엇을 보여주는지 분석하고 전체 검증 과정을 재현하는 작업은 계속되고 있다.
◆같은 날 인간 수학자도 증명 공개…AI 없이 12년 연구
AI의 증명 소식이 전해진 같은 날 또 하나의 발표가 나왔다.
미국수학회 회장인 라비 바킬 스탠퍼드대 교수는 이탈리아 출신 수학자 알레산드로 마술로가 작성한 약 940쪽의 일반화 리만 가설 증명 원고를 공개했다.
이번 연구는 AI의 도움 없이 인간 수학자가 독자적으로 수행한 것으로 알려졌다. 마술로는 약 12년 동안 관련 연구를 이어온 것으로 전해졌다.
당초 연구진은 논문을 충분히 검증하고 정리한 뒤 공개할 계획이었다. 그러나 알푀게의 AI 증명 소식이 먼저 알려지자 현재 작성된 원고를 공개하기로 했다.
바킬 교수는 수학자 브라이언 콘래드가 수개월 동안 해당 원고를 면밀히 검토하고 의견을 제시해 왔다고 설명했다.
그러나 공개 이후 다른 수학자들이 AI를 활용해 검토하는 과정에서 논증상의 문제들이 보고됐다. 바킬 교수도 이러한 사실을 인정하면서 문제가 해결돼야 증명이 받아들여질 수 있다고 밝혔다.
AI 없이 완성된 수학적 증명을 오히려 AI가 검토하고 오류 가능성을 찾아내는 상황까지 나타난 것이다.
◆1859년부터 풀리지 않은 난제…소수의 비밀과 연결
리만 가설은 독일 수학자 베른하르트 리만이 1859년 제시한 문제다.
2, 3, 5, 7, 11처럼 1과 자기 자신으로만 나누어떨어지는 소수들이 자연수 사이에 어떤 규칙으로 분포하는지를 이해하는 데 중요한 역할을 한다.
리만은 이른바 '제타 함수'의 특별한 영점들이 복소평면의 특정 직선 위에 놓인다는 가설을 제시했다. 수학자들은 오랫동안 방대한 계산으로 이를 검증해 왔지만 모든 경우에 반드시 성립한다는 일반적인 증명은 발견하지 못했다.
미국 클레이 수학연구소는 2000년 이 문제를 7대 밀레니엄 난제 가운데 하나로 선정하고 해결에 100만 달러의 상금을 걸었다.
◆수학계 "역사적 성과 가능성"…증명과 이해는 별개
세계적인 수학자들도 이번 발표를 주시하고 있다.
필즈상 수상자인 영국 옥스퍼드대 제임스 메이너드 교수는 AI 증명이 완전히 검증된다면 수학사의 역사적인 이정표가 될 것이라고 평가했다.
필즈상 수상자인 테런스 타오 UCLA 교수 역시 자신의 블로그에서 이번 일반화 리만 가설 증명 주장과 함께 AI를 활용한 오일러 방정식, 나비에-스토크스 방정식 관련 연구 성과들을 소개했다.
그러나 증명 코드가 프로그램 검증을 통과하는 것과 인간 수학자들이 그 논리와 새로운 수학적 의미를 충분히 이해하는 것은 별개의 문제다.
이번 AI 증명은 규모가 워낙 방대해 연구자가 전체 논증을 일반적인 논문처럼 설명하기 어려운 상태다. 실제로 일부 수학자들은 컴퓨터가 증명의 형식적 타당성을 인정하더라도 그 과정에서 어떤 새로운 원리를 발견했는지 이해해야 한다고 강조한다.
현재 클레이 수학연구소는 리만 가설을 여전히 미해결 문제로 분류하고 있다.
167년 동안 풀리지 않았던 문제를 놓고 AI와 인간이 거의 동시에 증명을 주장한 상황. 이제 수학계의 관심은 누가 먼저 증명을 발표했느냐를 넘어, 어느 증명이 끝까지 검증을 통과하고 새로운 수학적 지식으로 자리 잡느냐에 쏠리고 있다.







댓글 많은 뉴스
민주당, '조희대 대법원장 탄핵' 당론 채택…한덕수 판결 하루 만
리트 만점자 사망에…서울대 교수 "하늘로 둥둥 띄우곤 사냥개처럼 몰아붙여" 일침
추경호 대구시장 '계엄 표결 방해' 1심 무죄…특검 징역 20년 구형 뒤집혀
李대통령 "이미 치러진 시험 부정도 엄중히 단죄…일벌백계"
李대통령, 中 순방 중 '조작기소 특검법' 재가…대장동·쌍방울도 포함