앤트로픽 소속 수학자 레벤트 알포게는 20일(현지시간) 자사의 인공지능 모델 클로드와 협력해 리만 가설의 증명을 완성했다고 밝혔다.
167년 동안 증명되지 않은 난제에 관한 발표지만, 이를 수학계가 검토해 확정한 증명으로 볼 수 있는지는 별개의 문제다.
알포게는 개인 웹사이트에 증명을 설명하는 4쪽짜리 문서와 검증 프로그램 언어 ‘린(Lean)’으로 작성한 코드 링크를 공개했다.
린은 수학적 명제가 정해진 논리 규칙에 맞는지 검사한다.
그러나 프로그램이 입력된 명제를 참이라고 판정해도, 그 명제가 연구자가 의도한 중요한 주장을 정확히 표현하는지까지 자동으로 보장하지는 않는다.
가령 ‘모든 고양이는 고양이다’라는 명제는 참으로 판정될 수 있지만, 그것만으로 리만 가설이 증명되는 것은 아니다.
따라서 공개된 코드의 판정은 검증에 쓰이는 근거이지, 별도의 검토가 불필요하다는 뜻은 아니다.
리만 가설의 중요성은 소수의 분포와 관련된다. 소수는 1보다 큰 자연수 가운데 1과 자기 자신만을 약수로 갖는 수다.
100 이하 자연수 중 소수는 약 25%지만, 100만 이하에서는 약 7.8%다.
가우스가 제시한 규칙은 특정 범위 안의 소수 개수를 근사하며, 그 규칙으로 얻은 100만 이하 소수의 추정치는 7만8628개다.
실제 개수인 7만8498개와는 130개 차이가 난다.
리만은 소수에 관한 정보를 담은 제타 함수를 연구하고, 그 함수의 영점으로 소수 개수를 나타내는 공식을 제시했다.
가설의 핵심은 제타 함수의 비자명한 영점이 복소평면에서 실수부가 1/2인 직선 위에 놓인다는 주장이다.
이 가설이 참이면 소수의 실제 개수와 가우스의 추정값 사이에 생기는 오차의 상한을 엄밀하게 규정할 수 있다.
그래서 증명 여부는 소수의 분포를 얼마나 정확히 설명할 수 있는지와 맞닿아 있다.
이번 작업에서는 알포게가 탐구할 수학적 아이디어의 방향을 제시하고 클로드가 빠르게 연산한 것으로 소개됐다.
스티븐 스트로가츠 코넬대 교수는 이를 숙련된 기수가 빠른 말을 타는 모습에 비유했다.
다만 형식 검사를 통과하는 것과 증명의 핵심 원리를 사람이 이해하는 것은 다른 과제다.
브라이언 콘래드 스탠퍼드대 교수는 알포게가 자신도 완전히 이해하지 못하는 증명을 공개한 점을 비판했다.
수학계의 반응도 엇갈린다.
2022년 필즈상 수상자인 제임스 메이너드 옥스퍼드대 교수는 린 검증 결과를 확인하는 데 시간이 걸릴 것이라고 하면서도, 결국 증명이 옳은 것으로 밝혀질 것이라고 확신한다고 말했다.
그는 리만 가설이 참인지 의심하기보다 왜 참인지를 알고 싶었다는 취지로도 설명했다.
반면 토머스 프렐베르크 퀸메리런던대 교수는 오픈AI가 10월 6일 공개한 수학 난제 연구 결과 700건 중 일부에 대해 증명 성공 주장을 철회한 사례를 들어 신중한 검토를 강조했다.
독자가 구분해야 할 것은 연구자의 증명 발표와 그 논리·내용을 수학계가 확인하는 절차가 서로 다른 단계라는 점이다.