AI가 100년 미해결 수학 문제를 순식간에 풀어냈다

수학자 다웨이 천이 5년간 풀지 못한 문제가 있었다. 그는 최근 ChatGPT에 수시간을 매달렸지만 답을 얻지 못했다. 그런데 지난달 워싱턴 DC의 한 수학 학회에서 우연히 만난 동료가 다음날 아침, 완벽한 증명을 들고 나타났다. 비결은 Axiom이라는 AI 스타트업의 수학 해결 도구 AxiomProver였다.

하룻밤 사이에 풀린 5년 숙제

천과 동료 퀘틴 젠드론이 2019년부터 씨름해온 이 문제는 대수기하학의 복잡한 영역에 속했다. 두 수학자는 당시 논문을 정리하면서 한 가지 이상한 수론 공식에 막혔고, 결국 '추측'으로만 발표할 수밖에 없었다.

AxiomProver는 이 문제를 19세기에 처음 연구된 수치 현상과 연결시켰다. 그리고 스스로 증명을 고안하고 검증까지 마쳤다. "인간들이 모두 놓친 것을 AxiomProver가 찾아냈다"고 Axiom의 수학자 켄 오노는 말한다.

전설적 수학자의 100년 전 노트에서 답을 찾다

AxiomProver의 성과는 여기서 그치지 않는다. 이 AI는 최근 몇 주 동안 여러 미해결 수학 문제들을 연달아 풀어냈다. 그중 하나는 펠의 추측으로, 놀랍게도 100년 전 전설적인 인도 수학자 스리니바사 라마누잔의 노트에서 처음 발견된 공식과 관련이 있었다.

이번에는 인간의 도움 없이 AI가 처음부터 끝까지 완전한 증명을 만들어냈다. "AI 수학 도구의 발전을 수년간 지켜본 사람으로서도 이는 정말 놀랍다"고 하버드 비즈니스 스쿨의 스콧 코미너스 교수는 평가했다.

계산기 이후 가장 큰 변화

Axiom의 접근법은 기존 대형 언어모델과 AxiomProver라는 독자적 AI 시스템을 결합한다. 핵심은 Lean이라는 특수한 수학 언어를 사용해 증명을 검증할 수 있다는 점이다. 단순히 문헌을 검색하는 것이 아니라, 진정으로 새로운 문제 해결 방식을 개발할 수 있다.

"이는 정리 증명의 새로운 패러다임"이라고 오노는 강조한다. Google이 2024년 선보인 AlphaProof와 비슷한 아이디어지만, Axiom은 여러 중요한 발전과 새로운 기법을 통합했다고 주장한다.

수학을 넘어선 가능성

Axiom의 기술은 순수 수학을 넘어 실용적 가치도 가진다. 같은 접근법으로 사이버보안 공격에 더 탄력적인 소프트웨어를 개발할 수 있다. AI를 사용해 코드가 증명 가능하게 신뢰할 수 있는지 검증하는 것이다.

"수학은 현실의 위대한 시험장이자 샌드박스"라고 Axiom의 CEO 카리나 홍은 말한다. "상당한 상업적 가치를 가진 중요한 활용 사례들이 많이 있다고 믿는다."