AI가 수학자 대신 미해결 문제를 풀었다

수학자가 10년 넘게 풀지 못한 문제를, AI가 혼자 해결했다.

지난 4월 4일, 베이징대 연구팀이 주도한 논문 한 편이 프리프린트 서버에 올라왔다. 내용은 간단하지 않았다. 연구팀이 개발한 이중 에이전트 AI 프레임워크가 2014년 미국 수학자 댄 앤더슨이 제시한 미해결 문제를 자율적으로 풀어냈다는 것이다. 앤더슨 교수는 당시 아이오와 대학교에 재직 중이었으며, 2022년 73세의 나이로 세상을 떠났다. 그가 남긴 질문에 답한 것은 결국 사람이 아니었다.

어떻게 풀었나: 수십 년치 논문을 읽은 AI

이 AI 프레임워크의 접근 방식은 흥미롭다. 단순히 계산을 빠르게 처리한 것이 아니다. 연구팀에 따르면 이 시스템은 수십 년에 걸친 수학 문헌을 종합해 문제를 해결했다. 두 개의 에이전트가 역할을 나눠 하나는 가설을 생성하고, 다른 하나는 이를 검증하는 방식으로 작동했다.

이는 수학자들이 실제로 연구하는 방식과 구조적으로 닮아 있다. 논문을 읽고, 기존 이론을 연결하고, 새로운 접근을 시도하고, 틀리면 다시 검토한다. AI가 그 과정을 흉내 낸 것인지, 아니면 진짜로 수행한 것인지는 아직 논쟁 중이다.

주목할 점은 이것이 단순한 계산 문제가 아니라는 것이다. 댄 앤더슨의 문제는 수학적 추론과 창의적 통찰이 요구되는 영역에 속한다. 수학계가 이 결과를 어떻게 받아들이느냐가 앞으로의 관건이다.

왜 지금인가: 중국 AI의 전략적 선택

광고

광고주 모집

[email protected]

광고

이 연구가 지금 나온 것은 우연이 아닐 수 있다. 미국과 중국의 AI 패권 경쟁이 반도체와 모델 성능을 넘어 이제는 기초과학 영역으로 확장되고 있다. DeepMind의 AlphaProof가 2024년 국제수학올림피아드(IMO) 문제 일부를 풀어낸 이후, AI의 수학적 추론 능력은 업계의 핵심 벤치마크가 됐다.

베이징대 팀의 이번 성과는 그 경쟁에서 중국이 단순 추종자가 아님을 보여주려는 시도로 읽힌다. 특히 기초수학 미해결 문제를 타깃으로 삼은 것은, 응용 AI를 넘어 과학적 발견 자체를 AI로 대체하겠다는 방향성을 시사한다.

한국의 입장에서 이 흐름은 낯설지 않다. 네이버와 카카오가 거대언어모델 경쟁에 뛰어들었지만, 기초과학 AI 연구에서는 아직 뚜렷한 성과를 내지 못하고 있다. 국내 대학과 연구소가 이 분야에서 어떤 포지션을 가져갈지는 중장기적으로 중요한 질문이 된다.

수학자들은 어떻게 볼까: 환영과 경계 사이

수학계 반응은 복잡하다. 일부 연구자들은 AI가 기존 문헌을 종합해 새로운 결론을 도출했다는 점에서 진정한 의미의 '발견'에 가깝다고 평가한다. 반면 회의적인 시각도 있다. 프리프린트 논문은 아직 동료 심사(peer review)를 거치지 않았고, AI가 제시한 증명이 수학적으로 완전한지 독립적인 검증이 필요하다.

역사적으로 수학계는 증명의 엄밀성에 매우 민감하다. 1976년 사색 정리(four color theorem) 증명 당시, 컴퓨터를 활용한 방식 자체가 논란이 됐다. AI가 제시한 증명을 수학자들이 어떻게 수용하고 검증할 것인가는, 이번 사건이 '해프닝'으로 끝날지 '전환점'이 될지를 가르는 핵심이다.

교육 현장의 반응도 주목할 만하다. 수학 교육은 단순히 답을 구하는 것이 아니라 사고 과정을 훈련하는 것이라는 오랜 믿음이 있다. AI가 미해결 문제까지 해결하기 시작한다면, 수학을 배우는 이유와 방식에 대한 근본적인 재검토가 필요해질 수 있다.