제미나이 기반 수학 에이전트 '알레테이아', 에르되시 문제서 의미 있는 해답 제시
김상현 교수 등 국내 수학계 검증 참여…증명 주고받으며 이론 확장도

(서울=연합뉴스) 조승한 기자 = 한국 수학자들이 개발과 검증 과정에 참여한 구글 딥마인드의 수학 인공지능(AI) 에이전트 '알레테이아'(Aletheia)가 세계적 미해결 문제 모음으로 꼽히는 '에르되시 문제' 가운데 13개에 대해 의미 있는 해답을 제시한 것으로 나타났다.
알레테이아는 약 700개의 미해결 문제를 단기간에 검토하고 일부 문제에 대해 스스로 해법을 도출했으며, 이 과정에서 인간 수학자들과 증명을 주고받으며 이론을 확장하는 등 실제 수학자와 유사한 협업 양상을 보였다.
8일 수학계에 따르면 탕루옹 구글 딥마인드 선임연구원과 토니 펭 미국 버클리대 교수, 김상현 고등과학원 교수, 정준혁 미국 브라운대 교수 등으로 구성된 연구진은 이달 2일 논문 사전공개 사이트 '아카이브'(arXiv)에 이러한 연구 결과를 담은 논문을 발표했다.
에르되시 문제는 헝가리 출신의 전설적 수학자 에르되시 팔이 제시한 조합론·수론 분야 문제 모음으로, 총 1천179개 가운데 약 700개가 아직 미해결 상태로 남아 있다. 최근에는 이 문제들이 AI의 수학 능력을 가늠하는 대표적 벤치마크로 활용되고 있다.

고대 그리스어로 '진리'를 뜻하는 알레테이아는 구글의 생성형 AI '제미나이'의 고급 추론 모드 '딥씽크'를 기반으로 한 수학 연구 에이전트로, 연구팀은 지난해 12월 약 일주일간 알레테이아를 에르되시 문제 700개에 투입했다.
알레테이아는 이 가운데 200개 문제에 대해 해답을 찾았다고 주장했고, 김 교수 등 수학자들이 한 달간 정밀 분석한 결과 해답 63개를 추렸다.
이후 문제의 서술 자체에 오류가 있어서 너무 쉬운 정답을 찾아냈다고 판단되는 경우 등을 추려낸 결과 최종적으로 13개 문제 풀이가 수학적으로 의미 있는 해답을 제시한 사례로 평가됐다.
이들 문제 중에는 완전히 새로운 해법을 제시한 경우도 있었고, 잘 알려지지 않았던 과거의 풀이를 찾아내거나, 이미 알려진 결과를 다른 방식으로 증명한 경우, 기존 정리를 에르되시 문제에 처음 적용한 사례도 포함됐다.
김상현 교수는 "상당수는 아이디어 자체는 단순하지만, 그동안 인간이 시도하지 않아 풀리지 않았던 문제들"이라며 "그중 5~6개 정도는 참신한 해답이라고 볼 수 있다"고 평가했다.
특히 에르되시-1051번 문제의 경우, 알레테이아가 제시한 간단한 2페이지 분량의 해법을 바탕으로 수학자들이 이를 일반화해 별도의 논문으로 발표할 정도로 의미 있는 성과로 평가됐다. 이 문제는 특정 수열이 매우 빠르게 증가할 때 그 역수의 합이 무리수가 되는지를 묻는 내용이다.
이 과정에서 알레테이아와 인간 수학자들은 서로의 결과를 바탕으로 증명을 확장해 나갔다. AI가 초안을 제시하면 인간이 이를 일반화하고, 다시 AI가 확장안을 내놓는 방식으로 증명의 수준을 단계적으로 끌어올렸다.
김 교수는 "초기 해법은 전업 수학자의 논문이라고 보기엔 얕았지만, AI와 사람이 번갈아 확장하면서 AI의 기여가 분명해졌다"고 설명했다.

지난해 초부터 알레테이아 개발 프로젝트에 참여해 온 그는 알레테이아의 문제 해결 방식을 아이들이 의미를 완전히 이해하지 못한 채 언어를 배워 문제를 해결해 나가는 과정에 비유하며, 기존 수학 이론을 상황에 맞게 끌어오는 '클리셰' 활용 능력이 뛰어나다고 평가했다.
김 교수는 "클리셰가 맞는지 검증하는 것은 여전히 인간의 몫이지만, AI가 다양한 가능성을 제시해 오랜 시간이 걸릴 문제를 빠르게 탐색해 줄 수 있다"고 말했다.
이번 연구는 AI를 과학 연구에 적용해 혁신을 가속하려는 최근 흐름을 보여주는 사례로도 평가된다.
수학 분야에서는 이미 AI가 국제수학올림피아드 문제를 정복했고, 에르되시 문제를 AI 수학 능력을 가늠하는 벤치마크로 활용하는 분위기다.
오픈AI는 지난해 10월 챗GPT를 활용해 에르되시 문제 10개를 풀었다고 주장했다가 과장 홍보 논란에 휩싸이기도 했고, AI 수학자를 개발해 최근 에르되시 문제 2개를 풀었다고 발표한 스타트업 '액시엄 매스'는 이달 1억 달러 투자 유치에 성공하기도 했다.
다만 전문가들은 AI가 아직 인간 수학자를 대체할 수준은 아니라며 신중한 접근이 필요하다고 강조했다.
논문 저자들 역시 "이번 결과의 수학적 중요성을 과도하게 평가해서는 안 된다"며 AI가 기존 연구를 출처 없이 재구성하는 잠재적 표절 위험에 대해서도 경계를 덧붙였다.
김 교수는 "정통한 전문가라면 하루 이틀 만에 풀 수 있는 문제들이지만, 문제마다 그런 전문가가 전 세계에 10명도 안 된다는 점을 감안하면 AI가 그 수준에 근접했다는 의미는 있다"고 말했다.
이어 그는 "수학자들이 AI에 기대하는 것은 정답이 아니라, 인간이 생각하지 못한 길을 가보라고 속삭여 주는 것"이라며 "수천 년간 쌓아온 수학 커뮤니티의 질서 속에서 AI를 도구로 활용하는 것이 수학 발전의 방향이라고 본다"고 강조했다.

shjo@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>
관련뉴스








