[이데일리 김정유 기자] 오픈AI가 6일(현지시간) 대수학, 수론, 이론컴퓨터과학, 수리논리학 등 수학 전 분야를 아우르는 377개의 새로운 연구·증명 결과를 공개했다.

뉴욕타임스(NYT)에 따르면 오픈AI의 이번 무더기 발표는 지난달 7대 밀레니엄 난제 중 하나로 상금 100만 달러가 걸려있던 ‘나비에-스토크스 방정식’ 해결 한 달만에 이뤄졌다. 이번 377개 해법 역시 아직 일반에 공개되지 않은 고성능 AI 모델이 사용된 것으로 전해졌다.

앞서 오픈AI는 AI가 도출한 결과물을 수학계에 어떻게 전달하고 검증할지 조언을 구하기 위해 수학자자문위원회와 협력하고 있다고 밝힌 바 있다. 해당 자문위는 미국 뉴저지주 프린스턴 고등연구소(IAS)가 주관한다. 자문위는 오픈AI에 AI가 사용한 모든 프롬프트(지시문)와 추론 과정 전체를 대중에 공개할 것을 권고했다. 오픈AI는 이날 공식 웹사이트를 통해 “자문위의 조언과 공공 권고안을 반영해 결과를 공개했다”고 밝혔다.

이번에 제출된 증명 중 다수는 기초 논리 구조의 오류를 검증하는 컴퓨터 프로그래밍 언어인 ‘린’(Lean)을 통해 이뤄졌다. 오픈AI 측은 377개 중 10개 해법에 대해 AI 모델이 어떻게 결론에 도달했는지 도출 과정 요약본을 함께 제시했다. 또 해법 하나를 도출하는 데 평균 3시간의 연산 시간이 소요됐다고 부연했다.

그간 AI기업들은 국제수학올림피아드(IMO) 수준의 문제를 성능 측정 기준(벤치마크)으로 삼아왔다. AI가 이를 손쉽게 해결하자 오픈AI 연구팀은 수학 연구 최전선의 미해결 문제들을 모아 새로운 벤치마크를 직접 구축해왔다. 하지만 자문위는 오픈AI에 “비공개 자체 모델을 최첨단 수학 난제에 계속 테스트하는 행위를 중단하라”고 권고하고 있다. 오픈AI는 이를 받아들이진 않고 있다.

단 로버츠 오픈AI 연구 총괄은 “더 나은 도구를 개발하기 위해 내부 모델을 테스트하는 과정이 필수적”이라며 “수학적 증명은 그 테스트 과정에서 얻어진 부산물일 뿐”이라고 해명했다.

오픈AI가 해결했다고 주장한 나비에-스토크스 문제를 연구해 온 트리스탄 백마스터 뉴욕대 교수는 AI 모델을 사용하는 인간 수학자들이 자신도 모르는 사이에 AI에 아이디어를 제공하고, AI가 이를 바탕으로 선수쳐 결론을 내버리는 것 아니냐는 의구심을 제기하기도 했다.

백마스터 교수는 “누군가가 평생 일군 연구를 가져다가 마지막 마무리만 지은 결과물이 다수 포함돼 있을 가능성이 높다”며 “이처럼 대량의 결과를 한 번에 쏟아내는 것은 최소한의 검증 절차조차 제대로 거치지 않았다는 뜻”이라고 꼬집었다.

수학계는 문제 해결의 속도가 인간의 이해 속도를 크게 앞지르는 상황이 향후 학문 발전에 도움이 될지 깊은 혼란에 빠져 있다.

카이 샤이크 토론토대 수학과 석사과정생은 “문제의 본질에는 경쟁하려는 본능과 미(美)를 감상하는 능력이라는 인간의 두 가지 대립되는 속성이 자리 잡고 있다”며 “지금의 상황은 경쟁 심리가 미학적 감상 능력을 목 졸라 죽이려 하는 격”이라고 지적했다.