지난 5월 루마니아 대선에서 ‘수학 천재’가 대통령에 당선됐다. 결선 투표에서 극적인 역전 승리를 거둔 니쿠쇼르 단 후보는 1987년, 1988년 국제수학올림피아드(IMO)에서 두 차례 모두 만점을 받으며 금메달을 땄다. 그는 IMO 수상자 출신의 첫 세계 지도자로 이름을 올리게 됐다.
▶IMO는 19세 이하 청소년이 겨루는 수학 경시대회로, 세계적 수재들이 모든 상상력·논리력을 동원해 난제와 싸우는 전쟁터다. 첫날 세 문제, 둘째 날 세 문제를 각각 4시간 30분 안에 풀어야 한다. IMO 문제 중에서 난도가 가장 높은 문제는 항상 마지막 문제인 6번이다. 올해 6번 문제는 ‘2025×2025개의 정사각형으로 이뤄진 격자가 있다. 타일을 겹치지 않게, 격자선에 맞춰 배치하려 한다. (중략) 필요한 타일 개수의 최솟값은?’이었다. 문제 뜻조차 알기 힘들다.
▶구글의 AI ‘제미나이 딥싱크’가 올해 IMO에서 6번 문제만 빼고 5개를 풀어 총 35점으로 금메달을 땄다. 작년 대회에선 출제 문제를 전문가들이 일일이 AI가 이해하기 수월한 프로그래밍 언어로 변환했는데도 문제를 푸는 데 2~3일이나 걸렸다. 1년 만에 응시 학생들과 동일한 조건에서 문제를 풀어 참가자(110국 630명)의 상위 11% 안에 드는 금메달 성적을 낸 것이다.
▶당초 수학계에선 AI가 IMO에서 인간을 이기려면 5년 가까이 더 걸릴 것으로 봤다. IMO 문제는 암기한 공식이 아니라 문제의 본질을 꿰뚫고 이를 창의적인 수단으로 답을 찾고 논리적으로 증명해야 한다. AI가 정복한 바둑과는 차원이 다르다. 바둑은 경우의 수가 많을 뿐 기본적으로 간단한 규칙에 기반하고 있다. 수학은 비정형 사고가 필요해 AI가 범접하기 힘들 것으로 봤다. AI에 수많은 예제 학습을 시켰지만 문제에 숨겨진 전제나 함의를 제대로 파악하지 못했다. 그래서 직관과 추론을 자유자재로 쓰는 인간에 비해 수학은 떨어진다는 평가가 나왔다.
▶IMO 금메달 성과를 낸 AI 개발팀은 IMO 메달리스트 출신 전문가들을 합류시켰다. 이번 모델 개발에 참여한 정준혁 미 브라운대 교수도 2003년 IMO 금메달 수상자다. 이들은 AI에 문제를 푸는 ‘생각하는 시간’을 확장하도록 방식을 바꿨다. 정답뿐 아니라 증명의 명확성에도 보상을 줬다. AI가 금메달을 땄지만 올해 IMO에서 6문제 모두 만점을 받아 5문제만 맞힌 구글 AI를 압도한 사람이 5명이나 됐다. 인간이 AI를 이기고 있는 최후의 보루인 수학에서 왕좌를 내줄 때가 언제일지 궁금하다.
곽수근 논설위원·테크부 차장