수학과 바둑의 촌수는 몇 촌쯤 될까. 내달 서울 코엑스서 열리는 2014 세계수학자대회(ICM) 기간 중 바둑도 하루(8월 19일) 주인이 돼 손님들을 맞이한다. 바둑과 수학을 버무린 여러 성찬(盛饌) 중 특히 흥미로운 강연 하나를 미리 살펴보았다. 미국 버클리대서 수학 박사 취득 후 월스트리트를 거쳐 국내서 금융 전문가로 활동 중인 김용환(50) 박사의 '조합게임이론과 바둑'이다.
최선의 끝내기 수순을 찾아가는 수학적 과정이 이 강연의 주제다. "흔히 똑같은 5집짜리라고 간주해버리지만 실제 크기는 5와 1/8, 5와 3/16 하는 식으로 저마다 미세하게 다릅니다. 끝내기가 6군데만 남았어도 6!(팩토리얼)로 갈 길이 720가지나 되는데, 수학의 도움 없이 완벽한 정답을 찾기란 불가능하죠."
〈장면도〉를 보자. 백은 마지막 A와 B 두 곳 중 어디에 두는 게 옳을까. 〈1도〉 백 1은 2와 교환돼 흑백 똑같이 9집으로 비겼다. 정답은 〈2도〉 백 1로, 7까지 마무리해 백의 1집 승이다. A와 B는 같은 '1집짜리'지만 발전성이 다르다. 조합게임이론은 이를 '인센티브'라고 부른다. 〈장면도〉는 최대한 단순화한 모형이며 19일 강연 때는 훨씬 복잡하면서도 흥미로운 장면들이 소개된다.
프로 바둑 세계에서 끝내기는 정복된 분야가 아닐까. 실제로 전문 기사들은 웬만한 실전에선 거의 오차 없이 '정답' 코스를 밟곤 한다. 하지만 프로들도 조합게임이론 전문가가 만든 '같은 크기'가 여럿인 문제지를 받아들면 진땀을 뺀다. '인센티브'를 따져 수백, 수천분의 1까지 비교하는 수학 이론을 당할 수 없기 때문이다.
버클리 재학 시절이던 94년 김 박사가 스승 엘윈 벌캄프 교수와 함께 인터넷에 끝내기 현상 문제를 올렸던 일화도 유명하다. 비슷비슷한 크기의 끝내기 10여 곳이 산재한 가운데 복잡한 패(覇)를 거쳐 90수 만에 정답에 이르는 난제였다. 중국, 일본 프로 출신을 포함한 50여 명이 덤벼들었지만 정답 근처엔 얼씬도 못 했다. 가장 긴 12수까지 맞힌 응모자가 현상금 1000달러를 받았다.
조합게임이론의 학문적 정의는 '두 사람 간의 완벽한 정보(perfect information) 게임을 연구하는 응용수학'이다. "처음엔 이 학문의 이론에 적용할 최적 수단으로 바둑이 동원됐지만 이제는 서로 도움을 주고받는 상황으로 변했다. 언젠가 바둑은 조합게임이론을 통해 적어도 끝내기 부분은 완전 정복될 것으로 믿는다." 바둑과 수학은 뗄 수 없는 동반자 관계가 맞는 것 같다.
