‘인공지능이 바둑에서 사람을 이길 수 있을까’

약 20년 전, 하이텔이니 천리안이니 하던 속칭 피씨통신의 게시판이 지금의 온라인 카페들처럼 성황이던 시절부터 심심치 않게 등장해 뜨거운 논쟁을 벌이게 하던 주제 중 하나다.
d
바둑판에 그어진 가로줄과 세로줄이 만나는 교차점은 361개. 그에 따른 최소한의 경우의 수 361팩토리얼에 사석과 패, 치중 등의 규칙이 더해지면서 경우의 수는 증가한다. 그 수는 우주의 어느 수보다도 크고 지구만한 컴퓨터를 만든다고 해도 그 연산 처리에 걸리는 세월은 또 얼마나 길지 가늠조차 어렵다면서 머리를 감싸쥐던 논객들과 그래도 날이 갈수록 빨라지는 기술의 진보 속도는 상상 이상으로 그 시기를 앞당길 거라며 차가운 미소를 띤 논객들의 주장이 맞부딪쳐 바둑인들과 공학도들이 설레이던 밤은 그렇게 반짝였다.

어느 말이 맞았을까. 잠시 전제를 깔자면 체스 등의 분야와 바둑은 궤를 달리한다는 점을 강조하고 싶다. 이미 오래 전에 체스 분야는 인간이 기계에게 정복당했다. 1997년 체스 세계챔피언 게리 카스파로프가 IBM 수퍼컴퓨터 딥블루에게 졌다. 하지만 인공지능은 바둑 분야에서만큼은 적지 않은 기간, 정상급 프로기사는커녕 일반 아마추어한테도 맥없이 지는 정도의 수준에 머물렀다. 인공지능이 바둑에서 인간을 앞서는 일은 영원히 없을 거라고 말하는 이도 있었다. 공학도들에게 바둑은 구미가 당기는 도전 과제였고, 난제 중의 난제였다. 바둑은 인간의 뇌가 인공지능을 비웃을 근거를 제공하는 신비였다.

최근 일본에서 벌어진 사건은 앞서의 논쟁을 종결시킬 만한 단서를 준다. 바둑 프로그램이 프로기사에게 다섯 점 접바둑과 넉점 접바둑으로 승리한 것이다.

'ZEN'이란 이름을 가진 일본산(産) 인공지능 바둑프로그램이 17일 도쿄 초후시 전기통신대학에서 열린 이벤트 대국에서 이른바 우주류라는 독특한 기풍으로 명인과 본인방에 등극한 바 있는 다케미야 마사키 9단을 상대로 5점 접바둑과 4점 접바둑에서 연속 승리를 거두었다.

30분 1분 1회의 속기로 시간을 짧게 제한한 것은 의미가 있었다. 컴퓨터는 제한시간의 영향을 많이 받는다. 연산할 시간을 조금만 더 주어도 컴퓨터는 어마어마한 양을 계산을 수행하기 때문에 유리한 조건이 된다. 컴퓨터에게 약간의 제약을 준 것이다. 그러나 인공지능 프로그램은 시종일관 유리했다.

국후 다케미야 9단은 “컴퓨터가 인간의 실력에 이렇게 근접했는지 몰랐다. 인공지능 소프트웨어는 최선의 수를 읽었고, 탄탄한 수법을 구사했다.”며 칭찬했다. 이 넉점 접바둑과 다섯점 접바둑 기보를 본 한국기원 연구생 출신 강자는 정석은 거의 모르는 것 같고 도저히 이해하기 어려운 수를 두는 것 같으면서도 나름의 확고한 사고를 하고 있는 듯보인다.”며 “싸움을 피할 수 있으면 피하고 별다른 독특한 강점이 보이지 않지만 이기는 길을 찾아가는 걸 보면 신기하다.”고 감상을 밝혔다.

ZEN은 지난해 온라인 바둑 서버에서 아마추어 5단의 기력을 보였고 올해 들어선 6단의 실력을 인정받고 있다. 일본은 바둑관련 인공지능 프로그램에서 비교적 신흥 강국이다. 전통적인 강국으로는 북한, 프랑스, 캐나다 등이 손꼽혀 왔다.

1965년 알버트 좁리스트(Albert Zobrist)가 패턴인식에 기반해 최초로 바둑 프로그램을 만든 이래 전 세계적으로 수많은 바둑 프로그램이 만들어지고 있다. 경우의 수가 천문학적으로 크고, 착수가 룰의 제한을 거의 받지 않으며 전략의 심오성 등 프로그램을 고안하기 어렵게 하는 요소가 많지만 수많은 개발자들이 자존심을 걸고 프로그램을 만들어내면서 경쟁하고 있다.

프랑스산(産) 모고(MOGO)는 프로기사들을 상대로 혁혁한 전과를 세운 바 있다. 2008년 8월 미국에서 열린 U.S.바둑콩그레스 이벤트에서 MOGO는 한국 프로기사 김명완 9단에 9점접바둑으로 승리를 거둔다. 19줄 바둑판에서 인공지능이 프로기사를 상대로 한 승리는 이때가 최초였다.

김명완 9단은 “아~ 동료와 선후배기사들에게 놀림 많이 받았다. 컴퓨터한테도 진다고. 그렇긴 하지만 지금 인공지능 분야의 성장 속도를 본다면 그렇게 컴퓨터를 우습게만 볼 수는 없다. 나는 이 분야의 엔지니어들과 교류하고 있는데, 수년 안에 19줄 바둑판에서 프로와의 격차를 넉점 이내로 좁힐 거라고 확신하고 있다.”고 말했다. 그리고 그 말은 그대로 이루어졌다.

그후 1년도 채 되진 않은 2009년 2월, 세계대회 LG배 우승 경험이 있는 대만의 저우쥔쉰 9단은 MOGO와의 여섯점 접바둑에서 대마를 3개나 헌납하면서 졌다. 이 기보를 본 한국의 프로기사들은 “MOGO의 수읽기를 칭찬하고 싶다.”, “포석은 별로이지만 프로의 노림을 피해가는 능력을 갖추고 있다.”, “그러나 패 공방은 낙제점이다.”는 등의 평가를 내렸다.

‘몬테카를로 방식’은 MOGO를 비롯한 세계적인 인공지능 바둑프로그램들에게 그전과는 비교할 수 없을 정도로 뛰어난 실력을 심어주는 데 기여했다. 이 방식은 한계가 있을 수밖에 없는 현재의 하드웨어 기술에 대한 부담을 줄여주었다. 즉 가능한 착수에 대한 모든 연산을 하게 하는 것이 아니라 그럴 듯한 후보 착수(난수)를 가지고 선택적 연산을 하게 한 것이다.

이런 ‘그럴 듯한 착수’들을 가지고 하드웨어는 바둑판을 가득 메울 때까지 모의 대국을 펼치고 만약 그 대국을 패하는 결과가 나오면 처음으로 다시 돌아가 다른 대국을 가상으로 만들어본다. 그런 수읽기를 모두 검토한 끝에 비로소 프로그램은 실제 착점을 결정한다. 가령 운동장에서 공을 던지다고 한다면 무작정 멀리 공을 던지는 것이 아니라 나름의 목표물을 정해 놓고 그 지점을 향해 반복해서 공을 던져 근사치에 도달하는 작업이라고 할 수 있다.

몬테카를로 방식을 이용한 인공지능 프로그램들이 우수한 성적을 거두면서 이 알고리즘은 거의 모든 프로그래머들에게 퍼져나갔고, 이제 이 방식을 사용하지 않는 프로그램은 드물다. 북한이 개발한 <은별>도 몬테카를로 방식을 사용한다. 북한의 젊은 프로그래머들이 힘을 합쳐 제작한 은별은 각종 국제 바둑소프트웨어 대회에서 수차례 우승을 차지한 바 있다. 일본과 우리나라를 비롯한 여러 나라에서 상용화되어 인기를 끈다. 은별 개발에 참여하고 있는 프로기사 김찬우 5단은 이번 일본에서 인공지능 프로그램이 프로기사에게 넉점에 승리한 ‘사건’에 별로 놀라지 않았다.

- ZEN이 이번에 프로기사에게 넉점에 이긴 것은 최고 기록이다. 어떻게 보나?

“3년전 ‘은별’이 세계대회에서 우승했을 때 당시 수준으로도 프로기사에게 넉 점 내에 버틸 것으로 봤다. 당시 은별은 겨우 24개의 코어만 갖고도 난다긴다 하는 프로그램들을 꺾었기 때문이다(당시 참가 프로그램 중 가장 많은 코어 장착은 1024개였다). 고사양이 아니고서도 뛰어나기 때문에 스펙을 강화하면 더 막강해진다.

실제로 해 본 것은 아니지만 ZEN과 은별이 지금 맞붙어도 좋은 승부가 될 것으로 본다. 참고로 상용버전과 이벤트버전을 구별할 필요가 있다. 이벤트버전인 경우 보통 인공지능 프로그램은 필요한 연산을 수퍼컴퓨터에 맡기고 수백개에서 천개가 넘는 CPU코어를 장착한다. 제한시간 안에 많은 연산을 하게 하려는 것이다. 프로그램 성격은 상용버전보다 수비지향적으로 조정한다.

이 모든 것은 오로지 이기는 데 주력하려는 의지에서 나온다. 일반인들이 손쉽게 구입할 수 있는 상용버전은 수퍼컴퓨터가 아닌 저사양에 구동하며 재미를 위해 공격적 성향을 주입한다. 그 때문에 승률은 떨어진다.”


- 이번 일본에서 있었던 이벤트에서 인공지능 프로그램의 포석이 세력되지 않고 수읽기가 좋은 것은 역시 몬테카를로 방식을 채택했기 때문인 모양이다.

“많은 이들이 새로운 알고리즘 개발에 힘을 기울이고 있겠지만 지금으로선 몬테카를로 방식이 가장 보편적이고 이것을 넘어선 것은 없는 단계다. 유럽의 연구진처럼 사람을 어떻게 이길 것인가에 치중하는 쪽에서 괜찮은 승률을 가져다주는 몬테카를로 방식에 매력을 느끼는 것은 어쩔 수 없을 것이다.”


- 바둑 관련 인공지능에 몬테카를로 방식을 사용하는 것의 장점과 단점은 무엇인가?

“포석이 약하고 형세판단이 떨어진다. 하지만 사활에 강하다. 포석과 형세판단이 약한 것은 몬테카를로 방식역시 여전히 확률에 의존한다는 사실에는 변함이 없기 때문이다.

알고리즘 자체가 결과지향적이며 이기는 변화인지 주목할 뿐 현재 진행 중인 상황 판단에 맞춰져 있지 않다. 이런 부분은 사람의 사고 방식과 사뭇 다른 점이다. 이번 일본에서 벌어진 넉점 접바둑처럼 흑에게 여러 기착점이 있어 유리한 상황은 몬테카를로 방식을 사용하는 인공지능 프로그램에게 유리하게만 작용하지만은 않는다. 유리한 상황을 지키기 위해 지나치게 안정적으로만 수만 고집하는 상태가 된다. 또 자신이 유리하기 때문에 어디에 두어야 할지 갈팡질팡하는 태도를 보이기도 한다.

형세가 나빠지면 더욱 약점을 보인다. 대국을 마지막까지 시뮬레이션 해봐도 자신이 지는 그림이 많이 나오니까 무리하고 승부수를 던지게 되는데, 자신이 이길 확률을 조금이라도 높이기 위해 그런 행동을 보이는 것이다. 이것은 뭐, 사람이랑도 비슷하다고 할 수 있을지 모르겠지만…”

- 정석이나 포석을 위해 데이터베이스와 추론엔진을 동시에 활용하는 하이브리드 방식이 사용되고 있지 않나?
“많이들 하이브리드 방식을 사용하는 것은 맞는데, 프로그램이 데이터베이스를 적용하는 기간이 짧다. 정석 데이터베이스는 극초반에만 적용하고 곧바로 몬테카를로 방식으로 전환되는 게 보통이다. 확보된 데이터베이스 개별 데이터 개수가 1억이 넘는다 해도 금방 한계에 다다른다. 그리고 하이브리드에서 데이터베이스를 사용하는 건 보통은 정석데이터보다는 몬테카를로 방식에서 후보 착수의 개수를 제한하는 데 보다 많이 사용된다. 후보 착수의 개수를 효율적으로 제한하지 않으면 연산 시간이 무한정 오래 걸릴 것이다.”

- 앞의 내용 가운데 ZEN처럼 이벤트 대국을 치르려면 하드웨어 환경은 어떻게 구성하나?
“세계 도처에 수퍼컴퓨터가 있다. 수퍼컴퓨터를 갖고 이동할 수는 없기에 원거리에서 대여하는 형식을 취한다. 코어를 많이 붙일수록 비용이 많이 든다.”

- 우리나라는 바둑 관련 연구 조건이 좋지 못할 것 같은 데 어떤가?
“영ㆍ미 유럽 같은 곳들은 기초 과학에 대한 학술적 지원이 충분히 이뤄지며, 일본의 경우는 바둑 관련 인공지능 프로그램을 상용화해서 거기에서 나오는 것으로 연구에 재투자가 가능하다. 우리나라는 학술적 지원도 미약하고, 일본처럼 콘텐츠 구매 문화가 성숙하지 않다. 그 때문에 연구ㆍ개발진들은 악전고투하는 실정이다.”

- 얼마 전 김지석 7단과 원성진 9단이 스마트폰으로 인공지능 바둑프로그램과 대국하는 걸 봤다. 19줄 바둑판은 아니고 그보다 13줄 이하의 작은 사이즈로 두는데 이기고 지기를 반복했다. 미니 사이즈 바둑판에서는 인간과 기계가 거의 대등한 단계에 왔다고 볼 수 있을까?
“직접 보지는 못했지만 충분히 그럴 수 있다. 19줄과 13줄 이하는 경우의 수가 차이가 현격하다. 컴퓨터에게 경우의 수를 줄여준다는 것은 높은 승률로 직결된다고 말해도 좋을 정도이다.”

- 현재 기계는 인간에 넉점 치수까지 도달했다. 석점 이상으로 성공하려면 어느 정도의 세월이 걸릴까?
“넉점과 석점의 차이는 크므로 아주 빠르게 극복할 수는 없을 것이다. 바둑은 다른 게임에 비해 확률로만 극복하기엔 너무 ‘넓다’는 점을 상기할 필요가 있다.”

- ‘은별’ 개발ㆍ업그레이드에 참여 중인 것으로 안다. 앞으로 구현하고 싶은 건 어떤 게 있나?
“확률적 접근으로 수천 수백의 CPU코어를 장착한 하드웨어를 혹사시켜 프로기사를 이기는 데 일희일비하는 걸 넘어서야 한다고 생각한다. 코어를 더 붙이면 약간 승률이 더 좋아지는 것은 근본적으로 무슨 변화가 있나? 내가 도전하고자 하는 과제는 ‘사람처럼 사고하는’ 알고리즘을 만들어내는 것이다. 그러니까 두터움을 보면 그 가치를 평가해내고 자신의 약한 곳은 지킬 줄 알고 하는 일련의 방식들이다. 많은 과학자들은 그런 걸 만드는 건 불가능하다고 말한다. 하지만 그런 것이 아니고선 의미가 없다고 본다.”