[김구철의 富의 비밀수학]게임이론과 집합론

김구철 경기대 미디어학부 특임교수

현대 수학에는 일반인의 생각으로는 수학 느낌이 별로 안 드는 분야가 꽤 많다. 게임의 당사자들이 어떤 선택을 할 때 상대방이 어떤 선택을 할 것인지를 연구하는 게임이론이 그 하나다. 서로를 믿지 못해 최악의 결과를 떠안게 되는 '죄수의 딜레마', 서로가 끝까지 고집을 피우는 '치킨 게임' 등이 잘 알려진 사례다. 우리에게 익숙한 제로섬(zero sum·零合) 게임은 한 당사자가 이익을 보면 상대방은 그만큼 손실을 보는 게임이다. 동서양의 카드 놀이, 화투나 트럼프는 본질상 제로섬 게임이다. 상대방의 손해 없이 일방이 이익을 보는 난제로섬(non zero sum·非零合) 게임도 있다. 최상의 게임은 게임 참여자 모두 이익을 보는 윈윈 게임이다. 여야 협상, 노사 협상, 국가 간 협상은 제로섬 게임, 난제로섬 게임, 윈윈 게임 모두 될 수 있다. 게임 당사자가 서로 최선의 선택을 해서 전략을 바꾸지 않는 상태를, 노벨 경제학상을 받은 내쉬의 이름을 따서 내쉬 균형이라고 한다.

집합론(集合論)도 있다. 어떤 조건을 가진 요소의 모임을 '집합'이라 하고 집합의 성질을 연구한다. 분명히 전체와 부분은 다른데, 집합 A의 '부분집합'에는 집합 A 자체도 포함되며 A를 제외한 부분집합은 '진부분집합'이라 한다. 일상의 언어 관념 때문에 부분집합과 진부분집합은 항상 혼란스럽다. 하노이 북미 정상회담에서도 그런 문제가 벌어졌다. 북한이 비핵화 대상을 내놓을 때는 극히 작은 몫을 '부분집합'으로서 제시했고, 요구할 때는 매우 큰 몫을 '부분집합'이라고 말했다. 미국은 당연히 집합의 전체 '원소'끼리 맞교환하자고 맞받아쳤다.

두루뭉술한 집합개념으로 협상하려던 북한의 전략이 통하지 않은 셈인데, 앞으로 협상은 부분집합의 크기를 놓고 치열한 수 싸움이 예상된다. 북한과 미국이 하노이에서 드러내 보인 카드로 '내쉬 균형'이 이뤄지는 일만은 벌어지지 않기를, 그래서 윈윈 게임으로 마무리되기를 간절히 바란다.