재미있는 수학이야기-문학과의 동질성

수학과 문학의 공통인수를 생각하자면 수학자 또는 수학적 소재의 이야기를 다룬 영화를 떠올릴 것이다.

영화 '뷰티플마인드'는 정신분열증으로 인한 고통과 역경을 이겨내고 마침내 게임 이론에 관한 연구 업적으로 1994년 노벨 경제학상을 받은 수학자 존 내쉬의 파란만장한 인생을 그리고 있다.

1997년 오스카상 최우수 극본상을 수상한 '굳윌헌팅'은 수학적 게임과 아이디어를 소재로 다뤘다.

이런 것들은 수학과 문학 사이의 극히 제한적이고 직접적인 몇 가지 예에 불과하다.

문학과 수학은 모두 상상의 토양 위에서 자라는 꽃이라는 동질성을 가지고 있다.

한편의 짧은 시나 꽁트를 쓸 때도 상상력이 필요하듯 수학에 있어서도 상상력이 꼭 위대한 발견에 대해서만 작용하는 것은 아니다.

작은 상황의 문제를 풀 때도 상상력이란 아름답고 훌륭한 방법을 제공하는 가장 중요한 요인으로 작용한다.

"당신이 현재의 지점에서 남쪽으로 10마일 간 다음 서쪽으로 10마일 가고 다시 북쪽으로 10마일 갔을 때 당신은 원래 출발한 지점으로 가게 된다.

어떻게 이것이 가능하겠는가?". 폴리아의 수학 문제 해결의 지침서와 같은 책'어떻게 문제를 풀 것인가'에 있는 내용이다.

남쪽, 서쪽, 북쪽으로 차례로 10마일씩 간다면 당연히 원래 출발 지점의 서쪽 10마일 지점에 다다르게 되는데 이것이 어떻게 원래의 지점일 수 있을까. 상식을 넘는 이 상황을 해석하기 위해서는 우리는 상식을 뛰어넘는 발상의 전환을 시도해야 한다.

수학과 문학이 공유하는 또 하나의 동질성은 정연한 질서와 규율이다.

점, 직선, 평면과 같이 실존과는 거리가 먼 가상적 대상을 새로운 대상으로 만들고, 그 대상들의 성질을 규명하는 수학적 언어의 전개는 분명 소설처럼 하나의 픽션에 불과하다고 해야 할 것이다.

그럼에도 수학은 마치 실체적 존재인 것처럼 보인다.

수학이란 픽션이 실존처럼 보이는 이유는 그 '픽션'을 전개하는 방식이 가지는 너무나 정연한 질서와 내용이 우리의 현실 내지는 현실적 사유 세계를 모델로 하고 있기 때문이다.

수학적 서술은 항상 가정을 바탕으로 한다.

그러나 바탕으로 삼은 것이 어디까지나 가정, 실체적 존재 의의와는 무관한 문자 그대로의 가정이므로 어떤 수학적 서술은 100% 무의미한 픽션일 수도 있다.

이것이 바로 수학이 갖는 너무나 문학적인 모습이다.

그러면 언제나 낭만적인 모습으로만 비치는 문학은 작가가 연필이 가는 대로 쓰기만 해서 나온 것인가. 엄격한 글자 수와 운율에 바탕을 둔 한시나 정형시가 아니라도 그 이면에 기승전결의 흐름이 있어야 시가 되고, 산만하게 보이는 긴 글이라도 발단, 전개, 정점, 전환, 대단원의 호흡이 있어야 비로소 소설로 이루어진다.

수학보다 더 엄격한 수학이 있어야 문학으로서 존재가 성립한다는 것이다.

또 문학에 있어서 스토리는 독자가 수긍할만한 필연을 가지고 전개된다.

이는 마치 수학적 주장의 추론 과정이 한 단계 한 단계 엄밀한 인과에 의거하여 전개되어야 하는 것과 같다.

수학적 서술을 외향적이고 직접적인 문학의 전개라고 한다면, 문학의 스토리는 우회적이고 간접적인 수학적 논리의 전개라고 할 수 있다.

이것이 곧 우리가 인식하고 있지 못하지만 문학 속에 들어 있는 수학, 수학 속에 들어 있는 문학의 다른 모습이다.

황석근(경북대 수학교육학과 교수)