재미있는 수학이야기-암호

도청(盜聽)행위가 사회 문제로 등장하게 된 것은 어제 오늘의 일이 아니다.

통화 당사자끼리 주고받는 메세지의 내용을 원하지 않는 제삼자가 도청한다는 것은 명백히 인간의 기본권 침해이다.

내가 갑이라는 사람과 휴대전화 문자 메시지를 주고 받을 때, 제삼자가 보아서는 알 수 없도록 각 자음 모음 대신에 그 다음 글자를 써서 문장을 작성하기로 미리 약속했다고 하자. (이 때 ㅎ은 ㄱ으로 l는 ㅏ로함). 어느날 내가 갑으로부터 받은 메시지가 '야먀ㅈ'이었다면, 이것이 '사랑'이란 단어인 줄 나는 알지만 다른 사람은 모른다.

이것이 이른 바 암호라는 것이다.

이와 같은 암호는 율리우스 시저가 사용한 방법이다.

그는 정치적 또는 군사적 목적으로 누구에게 메시지를 보낼 때 보내고자 하는 문장에 들어 있는 각 글자 대신에 그 다음 글자로써 문장을 다시 썼다.

이를테면 A, B, C, D, …. 는 각각 B, C, D, E, …. 로 바뀌고, I LOVE YOU는 J MPWF ZPV로 바뀐다는 것이다.

물론 메시지를 받는 사람은 그것을 어떻게 원문으로 바꿀 것인지를 미리 알고 있다

독일이 제2차 세계대전을 위해 준비한 하나의 비밀 무기가 '에니그마'라고 불리는 암호화 기구였다.

독일군은 연락 사항을 주고받을 때는 메시지가 연합군에게 넘어가더라도 무슨 뜻인지 알 수 없도록 이 기구를 사용해 암호화했고 독일의 동맹이었던 일본도 에니그마 암호기의 일본어판을 만들어 사용했다.

독일은 아무도 그들의 암호체계를 해독할 수 없으리라고 굳게 믿고 있었지만 영국의 수학자 알란튜링이 에니그마의 암호를 해독했다.

그리하여 전쟁이 끝날 때까지 독일은 자신들의 암호가 영국군에 의해 해독된다는 사실을 몰랐는데 연합국은 독일이 연합군의 유럽대륙 상륙작전 지점을 노르만디가 아니라 칼레로 잘못 예상하고 있다는 사실을 비롯한 독일의 거의 모든 비밀 통신을 도청, 해독했다고 한다.

암호란 것이 옛날에는 주로 군사 기밀을 주고받는데 사용되었으나 오늘날에는 너무나 광범위하게 사용되어 일일이 열거하기 힘들 정도이다.

암호를 만드는 것도 수학이고 해독하는 것도 수학이다.

20세기 중반 이후 가장 많이 쓰이고 쉬운 암호화 기법이 소위 RSA암호라는 것이 있다.

이는 간단하고 쉬운 소수(素數)의 성질을 사용해 만든 것이다.

수학자 페르마는 p가 소수일 때, p의 배수가 아닌 어떤 수 a에 대해서도 a의 p승과 a는 모두 p로 나눈 나머지가 같다는 사실을 발견했다(이를테면 4를 소수 3으로 나눈 나머지도 1이고, 4의3승 즉 64를 3으로 나눈 나마지도 1이다). 이와 비슷하지만 보다 일반적인 또 하나의 사실이 오일러에 의해 발견됐다.

RSA암호는 페르마와 오일러가 발견한 사실에 바탕을 둔 암호와 기법인데, 그 안전성은 아 주 큰 자연수를 소인수 분해하는 것이 컴퓨터를 사용한다하더라도 엄청나게 어렵다는 사실에 바탕을 두고 있다.

암호를 만드는 것도 수학이고 해독하는 것도 수학이다.

수학이 담당해야 할 일은 시간이 흐를수록 끝이 없어 보인다.

황석근(경북대 수학교육학과 교수)