제3차 세계대전은 '수학의 전쟁'

수학에 게임이론이라는 과목이 있다. 포커를 하거나 고스톱을 칠 때 상대방의 생각이나 행동을 고려하면서 패를 내는 것처럼 각자 자기의 이익을 효과적으로 달성하기 위해 분석하는 이론이다.

한 집단에서 어떤 행동이 자신의 행동에 의해서만 결정되는 것이 아니고 다른 사람의 행동에 의해서도 결정되므로 이 상황에서 자기 자신의 이익이 최대가 되도록 선택하는 방법을 수학적으로 분석하는 이론으로, 천재 수학자 폰 노이만이 이론적 기초를 만들었다.

수학과 암호학

▲**<뷰티풀 마인드>에서 존 내쉬 역을 맡은 러셀 크로우**이매진엔터테인먼트

이 게임이론을 배경으로 한 <뷰티풀 마인드(A Beautiful Mind)>라는 재미난 영화가 있다. 천재 수학자 존 내쉬의 실화를 바탕으로 만든 영화이다. 재미에 걸맞게 제74회 아카데미 영화제에서 감독상, 작품상, 여우조연상, 각색상 등 4개 부문을 석권하여 인기를 얻었다.

존 내쉬는 1950년에 기존 게임이론에 대한 새로운 분석으로 '균형이론'이라는 논문을 프린스턴 박사학위 논문으로 제출하였다. '네가 생각하는 걸 나도 생각한다. 내가 생각하리라는 걸 너도 생각한다'는 불확실한 상황에서 자신의 이익을 극대화하려는 이 이론은 신경제학의 새로운 패러다임을 제시하였다.

그는 수학에서도 탁월한 업적을 이루어는 수학계의 노벨상이라 할 수 있는 필즈 메달(fields medal) 수상 후보에 오르기도 하여 제2의 아인슈타인이라 불린 인물이지만 불행하게도 서른 살을 넘기고부터 오랫동안 정신분열증에 시달렸다. 그러나 모든 것을 스스로 이겨내고 마침내 1994년 노벨상을 수상해, 영화보다 더 극적인 삶을 살았다고 평가받고 있다.

최고의 엘리트들이 모이는 프린스턴 대학원에 장학생으로 입학한 웨스트버지니아 출신의 존 내쉬는 뛰어난 두뇌를 지녔지만 괴짜 천재였다. 그는 기숙사 유리창을 노트 삼아 단 하나의 문제에 매달린다. 어느 날 불현듯 떠오른 '균형이론'의 단서를 발견하고 27쪽짜리 논문을 발표한 20세의 청년 존 내시는 하루아침에 학계의 스타로 떠오른다.

MIT대학 교수로 승승장구하던 그는 정부 비밀요원 윌리엄 파처를 만나 소련의 암호 해독 프로젝트에 비밀리에 투입되고 점점 영혼의 미궁 속으로 빠져들면서 이야기가 진행된다.

이 영화의 중요한 소재로 등장하는 암호에는 수학이 깊숙이 관여되어 있다. 암호는 역사가 깊다. 암호는 인류가 문자를 사용하기 시작하면서 처음으로 등장했을 것으로 짐작된다. 발신자와 수신자만이 이해할 수 있는 방법으로 메시지를 전달하는 암호는 처음에는 주로 군사와 정치적인 목적으로만 사용되었다.

기록에 남아있는 최초의 암호는, 기원전 480년경에 스파르타에서 추방되어 페르시아에 살고 있던 데마라토스가 페르시아의 군대 양성 과정을 예의주시하다가 페르시아의 침략 계획소식을 적은 나무판에 밀납을 발라서 보낸 것이었다고 한다.

고대 로마의 대장군 시저는 브루투스에게 암살당하기 직전 암호로 된 편지를 하나 받았다. 요즘 용어로 쓰면 편지에는 'EH FDUHIXO IRU DVVDVVLQDWRU'라 돼 있었다. 시간이 없어 미처 읽어보지는 못했지만 시저의 암호 숫자는 3이므로 알파벳의 순서를 3자씩 당기면, 즉 D는 A, E는 B, F는 C로 바꿔보면 뜻은 'BE CAREFUL FOR ASSASSINATOR', 즉 '암살자를 주의하라'였다.

전쟁의 향방을 좌우한 암호전

암호는 인류역사를 통해 주로 군사, 외교적인 목적에 사용되어 왔기에 적국의 암호문을 탈취하는 효과적인 방법이 없던 시기에는 암호 해독의 의미가 별로 없었다. 그러나 20세기 초반에 무선통신이 발명됨으로써 모든 정보는 전파로 날아다녔고 또한 전파로 날아다니는 적군의 정보는 얼마든지 수신할 수 있게 되었다.

모든 정보는 암호로 전달되기 시작하였고 일시에 많은 양의 암호문을 입수한 상대방은 방대한 암호문을 즉각적으로 해독하는 작업이 필요했다. 각국은 앞다투어 참모본부 안에 암호를 다루는 부서를 설치하였다.

제1차 세계대전 때는 독일군의 한 잠수함이 침몰하면서 암호집을 영국에 빼앗겼는데 이러한 사실을 모르는 독일이 계속해서 암호문을 보내다 해독되어 결국 항복하게 되었다고 한다. 제2차 세계대전에서는 양측이 모두 매우 정교한 암호를 사용하였는데 연합군이 승리한 주요 원인 중 하나가 암호전에 승리했기 때문으로 알려져 있다.

미국은 1942년 5월 일본군의 암호를 해독함으로써 미드웨이 해전을 승리로 이끌어 당시 기세등등하던 일본 해군의 사기를 일순간에 꺾어버렸고 일본은 패전의 길을 걷게 된다. 영국에서는 처칠 다음으로 2차 세계대전의 영웅을 꼽으라면 독일군이 사용한 암호문을 수학적 논리를 사용하여 빠른 시간 내 해독하는 기계를 만든 '튜링'을 든다.

튜링은 독일의 암호발생 장치인 에니그마 머신의 작동을 반대로 움직이는 암호 해독기 '튜링머신'을 발명하여 전쟁을 유리하게 이끌어 갈 수 있었다. 전쟁이 끝난 후 튜링은 1948년에 맨체스터 대학에서 세계 최초의 컴퓨터인 ACE를 만들었다.

흔히 제1차 세계대전은 독가스가 등장하였기에 화학의 전쟁이라 불리고 제2차 세계대전은 원자폭탄이 사용되었기에 물리학의 전쟁이라 불린다. 앞으로 제3차 세계대전이 일어난다면 이는 전쟁에서 가장 큰 위력을 발휘할 정보제어가 수학에 달려 있기 때문에 '수학의 전쟁'이 될 것이라고들 한다.

오늘날에도 가장 복잡한 암호 체계를 사용하는 곳은 역시 국가의 안보를 책임지고 있는 군사 분야이겠지만 컴퓨터의 발달로 인터넷이 생활화되면서 은행 입출금, 텔레뱅킹, 인터넷 상거래 등에서도 암호는 절대적으로 중요한 역할을 하게 되었다. 과학과 기술의 발달로 전쟁 때나 쓰일 법한 암호가 생활필수품이 되어간다.

여러분도 인터넷 사이트에 들어가려다 비밀번호 때문에 곤욕을 치른 일이 한두 번은 있을 것이다. 비밀번호가 여러 개 필요하다 보니 곧잘 잊어버리기도 하고 수첩에다 적어 놓으려니 노출되기 쉽다. 그래서 비밀번호에 또 비밀번호가 필요하다.

소수를 이용한 공개키 방식

간편하면서도 다른 사람이 풀기 어려운 암호는 없을까? 그래서 나온 방법이 공개키 방식이다. 1970년대에 키가 공개된 새로운 암호 체계가 나왔다. 이와 같은 암호에 기본적인 이론을 제공한 것이 '소수(素數)'이다. 소수는 2, 3 5, 7, 11처럼 1과 자기 자신 외에는 나누어지는 수가 없는 수를 말한다.

소수에 대한 연구는 2300년간 계속 되었지만 소수의 연구가 쓸모없는 학문이라고 주장하는 사람도 많았다. 하지만 이 소수가 암호학에 결정적인 기여하게 된 것이다. 중요한 정보를 두 개의 소수로 표현한 후 그것의 곱을 힌트와 함께 전송해 암호로 사용할 수 있다는 아이디어이다.

아무리 속도가 빠른 컴퓨터라도 아주 큰 소수 두 개를 곱한 수에서 소수 두 개를 알아맞히는데 많은 시간이 걸린다. 숫자를 크게 해서 '2의193제곱-1'와 같은 수이면 성능 아주 좋은 컴퓨터로 이 수를 만든 소수를 찾는데 걸리는 시간이 3만년보다 더 걸린다고 한다. 이렇게 디지털 시대가 오면서 소수의 진가가 살아났다.

덧붙이는 글 | 시민기자 기획취재단 응모 원고입니다.

덧붙이는 글 시민기자 기획취재단 응모 원고입니다.

오탈자 신고