1.

우리가 사는 세상과 일상의 삶을 두루 살펴보면 수없이 많은 숫자들이 보인다. 전화번호와 주소 번지수, 달력 날짜와 손목 시계가 가리키는 시간, 주민등록번호와 여권번호, 은행 통장의 계좌번호와 여러 신용 카드의 비밀번호……. 이처럼 조금만 둘러보아도 우리가 사는 이 세계의 공간과 시간뿐만 아니라 우리 삶의 구석구석에서도 놀랄 만큼 다양한 숫자들이 발견된다.

우리가 지금 누리고 있는 현대 문명이 기반하고 있는 정치경제체제, 즉 민주주의와 자본주의가 수에 기초한 체제이기에, 이것은 그리 놀랄만한 일이 아니다. 모든 인간이 동등하다는 기본 이념에 입각해서 민주주의는 인간을 하나의 수로 헤아리게 되었고, 모든 것을 화폐 가치로 환원할 수 있는 자본주의는 인간의 삶이 필요로 하는 모든 것들에 숫자를 매겨놓았다.

따라서 우리가 초∙중∙고등학교 12년 교육과정 동안 한 해도 빼놓지 않고 수학을 배우는 것은 당연한 일인 것이다. 수에 기초하고 있는 현대 문명을 제대로 이해하기 위해서는 수를 다루는 학문인 수학의 이해가 필수적이다.

하지만 내가 학교에서, 특히 고등학교에서 배웠던 수학을 돌이켜 생각해보면 머리가 지끈지끈 아파온다. 난해한 공식을 무조건 달달 외우고, 비비 꼬인 문제를 푸느라 머리를 쥐어짜면서 계산을 해야 했던 끔찍한 시간들이 떠오른다. 중∙고등학교 시절에 ‘수학 없는 세상에서 살고 싶다’고 생각한 사람이 어디 나 하나뿐이었으랴!

그런데 여기 대담하게도 “수학은 하나의 철학이며, 기발한 상상력에 가득 찬 시요 문학이며, 동화적 세계이기도 하다.”라고 말하는 이가 있다. 우리 시대에 가장 전위적인 지식인 중 하나로 손꼽히고 있는 이진경이 바로 그 사람이다. 그는 <수학의 몽상>이라는 책에서 “수학이 제공하는 새로운 상상력의 경이로운 기쁨과 아름다움은 시적 상상력에 결코 뒤지지 않는다”라고까지 말하고 있는데, 과연 그럴까?

2.

큰사진보기

수학이 흥미로운 창조의 세계라기보다는 반대로 끔찍하고 지겨운 숙련의 세계로 보이는 것은, 제도권을 장악한 수학자들이 대개는 진리의 수호를 자임하는 엄한 경찰에 가까워서 그럴 것이다. 그러나 실제로 수학의 역사를 풍요롭게 하고 밑바탕에서 이끌어온 것은 창의적인 상상력과 자유로운 비판의 정신이었다.

그것은 많은 경우 엄격함의 그물에 사로잡히곤 하지만. 어느새 그것을 뚫고 나가는 탈주의 선을 그린다. 지금부터 우리가 들어가려고 하는 근대 수학의 역사는 이 두 종류의 힘이 서로 교차하고 충돌하면서 끊임없이 새로운 것을 창조하는 역동적인 과정을 보여줄 것이다. (33-34쪽)

이처럼 <수학의 몽상>은, 난해하고 복잡한 갖가지 수학 이론들에 초점을 맞추어 설명하는 좁은 관점을 벗어나서 수학의 역사라는 보다 넓은 시각에서 그러한 수학 이론들이 등장하게 된 배경과 과정까지도 체계적으로 더듬어 보고 있는 책이다.

그가 수학의 역사를 통해서 우리에게 보여주고 있는 수학의 참모습은 우리가 익히 알고 있던 엄격하고 무미건조하고 끔찍한 모습이 아니라 참으로 변화무쌍하고 흥미로우면서도 유쾌한 모습이어서 우리를 놀라게 한다. 유명한 회화 작품들과 사진들, <솔라리스>나 <원초적 본능>과 같은 영화들, 고딕 성당 건축물 등 그가 제시하고 있는 다양한 사례들에서 우리가 마주치게 되는 수학의 참모습은 경이로우면서도 유쾌하다.

이진경은 독자들이 이 책을 읽으면서 이렇게 유쾌하면서도 즐거운 수학을 체험할 수 있도록 많은 신경을 썼다. 난해한 단어와 문장, 딱딱하고 지루한 문체, 무겁고 엄격한 문투 대신 우리에게 보다 친근한 <이상한 나라의 앨리스>와 같은 동화나 소설, <파우스트>와 같은 희곡이나 시나리오, 익살맞은 논문 등 여러 스타일을 넘나들고 있다. 또한 수학사에는 등장하지 않는 인물이나 심지어 허구적인 전설까지 만들어 내고 있다.

그러면서도 ‘탈주의 철학자’라는 그의 별명에 걸맞게 진지함을 잃지 않고 있다는 것이 또한 이 책의 미덕이라 하겠다. 그는 수학의 역사를 통해서도, 경계를 넘나들며 횡단하는 자유로운 사유의 궤적들, 그리고 때로는 수학의 뿌리까지 뒤집어버리는 전복적이고 혁명적인 사유의 양상들까지도 포착해 내어 우리에게 보여주고 있다.

그에 따르면, 이집트와 그리스의 기하학과 인도와 아라비아의 대수학이라는 두 영역으로 나뉘어서 각기 독자적으로 발전해 오던 수학은 17세기 근대에 이르러 비약적인 발전의 계기를 맞는데, 그 때 결정적 기여를 한 것이 바로 미적분학이었다.

뉴턴과 라이프니츠에 의해서 창안된 이 새로운 이론은 기하학을 대수화하는 과정에서 탄생했지만 이 둘과는 별개로 ‘해석학’이라는 독자적인 수학의 영역으로 자리잡는다. 미적분학은 특히 당시 근대 과학 혁명을 이끌고 있던 학문인 물리학의 여러 법칙들을 설명하는데 있어서 더없이 유용했기에 ‘수학의 마술사’라고 불릴 정도로 각광을 받으면서 이후 150여 년 동안 그 영역을 넓혀가면서 빠르게 발전했다.

그러나 미적분학이 근거하고 있던 ‘무한소’라는 개념, 다시 말해서 ‘0은 아니지만 결국에는 0으로 취급하게 되는 무한히 작은 양’이라는 개념은 수학적으로 이해하기에는 너무도 모호한 개념이었다. 그래서 19세기에 들어서면 가우스와 같은 엄격한 수학자들에게 두려움과 증오의 대상이 됨으로써 위기를 맞게 되었다.

한편 기하학에서 있어서도 19세기는 위기의 시기였다. 그 동안 절대적 진리로 여겨졌던 유클리드 기하학이 로바체프스키나 리만과 같은 수학자에 의해서 도입된 비유클리드 기하학의 등장으로 그 뿌리부터 흔들리게 되었기 때문이다.

따라서 이러한 위기에 접한 19세기의 수학자들이 수학에 엄밀성을 부여하고 안정적이고 믿을 만한 기초를 찾으려고 노력을 기울이게 된 것은 너무나 자연스러운 일이었다.

이처럼 엄밀한 근거, 확고한 기초를 찾으려는 19세기 수학자들의 노력은 결국 산수와 대수, 혹은 그것들의 기초에 있는 수 자체를 향해 나아갔다. 수학이 수를 다루고, 수적인 질서를 다루는 것인 한 기초를 찾으려는 노력이 수를 향해 나아간 것은 어쩌면 당연하고 자연스런 것인지도 모른다. 해석학을 산술화하고, 기하학을 대수화하려는 노력과 다른 차원에서 수 자체의 질서를 근본적으로 검토하고 정돈하려고 했던 칸토어의 시도가 자리잡고 있는 것도 바로 이런 전반적 흐름 속이었다. ‘집합’이라는, 수학의 가장 기초적인 개념이 탄생한 것도 바로 이런 맥락에서였다. 이런 점에서 그것은 근본주의적 발상을 더욱 근본으로 밀고 나가려는 것이었다. (200-201쪽)

칸토어는 수학체계를 실수론으로 환원해서 확고하고 안정된 기초를 놓으려고 했으며, 그 과정에서 수론의 기초로서 ‘집합론’이 탄생하게 되었다. 그러나 무한히 연속되는 수인 실수를 모순 없이 담아낼 수 있는 도구로 여겨졌던 그의 독창적이고 기발한 집합 개념도 결국 ‘칸토어의 역설’이라는 난관에 봉착해서 좌초하고 말았다.

집합론의 좌초와 그 뒤를 이은 여러 역설들의 출현을 맞이하여 20세기 수학자들은 ‘수학기초론’이라는 새로운 분과학문까지 만들어냈지만, 그 결과는 어느 것도 성공하지 못했다. ‘엄밀성’을 주문처럼 외면서 흔들리지 않는 수학의 기초를 놓으려고 했던 19세기 이래의 편집증적인 시도는 그렇게 끝이 났다.

그 마지막 장을 장식하고 있는 것이 바로 그 유명한 괴델의 ‘불완전성의 정리’이다. 괴델은 모든 공리계(혹은 공준집합)가 공리만으로는 참인지 거짓인지를 결정하는 게 불가능한 명제를 포함하고 있다는 것을 증명한 것이다. 다시 말해 어떠한 공리계도 불완전하다는 것이니, 이것은 확고하고 절대적인 수학적 진리는 존재할 수 없다는 의미였다. 그렇다면 수학은 이제 끝인가?

수학의 기초를 확보하려는 시도가 실패로 끝났다는 것이 수학의 종말을 의미한다고 생각한다면 정말 우스운 일일 것이다. 그것은 다만 수학을 하나의 틀, 하나의 기초에 가두려는 시도가 종말에 이른 것을 뜻할 뿐이다. 따라서 그 실패는 새로운 자유, 사실은 언제나 수학에 있었고, 언제나 수학과 함께 했던 오래된 자유를 뜻할 뿐이다. ‘수학의 본질은 자유’라는 칸토어의 말은 혹시 이런 의미의 예언이 아니었을까? (248쪽)

3.

그렇다. 이진경의 말처럼 수학은 끝나지 않았다. 예전보다 자유의 폭이 훨씬 신장된 오늘날, 수학은 그만큼 우리에게 더욱 가까이 다가서서 우리의 삶을 둘러싸고 있다. 계산하는 생활, 모든 것을 계산하려는 문명 속에서 살고 있는 우리 현대인의 삶에 있어서 수학은 하나의 사고방식이자 삶의 방식이 된 것이다.

우리가 살고 있는 이 시대는 숫자로 환원할 수 없는 것은 거의 없다고 해도 무방할 정도로 수의 지배가 이루어지고 있는 시대여서 수학을 배우는 것은 언어를 배우는 것 못지 않은 중요성을 갖게 되었다. 아니, 어느 면에서는 수는 말을 압도하는 우리 시대의 새로운 언어인지도 모르겠다.

<수학의 몽상>은 우리가 학교에서 배운 그 지겹고 난해하고 끔찍했던 수학이, 졸업을 하고 나면 이내 죽어버리고 마는 쓸데없는 말들이 아니라 우리 일상의 삶 속에서 펄떡펄떡 살아 숨쉬는 말들이라는 사실을 새롭게 깨닫게 해준다. 이 책은 수학에 대한 당신의 오랜 증오를 순식간에 열렬한 사랑으로 바꾸어 놓을 것이다.