얼마 전에 2021년도 수학능력시험이 끝났다. 시험문제를 출제한 책임자는 언제나처럼 '정상적인 교육과정'을 앵무새처럼 되풀이한다. 그 말을 믿는 사람은 아무도 없다. 영국의 대표 언론사 BBC는 세계에서 가장 어려운 시험이라는 혹평을 내놓았다. 시험을 통과한 학생이라 해도 대학에 오면 아무것도 모르는 철부지 어린애가 되기 때문이다.

수능시험 가운데 수험생들이 가장 어려워하는 과목은 단연코 수학이다. 왜 그럴까?! 단순 계산과 암기를 수학이라 잘못 알고 있기 때문이다. 어릴 때부터 속셈학원 보내고, 구구단을 강제로 외우게 하는 학부모와 담임 교사가 있는 한 수포자는 양산될 수밖에 없다. 더욱이 중고교에 진학하여 수준 높은 수학과 대면하게 되면 그야말로 천 길 낭떠러지다!

그런 점에서 상해교통대학 수학과의 지즈강 교수가 펴낸 <수학의 역사>는 여러 가지를 생각하도록 인도한다. 표지에 자리하는 '수학을 잘하기 위해 먼저 읽어야 할 책'이라는 구절은 서책의 지향점을 명확하게 드러낸다. 동서양 수학사를 연대기 순으로 차분하게 추적하는 <수학의 역사>는 수학 자체로도 흥미롭지만 문화사로 읽어도 부족함이 없다.

숫자의 탄생과 여행
 

큰사진보기

 
널리 알려진 것처럼 우리가 쓰고 있는 숫자는 인도에서 고전적인 형태를 얻었다. 무엇보다 영(零)이나 공(空)으로 읽히는 숫자 '0'은 불교의 영향 아래 태어났다. <반야바라밀다심경>에 나오는 그 유명한 구절 '색즉시공(色卽是空) 공즉시색(空卽是色)'을 연상하면 이해가 편하다. 아울러 음수(陰數)는 고대 중국에서 처음으로 발견되어 사용되었다.

0부터 9까지의 인도 숫자가 서쪽으로 장거리 여행을 시작한 것은 773년이었다. 하지만 유럽에 도달하기까지 숫자는 오랜 기간 방랑을 거듭했다. 숫자는 마호메트의 추종자들이 건설한 대제국 아바스 왕조의 '바이트 알히크마 (지혜의 전당)'에 먼저 도달한다. 아랍 세계 최초의 통일왕조 우마이야를 뒤이은 아바스 왕조는 동서양 문화의 가교였다.

832년 바그다드에 건립된 '바이트 알히크마'에서 아랍 학자들은 인도와 그리스, 이집트의 수학, 과학, 의학 서적들을 아랍어로 번역한다. 책 한 권을 가져오면 그 무게만큼의 금을 제공했다는 '바이트 알히크마'의 전통이 아랍 세계를 세계 최고의 지식과 정보의 생산-유통의 중심지로 만들었다. 유럽의 르네상스는 '바이트 알히크마'에 힘입은 바 크다.

751년 탈라스 전투에서 고선지의 당나라를 격파한 아바스 왕조는 제지기술자들을 포로로 잡아 제지술을 익힌다. 이로써 아랍 세계의 서책과 도서관에 혁명이 발생한다. 그 결과 숫자는 인도 숫자 대신 아라비아 숫자라는 이름으로 무어인들의 북아프리카와 이베리아반도를 지나 1202년 이탈리아에 도착하여 피보나치의 <산반서>(1202)로 모습을 드러낸다.

그리스 기하학의 발전

이집트에서 가장 먼저 시작된 기하학은 나일강의 정기적인 범람에 근원을 두고 있다. 해마다 범람하는 강물로 인해 기술자들은 사라진 토지의 경계를 새롭게 측량해야 했다. 따라서 이집트 기하학은 실제적인 쓸모를 위해 탄생하고 발전했다. 하지만 이집트 기하학은 근본적인 결함을 안고 있었다는 것이 지즈강 교수의 진단이다.
 

"고대 이집트인과 바빌로니아인, 인도인은 사물을 있는 그대로 바라보았다. 그들의 수학은 '어떠한가?'만을 얘기할 뿐, '왜 그런가?'는 생각하지 않았다. 따라서 이집트 기하학은 체계화되지 못했다. 후발주자인 그리스인들은 어떤 사물이든 근원을 파헤치고 증거를 찾으려 했다. 이런 정신에 힘입어 그리스인은 수학 증명 분야에서 큰 발전을 이뤄냈다." (30쪽)

 
'왜'라는 문제를 천착한 그리스 수학은 유클리드에 이르러 황금기를 맞는다. 그는 기하학의 대상을 명확하게 정의하고, 그것에 기초하여 기원전 300년 무렵 <기하학원론> 13권을 편찬한다. <기하학원론>에는 23개의 정의, 5개의 공준(공리), 465개의 명제가 담겨 있다. 지금까지 <기하학원론>은 각국 언어로 1000여 종 넘는 판본으로 인쇄되어 애독되었다.

유클리드 기하학에 매료된 인물들은 허다하다. 아인슈타인과 러셀을 인용한다.
 

"아인슈타인은 이렇게 말했다. '어렸을 때 유클리드를 읽고 학구열이 솟구치지 않았다면, 여러분은 타고난 과학자가 아니다.' 형에게 유클리드 기하학을 배운 철학자이자 수학자인 버트런드 러셀은 이렇게 썼다. '마치 첫사랑을 하듯 유클리드 기하학에 빠져들었다. 당시 나는 세상에 이토록 재미있는 일이 있을 줄은 꿈에도 몰랐다.'" (44쪽)

'기하학의 정신이 동서양 문명의 분수령'이라면서 저자는 폴 발레리를 인용한다.
 

"서유럽의 과학기술이 세계에서 가장 앞설 수 있던 이유는 유럽에 그리스가 창조한 기하학이 있기 때문이다." (47쪽)

 
르네상스 이후 유럽의 수학

중세 후반 유럽은 기초교육과 문맹 퇴치, 대학의 출현, 고대 그리스와 이슬람의 지식 습득, 사상적 진보(108)로 새로운 시대를 예비하고 있었다. 그 후 '지리상의 발견'이나 '대항해시대'로 일컬어지는 유럽 제국주의의 시기에 수학은 운동과 변화에 주목한다. 항해산업과 대포 같은 화기의 빈번한 사용으로 변화하는 양의 수학에 관심이 집중됐기 때문이다.
 

"선박의 정확한 위치를 측정하는 기술이나, 탄도(彈道) 문제는 기존의 수학으로 해결할 수 없었다. '변화하는 양의 수학'이라는 전혀 새로운 수학이 필요한 시점이 도래했다. 변화하는 양을 다룬 수학에서 거둔 첫 번째 중요한 성과는 '해석 기하학'의 발명이다. 이 분야를 대표하는 수학자는 프랑스의 데카르트와 페르마다." (132쪽)

 
대수학을 철저하게 이해했던 데카르트의 방법론에 기초하여 뉴턴과 라이프니츠가 미분법을 발견한다. 그로써 만유인력 문제가 해결되고, 뉴턴의 수학 체계가 완성에 이른다. 미적분의 탄생은 수학을 새로운 경지로 끌어올렸고, 고전 수학은 종식된다.

19세기에 이르러 대단히 흥미로운 기하학이 탄생했으니, 비유클리드 리만 기하학이다. 리만 기하학의 가장 간단한 모형은 '구면 기하학'이다. 구면 기하학에서는 유클리드의 평행선 공리가 적용되지 않는다. 구면 위에 나란한 두 직선은 존재하지 않기 때문이다. 장거리를 날아가는 비행기의 가장 빠른 노선은 직선이 아니라 곡선이라는 사실에 주목하자.

20세기 수학의 개가

19세기 마지막 해인 1900년 제2차 국제수학자 대회가 파리에서 열린다. 대회의 기조연설자인 다비드 힐베르트는 지금도 통용되는 세 가지 명제를 남긴다.
 

"첫째, 제시된 모든 수학 문제는 명확한 해답을 얻을 수 있다. 둘째, 정답은 아니더라도 긍정적인 해답을 얻을 수 있다. 셋째, 만약 해답이 없다면, 해(解)의 불가능을 증명할 수 있다." (250쪽)

 
힐베르트의 언명은 "대수적 방법만으로 5차 이상 고차 방정식의 해는 구할 수 없다"(171쪽)고 선언한 라그랑주를 염두에 둔 것이다. 그는 수학 사전에 '알 수 없다'는 말은 없다고 주장하면서 우리는 알아야 하고, 알게 될 것이라는 명언으로 기조연설을 마친다.

1993년 6월 케임브리지 대학 뉴턴 수리과학연구소에서 있은 '페르마의 마지막 정리' 증명이 20세기 수학의 개가이자 정점이라고 지즈강은 말한다. 300년 이상 증명되지 않은 '페르마의 마지막 정리'를 완벽하게 풀어낸 앤드루 와일스 덕분에 20세기 수학은 위대한 영광을 거머쥐었다고 그는 쓴다. 21세기 수학은 어디로 가고 있는가?!