큰사진보기
▲  10일 오후 서울 포시즌스호텔에서 열린 이세돌 9단과 알파고의 두번째 대국에서 아마 6단인 아자 황 구글 딥마인드 리서치 사이언티스트(왼쪽)가 알파고 대신 흑돌을 놓고 있다.
ⓒ 구글 제공	관련사진보기

세계 최고의 바둑 기사인 이세돌 9단이 인공지능 알파고에 충격의 2연패를 당했다. 지금까지 바둑은 너무 많은 변수 때문에 인공지능이 인간을 따라잡을 수 없을 것이라는 평가가 우세했던 종목이다. 그런데 이번 대국에서 이세돌 9단은 이미 2번을 졌다. 딥마인드의 개발자조차 충격을 받은 듯하다. 알파고를 통해 세계에 드러난 인공지능에 대해, 인간은 두려움을 가질 수밖에 없다.

인간은 알파고와 이세돌의 대국을 바라보며 인공지능에 갖는 깊은 두려움의 실체를 목격하였다. 그것은 바로 세계 최고의 바둑 고수들이 알파고의 수를 예측하지 못했다는 것에 있다.

해설자들은 바둑이 진행되는 내내 알파고가 두는 수의 의미를 알기 어렵다는 말을 했다. 인간이면 두지 않을 수지만, 놓고 보니 절묘하다는 말도 수차례 언급되었다. 만약 이세돌 9단이 이겼다면, 의미를 읽기 힘든 수들이 실수가 되어야 한다. 하지만 졌기 때문에 이유를 알지 못한 그 수들의 의미는 수수께끼가 되었다.

만약 이세돌이 남은 경기에서도 패한다면, 의미를 알 수 없던 알파고의 한수 한수는 인간이 연구해야 할 바둑의 미지의 영역이 될 것이다. 인간이 이해하지 못하는 인간보다 뛰어난 지능. 침팬지가 인간을 이해하지 못하듯, 이제 인공지능은 인간이 이해하지 못하는 영역을 내딛게 되는 것이다.

인간과 다른 지능에 대해 공포감을 가질 수밖에 없는 이유는 인간이 다른 지능에 보인 역사적 태도 때문이다. 인간은 지구상에 존재하는 모든 생물을 폭압적으로 탈취했다. 이성의 힘으로 생태계의 모든 존재에 비해 우월하다고 느낀 인간은, 전 세계에 걸쳐 인간 이외의 모든 존재들을 수탈했다. 침팬지가 인간을 알지 못해 느끼는 공포를 인간이 느낀다는 말은, 인간이 침팬지에게 했던 행동을 인공지능이 우리에게 할지도 모른다는 것에 대한 공포다. 인간이 인간보다 하등한 존재를 대하듯, 인공지능이 인간을 대한다면. 인간의 미래는 어떻게 될 것인가.

뇌과학자들은 인공지능을 약한 인공지능과 강한 인공지능으로 나눈다. 약한 인공지능은 알파고와 같이 딥러닝의 알고리즘을 활용해 인간의 인식, 판단, 추론 능력을 따라잡는 지능을 뜻한다. 약한인공지능이 도래한 것만으로도 이미 인간은 일자리의 대부분을 인공지능에게 넘겨줘야만 하는 상황이 되었다.

이번 이세돌 9단과 알파고의 대국은 바둑과 같이 천문학적인 변수에 대응하는 영역에서도 인공지능이 인간보다 훨씬 뛰어난 판단을 할 수 있다는 것이 증명된 것이다. 하지만 약한 인공지능은 어디까지나 인간 활동의 일부를 대신하는 부분적 영역에 해당한다. 약한 인공지능은 여전히 인간의 감시와 통제를 받는다. 세계 대다수 사람들이 일자리를 잃고 실업자가 된다고 하더라도, 약한 인공지능이 인간의 지배를 받는다는 사실은 변하지 않는다.

강한 인공지능은 다르다. 강한 인공지능은 자아를 가진 인공지능을 뜻한다. 지금 인공지능은 인간이 주입한 목적을 향해 움직이지만, 강한 인공지능은 스스로 목적을 만들어 낼 수 있게 된다는 것이다. 자아를 갖게 된 인공지능은 인간을 어떻게 '판단'할 것인가? 인간이 인공지능에게 가지는 진짜 공포는 여기에 있다. 모든 곳에서 인간의 영역을 초월한 인공지능이 자아를 갖고 인간을 생각하고 판단할 때 인간의 미래는 어떻게 될 것인가. 이때 인간이 우리 스스로의 역사를 되돌아본다면 비참해질 수밖에 없다.

학계에서는 강한 인공지능이 나올 수 있느냐는 말에 '모른다'고 대답할 수밖에 없다고 말한다. 하지만 나오지 않는다고 확신할 수도 없다고 말한다. 원래는 약한 인공지능도 나올 수 없기 때문이다. 강한 인공지능은 이미 가능성만으로도 재앙이다. 하지만 인간이 그것을 통제할 수 있는 방법을 갖고 있는가.

문제는 속도다. 인간이 인공지능의 가능성과 한계를 알기도 전에, 인공지능의 진화 속도는 이미 통제가 불가능할 정도로 빠르게 성장하고 있다. 알파고는 태어난 지 고작 1년 만에, 10의 170제곱의 확률을 헤쳐내고 세계 바둑 최강자 이세돌 9단을 이겨냈다. 인간이 반성하고 성찰하고 합의에 이르는 시간보다, 인공지능이 각 영역에서 인간의 영역을 초월할 가능성이 훨씬 크다. 스티븐 호킹과 같은 세계적인 물리학자는 인공지능에 대한 연구를 중단해야 한다고 말한다. 우리는 이 말을 깊게 곱씹어 볼 필요가 있다.