"게임의 승패는 전략 간의 균형이 핵심이다."

"게임의 참여자 모두가 하나의 결론에 도달했을 때, 즉 모든 참여자가 자신의 선택이 최선이라고 여겨 더 이상 전략을 변화시킬 의도가 없는 경우 '균형'에 도달한 것이다. 모두가 자신에게 맞는 최선의 전략을 선택하고, 그 선택의 결과가 모두에게 공평할 경우 이것이 바로 이론상 최적의 '균형 상태'이다."

실비아 네이사의 베스트셀러 <뷰티풀 마인드>와 동명의 영화 주인공이기도 한 수학자 존 내쉬(John Forbes Nash Jr. 1928~). 그는 아담 스미스의 '보이지 않는 손' 이론을 정면으로 반박하는 '균형이론'으로 1994년 노벨경제학상을 수상했다. 내쉬는 자신의 선택이 상대방의 결정에 어떻게 영향을 미치고 역으로 상대방의 전략이 자신에게 어떤 영향을 미치는가를 감안해 게임 참여자가 최종적으로 어떤 결정을 내릴지를 이론적으로 설명했다. 모든 참여자들이 상대의 선택을 감안해 내린 자신의 선택이 최선이라고 여기는 상태에 이르면 이를 '내쉬 균형'이라고 불렀다. 죄수의 딜레마에서는 모든 참가자들이 배신(자백)하는 상태가 내쉬 균형 상태이다.

만약 당신이 범죄자라면…. 기분 나쁘더라도 이해하시길 바랍니다. 당신이 친구와 함께 사고를 쳤습니다. 어떤 사고라고 할까요? 청와대 화장실에 'MB, 이 빵꾸똥꾸야!'라는 낙서를 했다고 할까요. 엄청난 범죄죠. 이 나라의 가장 지엄하신 각하에게 '빵꾸똥꾸'라는 무지막지한 욕을 했으니까요. 청와대도 모자라서, 공공기관의 화장실은 물론 지하철 구내에 있는 공중 화장실에도 그 낙서를 했다니요.

꼬리가 길면 잡힌다고, 한 변태가 지하철 화장실에 설치해 놓은 '몰카'에 딱 걸렸지요. 그런데 검찰이 변태에게 뒷돈 주고 산 '야동'은 당신들을 현행범으로 만들 수는 있지만, 대한민국을 발칵 뒤집은 연쇄 낙서사건의 동일범으로 만들기에는 부족했습니다.

자백만이 유일한 물증이라고 본 검찰청장은 심리수사에 일가견이 있는 검사를 긴급 호출했습니다. 검사는 두 개의 밀폐된 방에 당신들을 나눠서 넣었지요. 그리고는 먼저 당신에게 말합니다. "너희들의 범행을 자백하면 먼저 자백하는 놈은 석방하고 그렇지 않은 놈은 10년 형에 처할 것이다. 만약 두 놈 모두 자백하면 5년 형에 처한다." 물론 당신의 공범에게도 똑같은 말을 합니다. 자, 그렇다면 당신은 어떤 선택을 하겠습니까?

'미련한 경쟁'의 딜레마

이것이 유명한 '죄수의 딜레마(Prisoner's Dilemma)'입니다. 1950년 미국의 과학자들이 수학자 존 내쉬의 '균형이론'을 적용해 개발한 것입니다. 당시는 2차 세계대전이 끝나고 동서 냉전이 본격화되던 시기였습니다. 2차 세계대전은 히로시마와 나가사키를 통해 핵무기의 무시무시한 살상력을 인류에게 확인시켜 주었습니다.

한편으로는 양 진영의 초강대국들에게 핵무기 보유의 유혹 역시 안겨주었습니다. 그런데 동서 냉전과 함께 핵무기 개발경쟁에 들어선 미소 양국은 딜레마에 빠졌습니다. 엄청난 비용은 물론 국민의 불안과 반발을 초래하면서까지 대량살상무기를 개발해야 하는가 하는 점입니다. 더구나 핵무기는 엄청난 살상력은 물론 심각한 후유증으로 인해 함부로 사용할 수도 없는 무기입니다.

'함부로' 정도가 아니라 실제 사용과 동시에 상대로부터의 보복공격을 예상한다면 핵무기를 먼저 사용한 나라도 그만큼의 피해를 감수할 수밖에 없어 실제로는 사용할 수 없는 무기라 해도 과언이 아닙니다. 결국 사용하지도 못할 무기를 경쟁적으로 생산해야 하는 상황에 빠지게 된 것입니다.

이때 미소 양국이 선택할 수 있는 가장 현명한 방법은 '함께' 핵무기를 만들지 않는 것입니다. 그러나 현실은 그러지 못했습니다. 군사적 우위를 점해야 한다는 유혹, 또는 양국의 '약속'에도 불구하고 상대방이 약속을 어겨 비밀리에 핵무기를 만드는 상황에 대한 공포 등이 작용한 것이지요.

결국 누구도 분명한 우위를 점할 수 없는 '미련한 경쟁'이 지금까지 지속되고 있는 것입니다. 핵 확산과 군비경쟁으로 치닫는 상황에서 군사 전략을 목적으로 개발한 이 딜레마가 지금에 와서는 심리학, 경제학, 사회학 등 여러 분야에서 활용되고 있습니다.

공범 믿고 자백하지 않을 자신 있나?

그럼 다시 처음의 문제로 돌아가서…. 당신은 어떤 선택을 했습니까? 당신은 공범을 믿고 자백하지 않고 버텼습니까? 당신의 공범 역시 당신을 믿고 버텼다면 두 사람은 화장실 낙서 건으로 1년만 감옥살이를 하면 됩니다.

그러나 당신의 공범이 범행을 실토했다면 덤터기를 쓴 당신은 무려 10년 간 감옥에서 썩어야만 합니다. 최선의 결과는 당연히 둘 다 1년만 사는 거겠죠. 그러기 위해서는 두 사람이 확고한 믿음을 가지고 함구해야만 합니다. 물론 당신은 그럴 자신이 있겠죠?

그러나 현실은 그렇게 간단하지 않습니다. 먼저 당신이 범행을 부정(협력)한다고 생각해 봅시다. 공범도 협력을 선택하면 당신은 1년 형을 선고받아 당신이 자백(배신)했을 때(석방)보다 손해를 보게 됩니다. 공범이 자백(배신)을 선택하면 당신은 10년 형을 선고받아 더 큰 손해를 보게 됩니다. 어느 쪽도 당신에게는 손해입니다.

그렇다면 공범이 자백(배신)할 것이라는 가정을 한다면 당신은 어떤 선택을 해야 할까요? 당신이 범행을 부정(협력)하면 10년 형을 선고받아 자백(배신)해 5년 형을 받는 것보다 손해를 보게 됩니다. 결국 당신은 공범의 의중과 관계없이 '배신'을 선택하는 것이 더 낫다는 결론에 도달하게 됩니다.

죄수의 딜레마는 모든 사람이 자신의 이익만을 최대한으로 추구(합리적 선택)한다는 가정 하에 움직이며 그 결과 더 나쁜 결과를 얻는다는 것입니다. 죄수의 딜레마를 해결하는 방법은 '상호 신뢰'에 근거한 '협력' 밖에 없습니다.

그런데 '모든 사람이 자신의 이익만을 최대한으로 추구'한다는 이 대목, 어디선가 들어본 것 같지 않습니까? 그렇습니다. 아담스미스의 '이기적인 개인'입니다. 아담스미스는 국부론을 통해 "개인이 오로지 자신의 이익만을 추구할 때 사회적 이익이 충족된다"고 주장했는데 오늘날 자본주의 시장을 움직이는 기본 원리(물론 현실과는 거리가 먼)가 되고 있습니다. 아담스미스의 이론을 반박한 죄수의 딜레마는 자유롭게 이익을 추구하는 개인들이 '보이지 않는 손'에 의해 조화를 이룬다는 자본주의 시장철학을 비웃는 논리라고도 할 수 있습니다.

부동산 폭락을 부르는 죄수의 딜레마

경제 현상 중에도 죄수의 딜레마가 나타나곤 합니다. 종종 이동통신업체 간의 출혈을 감수한 마케팅 경쟁을 우려하는 기사들을 볼 수 있습니다. 50만 원짜리 '공짜폰'이 수십 종에 이르고 돈을 주고 가입자를 끌어오는 소위 '마이너스폰'까지 등장했다죠. 경쟁이 치열했던 작년 5월에만 휴대전화의 번호이동 건수가 무려 90만 건에 육박했다고 합니다. 덕분에 소비자들은 공짜 폰이 생겼다고 좋아했겠지만 조금만 생각해보면 그렇지 않습니다.

과도한 마케팅 비용 때문에 기업들의 수익성이 악화되고 그것은 다시 기존 가입자에 대한 서비스 품질의 악화로 돌아오기 때문입니다. 경쟁관계에 있는 기업은 물론 소비자에게도 좋은 일이 아닌 것입니다. 과도한 판매 경쟁에 대한 우려와 비난이 쏟아지면서 통신업체들이 서비스 개선을 약속했지만 과열 경쟁이 좀처럼 수그러들지 않습니다. 죄수의 딜레마에 빠진 것이죠.

업체들이 모여서 과도한 마케팅 경쟁을 벌이지 말자고 약속했음에도 불구하고 상대방이 그 약속을 어겨 가입자를 모두 빼앗기는 것 아닌가 하는 불안에 빠져들게 된 겁니다. 결국 업체들은 판촉 경쟁에서 헤어 나올 수 없어 지속적으로 비용이 증가하게 되고, 소비자도 서비스 악화의 고통을 겪게 되는 수렁 속에 빠져든 거죠.

다른 예를 하나 더 들어 볼까요. 최근 부동산 가격이 꼭짓점에 도달했다는 이야기들을 많이 합니다. 그 신호 중 하나가 매물의 증가입니다. 부동산 가격이 정점에 도달하면 팔려고 내놓는 사람은 증가하는 반면, 수요는 줄어들기 때문입니다. 마케팅 이론에 따르면 물량이 증가하면 사는 사람이 우위에 있는 '바이어스 마켓(Buyer's Market)'으로 전환해야 하지만, 현실은 그리 쉽지 않습니다.

바이어스 마켓에서는 파는 쪽이 양보를 해야 거래가 성사되지만, 정점에서의 부동산 가격은 쉽게 떨어지지 않습니다. 정점에서 평평한 상태를 상당기간 유지하는 것이지요. 일본의 부동산 버블 당시에도 가격이 정점에서 3~4년간 유지됐습니다. 부동산을 팔려는 사람들이 죄수의 딜레마에 빠지기 때문입니다.

동네 복덕방에 집을 높은 가격에 내놓았지만, 그 가격으로 팔릴 수 있을 거라곤 생각하지 않습니다. 비슷한 대의 가격으로 나와 있는 집이 부동산 시장에 꽉 차 있지만, 정작 집값이 너무 높다는 생각에 수요자가 없기 때문입니다. 반면 매물을 내놓은 집 주인들은 직접적으로 '담합'을 하고 있지는 않지만 현재의 집값에서 떨어지기를 바라지 않기 때문에 공범의 상태에 있습니다.

팔리지 않은 매물들이 꽉 찬 부동산 시장을 '감옥'이라 한다면 그가 감옥에서 빠져 나갈 수 있는 방법은 오직 하나, 집값을 낮게 부르는(자백) 길입니다. 일부 사람들이 낮은 호가를 부르고 시장에서 빠져 나간다면 당신은 더 오랫동안 감옥에 갇혀 있어야 합니다. 수요자들은 집값이 더 떨어지기를 기다릴 테니까요.

결국 당신이 자백의 기회를 놓치고 시간을 끌면 끌수록 더 큰 손해를 감수해야만 합니다. 시간이 점점 흐르고 누군가 엄청나게 낮은 가격으로 집을 팔고 시장에서 빠져 나가기 시작합니다. 이쯤 되면 너도나도 감옥에서 나오기 위해 발버둥을 치게 되고 부동산 가격은 폭락하기 시작합니다. 결국 시간의 차이가 존재하지만 모두 자백하는 길을 선택하는 죄수의 딜레마는 부동산 시장의 폭락으로 귀결되고 맙니다.

죄수의 딜레마=자본주의의 딜레마

자본주의 시장에서는 이처럼 죄수의 딜레마가 질곡처럼 작용하는 경우가 적지 않습니다. 독자 여러분께서도 이런 사례들을 한 번 찾아보시기 바랍니다. 한편 이런 죄수의 딜레마는 전혀 엉뚱하게 활용되기도 합니다. 기업들의 담합을 잡아내기 위한 '리니언시 프로그램(Leniency Program·자진신고감면제도)'이 그것입니다. 독점기업들의 부정담합 의혹이 있을 때 1순위 신고자에게 100%, 2순위 50% 식으로 과징금을 면제·감면해주는 제도입니다.

처음에는 서로 눈치를 보지만, 시간이 지날수록 '경쟁 기업이 먼저 자진신고를 하면 어떻게 하나'하는 불안감에 결국 모두 '자백'을 하게 된다는 겁니다. 작년 12월 SK에너지가 LPG 업체 간의 가격담합을 가장 먼저 자진 신고해 과징금을 면제받아 구설수에 오르기도 했습니다. SK야말로 가격 담합을 통해 가장 커다란 이익을 본 1위 업체이기 때문입니다.

이 역시 기업 간 경쟁관계와 상호 불신을 역이용한다는 측면에서 자본주의 경제의 딜레마를 노정하고 있습니다. 죄수의 딜레마가 여전히 딜레마일 수밖에 없는 이유는 자본주의라는 체제 자체가 개인의 이기심을 극대화하는 사회라는 점 때문입니다. 죄수의 딜레마는 서로 신뢰하고 협력할 때 최선의 결과를 얻을 수 있지만, 현실의 자본주의는 상호 신뢰와 협력을 깨뜨리는 방향으로 발전해 왔기 때문입니다.

뛰어난 천재 수학자였지만, 훌륭한 능력을 미국의 제국주의 패권전략을 실현하는데 소모해 온 폰 노이만이 자신의 저서 <죄수의 딜레마>에서 "완벽한 의사소통과 완벽한 정직성이 있는 세계는 죄수의 딜레마가 없는 세계다. 그러나 그것은 우리가 살고 있는 세계가 아니다."라고 고백한 것도 어쩌면 당연해 보입니다.