담배의 유해성은 1950년대에 밝혀졌는데 왜 공공장소 금연정책은 50년 동안 도입되지 못했을까? 모유가 아기와 엄마 양쪽에 이롭다는 것이 밝혀졌는데 왜 모유수유율은 계속 떨어질까? 왜 미국에서는 아직까지 창조론을 믿는 사람들이 그렇게 많을까? 일부 영국인들이 5G 기지국이 위험하다며 때려 부수는 이유는? 유럽인들이 코로나19 백신에 거부감을 가지는 이유는? Weatherall, O''Connor, Bruner의 <과학을 짓밟고 사람들에게 영향을 주는 방법: 인지 그물망에서의 선동과 정책 결정 How to Beat Science and Influence People: Policy makers and Propaganda in Epistemic Networks>은 우리의 신념이 어떻게 조작되는지, 현명하고 중립적인 사람마저 왜 선동(프로파간다)에 당하는지, 심지어 악의가 없고 공정하고자 하는 언론인이 자기도 모르게 적극적인 자본의 선동가 역할을 하게 되는지, 기계적인 중립이 왜 위험한지, 그 구체적인 기전을 수학적 모델로 밝혀낸 논문이다. 연구 배경은 이렇다. 담배회사가 담배의 유해성을 진작 알고 있었지만 속여 왔다는 내용의 내부기밀문건(confidential documents)을 담배회사 Brown and Williamson(B&W)의 직원이 1995년 미국 학계와 언론에 제보했다. 이 내용이 미국의학협회지(Journal of the American Medical Association)에 발표됨에 따라 미국 담배소송에 지각변동이 일어나 40년간 계속 패소하기만 했던 환자, 정부 측이 드디어 승소하게 되었다. 담배회사들의 부정직하고 비도덕적인 전략이 세상에 알려지면서, 이 전략이 효과를 발휘하는 기전이 드러났다. 이 '담배전략 tobacco strategy' 때문에 담배의 유해성이 결론난 뒤로도 여전히 '논쟁 중'이란 착시를 일으켜 50년이나 질질 끈 후에야 비로소 금연 정책이 도입되고 폐암 환자들에게 대한 보상 결정이 내려진 것이다. 이 논문은 1) 담배회사 전략이 정책 변화를 발목 잡은 현상이 이미 현실에서 일어났고 2) 그 비밀 전략도 밝혀진 상태에서 3) 그 기전을 설명하는 수학적인 모델을 효과적으로 제시했다. 따라서 화석연료기업이 기후위기 대응 정책을 방해하는 기전, 분유회사가 모유의 장점을 깎아내리는 기전 등 보편적인 자본의 선동에도 폭넓게 적용할 수 있다. 과학적으로 결론이 났다고는 하나, 흡연 유해성 논쟁은 여전히 전세계에서 현재 진행 중이다. 유럽은 여전히 공공장소에서 흡연이 매우 자유로운 편이며, 2020년 11월 한국 법원은 흡연와 폐암의 인과성을 인정하지 않고 건보공단 패소 결정을 내렸다. 이하 논문 내용을 소개한다. 1952년 미국에서 리더스 다이제스트지가 '담배로 인한 암'이란 기사를 처음 실었고, 1953년 슬로언 케터링 메모리얼 병원의 연구에서도 담배가 악성 종양을 발생시킴이 밝혀졌다. 미국 6개 담배회사는 홍보회사와 계약을 맺고 '과학을 가지고 과학과 싸운다'는 새로운 전략을 세워 1954년 담배산업연구협의회라는 연구소를 세우고 담배가 무해하다는 연구를 지원하기 시작한다. 담배회사는 이미 내부 자체 연구로 담배의 유해성을 알고 있었지만, 무해하다는 연구 결과를 퍼뜨리기 위해 여론을 왜곡하는 두 가지 전략을 사용했다. 바로 '선택적 공유'와 '비뚤림 있는 연구 생산'이다. 우선 기존의 관점 A(예: 흡연 괜찮아)가 있고, 새롭고 낯설지만 우월한 관점 B(예: 흡연 나빠)가 있다고 하자. A 대신 B가 널리 퍼지는 것이 사회적으로 이롭다. 모두가 A>B라고 잘못된 신념을 갖고 있을 때를 0, 모두가 A<B라고 옳은 신념을 갖고 있을 때를 1이라고 하자. 예를 들어 옳은 신념을 가진 사람이 70%일 때는 0.7이다. 시간이 흐름에 따라 B가 대세(신념 0.99)가 되거나, 반대로 A가 대세(신념 0.01)가 되어 여론이 한쪽으로 정리된다. 정책결정가는 신념이 있고 과학자들 또는 선동가들이 주는 정보들을 접할 때마다 신념을 업데이트한다. 처음에 모두 A를 믿는 것(흡연이 무해하다는 믿음)으로 시작한다. 과학자는 매 라운드마다 연구를 하고 발표하고 주변 과학자들과 교류하여 정보를 나눈다. 연구 결과를 보고 A(흡연 괜찮아) 또는 B(흡연 나빠)를 선택하게 된다. 선동가는 자본의 편에 서서 A를 전파하려는 목적을 가지고 움직인다. 선동가는 모든 과학자를 관찰해 연구결과를 수집하고 모든 정책결정가와 교류한다고 설정한다. 이들의 목표는 정책결정가들에게 A를 공유하여 믿게 하는 것이다. 선택적 공유 인체는 매우 복잡하므로 우연에 의해 그럴싸하지만 사실은 틀린(spurious) 결과도 나올 수 있다. 중립적이고 선동가들과 관계없이 수행된 연구들이라 해도 그런 미심쩍은 결과를 낼 수 있다. 평생 골초로 살았지만 건강하게 100세까지 사는 사람도 '우연에 의해' 나올 수 있고, 담배 근처에도 안 갔지만 폐암에 걸리는 사람도 '우연에 의해' 나올 수 있다. 5 이하로 표본이 작을 경우에는 이렇게 우연에 의해 오도하는 결과가 나올 확률이 높아진다. 이런 연구는 검정력(power)이 낮고 질 나쁜 연구라고 한다. (예를 들어 흡연자 두 명, 금연자 두 명으로 연구를 한다면, 그 중에 골초+건강, 금연+폐암 같은 조합이 우연히 들어가서 담배가 무해하다는 결론이 나올 확률도 높다.) 반면 10 이상으로 표본 크기가 커질 때는 우연 때문에 잘못된 결론이 나올 확률이 매우 낮아진다. (많은 사람들을 모아서 연구를 하면 그 모두가 골초+건강, 금연+폐암 같은 특이한 조합이 되기란 어려워진다.) 그래서 표본 크기가 큰 연구는 검정력이 높고 질이 좋게 된다. 선동가들은 이렇게 우연에 의해 A가 더 좋게 나온 (즉, 흡연해도 건강하다는) 결과만 정책결정가들과 공유한다. 정책결정가들은 과학자들과 선동가들로부터 받은 정보로 신념을 업데이트한다. 예를 들어 담배산업연구협의회는 담배회사에게 유리한 과학 연구를 모은 팜플렛을 20만명의 의사, 언론인, 정책결정가들에게 배포했다. 이 모델에서 과학자들은 모두 정직하게 연구했고, 연구로 사기치는 과학자는 아무도 없었지만, 결과는 놀라웠다. 과학자들은 B(흡연 나빠)에 수렴해갔지만 정책결정가들은 점차 A(흡연 괜찮아)에 확신을 가져갔다. 선동가들이 없을 때는 대중들도 과학자들의 합의 B에 접근했지만, 선동가들이 있을 때는 거의 언제나 거짓 이론 A로 쏠렸다. 이렇게 연구에 손대지 않고 미묘한 조작만 해도 사람들의 믿음을 변화시킬 수 있다는 것이 확인되었다. 오히려 대놓고 과학적인 사기를 치면 위험부담이 크고 역효과가 생길 수 있기 때문에, 담배회사가 연구를 대놓고 지원하는 것보다는 많은 연구결과들 중 유리한 내용을 골라 티내지 않고 퍼뜨리는 것이 비용 대비 효과가 높다. 이 담배 전략이 놀라운 이유는, 과학자들이 담배산업과 이해관계가 없고 모든 연구결과가 투명하게 공개되는데도, 여론과 정책은 담배회사 의도대로 흘러가는 기전이 확인되었기 때문이다. 특히 표본 수가 적어서 우연에 많이 좌우되는 질 나쁜 연구가 많을 때는, 그 연구 자체들은 정직한 연구였다 해도, 선동가들이 활용할 수 있는 결과가 많이 나오기 때문에 여론과 정책은 A(흡연해도 괜찮네)로 기울어진다. <진실은 시간의 딸이다 Veritas filia temporis>라는 말이 있다. 하지만 이 격언과는 반대로, 논쟁 시간이 길어질수록 오히려 담배회사가 담론 싸움에서 유리한 고지를 점해가고 잘못된 사회적 믿음으로 수렴해 가는 동안 대중은 피해를 겪게 된다는 우울한 시뮬레이션 결과를 확인할 수 있다. 이 모순을 졸만 효과 Zollman effect라고 부른다. 합의 수렴 시간을 최대화하면 과학자들은 진실을 찾아가지만 대중들은 거짓 쪽으로 기울어지는 사례들이 생겼다. 비뚤림 있는 연구 수행 biased production 선동가들끼리만 볼 수 있는 연구 데이터가 있고, 그 중 A우세 결과(흡연해도 괜찮네)만 골라서 발표한다는 모델이다. 이미 존재하는 연구결과 중에 쏙쏙 골라서 전파시키는 선택적 공유와는 달리, 선동가들은 적극적으로 '비뚤림 있는' 연구결과를 생산한다. 선동가들은 연구 데이터들을 잘게 쪼개서 다수의 검정력 낮은 (질 나쁜) 연구들로 발표할 수도 있고, 합쳐서 소수의 검정력 높은 (질 좋은) 연구들로 발표할 수도 있다. 이 시나리오에서 과학자들은 선동가들에 맞서 진실을 밝히려는 쪽으로 행동한다. 예상할 수 있겠지만 선동가들이 생산하는 비뚤림 있는 연구 결과가 많을수록 정책결정은 A(흡연 허용)쪽으로 빠르게 기울어진다. 전체 연구 중 선동가들의 연구 비율이 25~35%를 넘어가면 A 정책이 우세해진다. 질 나쁜 연구들이 많을수록 선동가들이 분탕질과 물타기를 하기 쉬워지고, 질 좋은 연구가 많을수록 과학자들의 합의가 대중에게 잘 전달된다. 따라서 과학적 근거들이 접근하기 어렵거나 애매모호할 때, 정책결정가들과 대중이 온전하고 편향되지 않은 연구에 접근하는 것이 중요하다. 악의가 없는 공정한 언론인이 선동가 역할을 하게 되는 기전 과학 전문가인 언론인은 드물다. 시간과 자원은 한정되어 있으므로 모든 근거를 공정하고 균일하게 통합하기 어렵다. 반대로 언론 현실은 가장 충격적이고 놀랍고 새로운 연구를 보도하도록 부추긴다. 또는 논쟁적인 주제에 대해 양쪽을 똑같이 다룸으로써 '공정 fair'하려 한다. 실제로 미국 연방통신위원회 Federal Communications Commission는 1949년부터 1987년까지 논쟁적인 주제를 '균형잡힌' 태도로 보도할 것을 요구하는 공식 정책을 갖고 있었다. 이 '공정성 원칙'은 담배산업의 선동가들이 친산업 연구를 보도할 수 있게 하는 도구가 되어버렸다. 언론인이 과학자들에게서 자료를 모을 때 논쟁적 주제의 양쪽을 똑같이 다루기 위해 근거를 반반 가져오고, 언론인의 보도가 정책결정자들에게 영향을 준다고 설정해보자. 이러면 A(흡연)나 B(금연) 어느 한쪽에 새로운 근거가 나타나지 않아도 반반을 맞추기 위해 과거 근거를 가져오게 된다. 담배의 유해성이 계속 확인되므로 실제로는 B우세 연구가 더 쏟아지고 있는데도, 굳이 반반을 맞추기 위해 해묵은 A우세 연구를 가져와서 균형을 맞추는 보도를 하게 된다. 이러면 B정책 도입을 늦추는 효과를 가져온다. 반반 원칙을 고수하는 '공정한 언론인', 데이터를 무작위로 선택해서 보도하는 '무작위 선택 언론인', 모든 자료를 다 보도하는 '모든 자료 언론인'- 이 세 종류의 언론인으로 각각 시뮬레이션한 결과, 셋 중에 '공정한 언론인'이 정책결정자들의 금연정책 결정을 가장 방해했다. 반반 원칙의 '공정한 언론인'이 선동가 역할을 하게 되는 것이다. 이런 지식수집-선택-구성(curation)은 대학 수업, 문헌 리뷰, 리뷰 논문(survey article)에서도 나타난다. 선동가들 및 자기도 모르게 선동가 역할을 하는 사람들이 공유하는 연구 결과들은 가짜 연구가 아니라 진짜 연구지만, 더 적은 쪽 연구를 더 많게 보이게 하는 통계적 속성 때문에 결과적으로는 부적절한 결론으로 이끈다. 기업이 꼭 연구에 돈을 댈 필요도 없이, 우연에 의해 오도하는 연구 결과들이 있기만 하다면 기업이 대중의 믿음을 조작하는 것이 가능하다. 산업 선택 산업 선택 industrial selection은 자본에 유리한 실험 프로토콜, 방법론, 연구 의제설정 research question 등에 과학자들이 쓸 만한 것이 매우 많다는 것을 전제로 한다. 따라서 이미 존재하는 방법론 중에 자본에 유리한 결과가 나올 방법을 쓰고 있는 과학자들에게 펀딩할 수도 있다. 이 펀딩은 검정력이 더 높은 연구를 더 많이 생산하게 만들고 이 방향으로 더 많은 예비연구자들이 트레이닝받게 한다. 산업 선택은 비뚤린 연구결과를 직접 생산하는 것보다 더 효과적이고 비용도 덜 들고 들킬 위험도 적다. 산업 선택과 선택적 공유는 서로 강력한 피드백으로 선동 효과를 더 증폭시킨다. 이 과정에서 과학자들은 비윤리적이거나 부적절한 연구를 하지도 않는데도 그렇다. 예를 들어 저명한 석면 연구자 Hueper의 연구는 연구 방법에 전혀 문제가 없고 엄격하게 수행되어 석면과 폐암의 관계를 밝혀낸 훌륭한 연구지만, 담배회사들은 이 연구를 가져다가 담배 말고도 다른 환경적 요인이 폐암을 유발할 수 있다고 물타기를 하는 용도로 잘 악용했다. 선동에서 자유로울 수 있는 대안은 있는가 그럼 자본의 선동을 멈출 방법은? 우선, '선동가들의 말을 안 듣기'가 있겠지만, 이건 선동가들이 과학자인 척 하거나 심지어 어떤 경우는 진짜 과학자이기도 하므로 실행하기 어렵다. 두 번째, 가능한 한 최대한 많은 과학자들로부터 정보를 모으는 것이다. 왜냐하면 많은 과학자들과 연결된 정책결정가일수록 더 나은 결정을 내리기 때문이다. 그리고 많은 과학자와 연결되어 있으면 통계적 배경 위에서 선동가들을 식별해낼 수 있게 된다. 종종 선동가들의 결과는 신뢰할 만한 과학자의 결과는 통계를 비교해봄으로써 식별할 수 있기도 하다. 이런 이유로 유명세를 타서 고평가되려 하는 과학자의 존재는 해롭다. 그 과학자가 정책결정가들과 독점 접촉하게 되어, 정책결정가들이 접촉하는 과학자들의 숫자를 줄이기 때문이다. 마지막으로, 정책결정가들이 자신들이 보는 근거 중 어떤 것들은 과장되거나 걸러지거나 일부러 잘못된 길로 인도하려는 의도를 갖고 있다는 생각을 갖고서 보면, 선동에 휘둘리지 않는 데 도움이 될 수 있다. 반대로 믿을 만하지 않은 출처에 기대어 신념을 업데이트하려는 어림짐작 추론(휴리스틱)은 인지적으로 편향된 결과를 낳게 한다. 연구결과들이 애매하고 미심쩍을 때는 과학자들끼리 소통을 활발히 하는 것이 선동으로부터 과학을 보호하는 방법이 될 수 있다. 또한 놀랍고 새로운 결과가 아니라 '차이 없음' 결과도 과학계에서 인정받아야 한다. 펀드는 질 낮은 연구 여러 개로 쪼개져서 할당되는 것보다 매우 높은 검정력을 보이는 소수의 연구로 할당되는 것이 낫다. 또는 좀더 민주적인 대안으로는 여러 과학자들이 연합하여 작은 연구들을 합쳐서 발표하여 선동가들이 악용하기 어렵게 만드는 방법도 있겠다. https://arxiv.org/abs/1801.01239 본 논문을 정리하였음. #담배전략 #선택적공유 #선동 #프로파간다 #비뚤림 이 기사는 생나무글입니다 생나무글이란 시민기자가 송고한 글 중에서 정식기사로 채택되지 않은 글입니다. 생나무글에 대한 모든 책임은 글쓴이에게 있습니다.
