▲지난 8월 10일(현지시각) 이스라엘군이 팔레스타인 가자지구 학교 건물을 공격해 약 100명이 사망했다.
UPI=연합뉴스
지난해 10월부터 시작된 이스라엘의 팔레스타인 집단학살이, 그에 대한 전 세계적인 저항과 반대의 목소리에도 불구하고 1년 넘도록 계속되고 있다. 이 학살 뒤에는 무기를 생산하고 유통해 돈을 버는 기업이 있고, 그 기업을 비호하는 국가가 있다. 이들은 이스라엘과 긴밀한 군사적·경제적 협력을 맺고 생명과 생태를 파괴하는 대가로 천문학적 규모의 이윤을 독식한다.
문제는 이 같은 군수산업이 위성, 로켓, AI 시스템의 근간이 되는 우주산업에 기대어 더 크게 성장하고 있다는 것이다. 이들의 성장은 더 많은 삶들이 더욱 '효율적으로' 제거되거나 파괴될 수 있다는 걸 의미한다. 이는 죽임의 자율화 회로를 뜻한다. 이 회로를 보다 안정적이고 보편적인 것으로 만들기 위해 지금 이스라엘은 팔레스타인을 살아 있는 거대한 '실험실'로 사용하고 있다.
죽임의 자율화 회로
지난 1년간 이스라엘이 팔레스타인 학살에 활용한 대표적인 AI 표식 설정 및 추적 시스템인 라벤더(Lavender), 더 가스펠(The Gospel), 아빠 어디야(Where's Daddy?) 역시 위성, 즉 우주산업 기술에 의존한다. 이 기술을 기반으로 시스템이 목표물을 인간 병사에게 추천하면 병사가 이를 승인한 뒤 즉시 폭격이 이루어진다. 이스라엘의 +972 매거진은 이스라엘군이 전쟁 초기에 거의 전적으로 라벤더에 의존했고 이 시스템이 최고치로 활성화되었을 때는 3만 7000명의 사람들을 잠재적인 인간 목표물로 만들어냈다고 전했다.[1]
이 같은 방식은 과거의 군사작전이 이뤄지던 방식과는 완전히 다르다. 예전에는 공격 대상에 대한 설정이 정당한지를 가려내는 작업에 대해 다수의 논의를 통해 승인하는 과정을 거쳤다면, AI 시스템 도입 이후에는 이 과정이 완전히 삭제된다. AI 시스템은 '자동화'를 넘어선 '자율화'를 의미한다. 데이터 수집부터 대상 추출과 지정, 판단의 과정까지를 모두, 정교하게 고도화된 인공지능기술의 '지능'에 대한 전적인 신뢰를 빌미로 행위와 윤리를 그것에 떠넘기는 시스템인 것이다.
이 AI 시스템이 전쟁과 학살에 쓰일 때 초래하는 결과는 너무 끔찍하다. 그것은 '신속하고 광범위하게', '간편하고 깨끗하게' 생명을 살상할 수 있다는 의미가 된다. 그리고 팔레스타인에서 이는 '의미'에 머무르지 않는 '실재'였다. 이스라엘의 팔레스타인 학살을 '인종 청소'에 비유하기도 하는데, 지난 1년간 행해진 인종 청소는 AI 시스템이라는 심장 없는 청소부에게 외주를 주어 행한 일이라 할 수 있다.
그런데 또 한 번 경악하게 되는 지점은 이스라엘이 팔레스타인을 AI 전쟁기술 실험의 무대로 쓰는 극단적 폭력을 온전한 단독자로서 행했다고 보기 어렵다는 사실이다. 1년이 넘게 여성, 어린이를 포함한 4만 명 이상의 팔레스타인인들과 비인간 동물이 살해당하고 학교와 병원과 도서관과 논과 밭 등 온갖 삶의 장소가 화염에 휩싸이는 참혹의 시간 동안, 침묵으로 이 학살에 동조하는 나라가 너무 많았다. 어째서 이런 말도 안 되는 잔혹한 고요와 공모가 이어지는 것일까.
잔혹한 공모