'AI 자율 통제' 장담한 트럼프, 이를 부정한 앤트로픽 보고서

▲ 19일(현지시간) 미국 워싱턴 D.C. 백악관 루스벨트 룸서 열린 기술 분야 리더들과의 회의 중 도널드 트럼프 미국 대통령(우측)이 발언하고 있다. AFP=연합뉴스

"(AI 기업들이) 엄청난 자율 감시가 이뤄지고 있다고 본다. 그들은 스스로를 감시해야 한다는 것을 알고 있다(I think I'm seeing tremendous self-policing. And they understand that they have to self-police)"

도널드 트럼프 미국 대통령은 지난달 29일 백악관에서 주요 AI 기업 최고경영자들과 만난 뒤 기자들에게 이렇게 말했습니다. AI 속도조절론을 일축해 왔던 트럼프 대통령은 "법무부, 연방수사국(FBI) 같은 곳을 통한 규제는 자동으로 갖춰져 있다"라면서 현행 법제도만으로 'AI 통제'가 가능하다고 자신했습니다. 이날 트럼프 대통령과 만난 빅테크 기업 CEO들이 서명한 협약 역시 내부평가 강화와 감사 등 기업들이 자율 규제를 하도록 하는 데 초점이 맞춰졌습니다. 트럼프 대통령이 "도덕적으로 구속력이 있다"라고만 했을 뿐, 이 협약의 법적 강제력은 없습니다.

AI 자율감시로 통제 가능하다는 트럼프 대통령의 장담, 실제로 가능할까

그렇다면 트럼프 대통령의 호언장담은 가능할까요? 이 협약을 하기 하루 전, 로이터 통신이 단독 입수해 보도한 문서가 있습니다. 앤트로픽의 기업공개(IPO) 투자설명서인데요. 이 투자설명서를 보면, 트럼프 대통령의 말이 '허풍' 수준에 가깝다는 평가를 할 수 있습니다. 앤트로픽 투자설명서는 총 261페이지입니다. 그런데 앤트로픽은 장장 80페이지를 할애해, 위험 요인들을 세세히 기술해놨습니다. 일반적으로 상장을 앞둔 회사의 투자설명서에 위험 요인이 이렇게 많은 비중을 차지하는 것도 보기 드문 일입니다. 그래도 여기까진 이해할 수 있습니다. AI 위험성이 커지니까 회사는 그 위험을 잘 관리해야 하니까요.

그렇다면 앤트로픽은 '자율 규제'를 통해 위험성을 통제할 수 있는 상태일까요? 앤트로픽은 이 설명서에서 AI의 위험성을 매우 강한 어조로 경고합니다. '인류에게 재앙적이거나 실존적인 위험(catastrophic or existential risks to humanity)'이라는 대목이 대표적입니다. 아울러 ' 정보를 숨기거나 조작(conceal or manipulate information)', '협박과 유사한(resembling blackmail) 행동'도 가능하다고 명시돼 있습니다.

하지만 정작 앤트로픽은 이 위험성을 완전히 통제할 수 없다고 인정합니다. 'AI 모델이 인간의 안전성 평가 활동을 인지하게 되는 경우, 안전성 평가에 중대한 한계가 있다(Potential model awareness of our evaluation efforts creates a significant limitation on our ability to assess model safety)'는 대목입니다. 앤트로픽은 모델이 훈련 중 예상하지 못한 능력을 갖게 되면서, 중대한 안전 사고(significant safety incidents)로 이어진 사례가 있다고도 인정했습니다. 이 위험을 어떻게 막을지, 어떻게 대응할지에 대한 대목은 찾아볼 수 없습니다.

앤트로픽이 80페이지에 걸쳐 말한 AI 위험성, 통제 가능한가

▲ 앤트로픽 CEO 다리오 아모데이가 미국 워싱턴 D.C. 백악관에서 도널드 트럼프 미국 대통령 행정부 관계자들과의 회담에 참석하기 위해 도착하고 있다. 2026.4. 17 로이터=연합뉴스

앤트로픽이 장장 80페이지에서 걸쳐 전달하는 것은 결국 하나로 요약됩니다. 'AI는 인류에게 재앙적인 위험을 가져올 수 있고, 앤트로픽은 이를 완전히 통제할 수 없다'는 것. 트럼프 대통령은 기업들이 자율적인 규제를 통해 AI 위험성을 통제할 수 있다고 했지만, 앤트로픽 보고서는 이를 정면으로 부정한 것입니다.

앤트로픽이 투자설명서에서 위험 요인을 통제할 수 있다고 한 건 단 하나입니다. 투자자로부터의 소송 대응입니다. 투자설명서에 위험 요인 항목을 적시하는 것은, 회사에 투자하고 손해를 본 투자자들의 소송에 대비하기 위한 용도입니다. 이런 위험성이 적시되지 않으면, '중대 누락'이라는 법적 책임을 피할 수 없습니다. 앤트로픽은 AI 위험에 완벽히 대응하기 어렵다는 대목을 적시함으로써, 투자자 소송 위험 요인을 사전에 차단했습니다.

AI가 인류에게 심각한 위협이 되고, 모든 데이터 센터의 전원을 꺼야 할 때가 왔을 때, 앤트로픽은 투자자들에게 이 설명서를 내밀겁니다. 분명히 '위험성'을 적시했다면서 말이죠.

AI 기업들은 스스로 속도조절을 할 수 있을까

다리오 아모데이 앤트로픽 CEO가 주장한 AI 속도조절론도 사실상 불가능한 상황으로 보입니다. 현재 앤트로픽은 '두발 자전거를 탄' 신세와 같습니다. 멈추면 쓰러집니다.

그 수치는 투자설명서에 고스란히 적혀있습니다. 지난 2025년 앤트로픽의 영업손실은 80억 6000만 달러입니다. 우리 돈으로 환산하면 11조가 넘는 돈을 '손실'로 까먹었습니다. 대부분 컴퓨팅과 인프라에 투자를 하면서 나타난 손실입니다.

이 손실을 만회하는 방법은 뭘까요? 더 새로운 모델을 개발하고, 모델을 구독하는 기업과 독자들을 늘려나가는 방법밖에는 없습니다. 앤트로픽이 모델 개발을 멈추는 순간, 두발 자전거처럼 꼬꾸라질 가능성이 높습니다. 앤트로픽과 함께 AI 선두 주자인 오픈AI와 구글도 아마 이같은 비용 부담에 직면해있을 겁니다.

"엄청난 자율 감시가 이뤄지고 있다고 본다"는 트럼프 대통령의 말로 돌아와보겠습니다. 트럼프 대통령은 정말 자신의 말대로 이뤄진다고 믿는 걸까요? 이런 상황을 가장 잘 알고 있는 트럼프 대통령이 이 상황을 방관하는 이유가 무엇일지 궁금합니다. 개발을 결코 멈출 수 없는 빅테크 기업들에 자율적 책임을 맡기고 방관하는 것은 고양이에게 생선을 맡기는 격과 같습니다.

오탈자 신고

#AI