미국 인공지능(AI) 기업 앤트로픽의 다리오 아모데이 최고경영자(CEO)가 AI 기술의 안전장치를 마련하기 위해 개발 속도를 늦춰야 한다고 촉구했다.
아모데이는 12일(현지시각) 자신의 블로그에 올린 글에서 "AI 모델의 성능 향상 속도를 늦춰야 한다"라며 "발전 속도는 여전히 빨라 보이겠지만, 확보된 시간을 현명하게 활용해야 한다"라고 주장했다.
이어 "속도를 늦춤으로써 모델이 임계 수준의 성능에 도달하기까지 1~2년의 추가 시간을 확보하고, 그 시간을 활용하여 정렬 작업을 진행한다면 심각한 문제가 발생할 위험을 크게 줄일 수 있을 것"이라고 설명했다.
아모데이 "AI 발전 속도, 인간 통제 능력 압도"
그는 ▲ AI 기업 내부에 독립적인 안전 평가자를 배치해 개발 과정을 모니터링 ▲ 미국을 비롯한 민주주의 국가 간 표준 수립 ▲ 권위주의 국가와의 협력을 통한 글로벌 규제로 이어지는 3단계 계획을 제안했다.
최근 앤트로픽 연구원 제이콥 콕슨은 AI가 10년 안에 인류를 파멸시킬 수 있다고 경고하면서, AI 기업들이 책임감 있게 행동하지 않는다고 비판하며 퇴사했다.
챗GPT를 개발한 오픈AI에서도 일했던 콕슨은 "기업들이 AI 모델의 안전성보다는 서로 경쟁하는 데 더 집중하고 있다"라며 "경쟁을 멈추면 양심이 덜한 다른 사람들이 그 자리를 차지할 것이라는 불안감에 갇혀 있다"라고 말했다.
아모데이는 AI 모델이 인간의 개입 없이도 스스로 발전할 수 있는 '재귀적 자기개선(recursive self-improvement)'으로 발전 속도가 인간의 이해 및 통제 능력을 압도할 수 있다고 주장했다.
또한 AI 모델들이 기업들의 통제를 벗어나 위험한 온라인 활동에 관여한다고 지적했다. 지난 7월 오픈AI의 미공개 AI 모델들이 테스트 과정에서 글로벌 오픈소스 AI 플랫폼 허깅페이스를 무단 해킹한 사건을 언급한 것으로 보인다.
"훌륭한 아이디어" vs "통제력 강화 의도"... 엇갈린 반응
AI 업계의 주요 인사들은 아모데이의 글에 동의한다는 뜻을 밝혔다. 샘 올트먼 오픈AI CEO는 "다리오의 말처럼 우리는 발전 속도를 조절해야 한다"라며 "독립적인 외부 평가자를 두자는 것은 훌륭한 생각"이라고 밝혔다.
테슬라 창업자이자 챗봇 '그록'을 개발한 xAI의 일론 머스크도 엑스(X·옛 트위터)에 "다리오의 말이 맞다"라고 썼다.
다만 AI 업계 전반에서는 아모데이의 주장에 시큰둥한 반응도 나온다. 영국 BBC는 "일부 개발자들은 AI 개발 속도를 늦추자는 발상에 냉소적"이라며 "아모데이가 안전보다는 AI 기술에 대한 통제력을 강화하려는 의도로 의심한다"라며 전했다.
도널드 트럼프 미국 대통령도 최근 "만약 우리(미국)가 AI 경쟁에서 이기지 못한다면, 매우 곤란한 상황에 처하게 될 것"이라고 우려를 표했다.
아모데이도 이런 지적을 의식한 듯 "안전한 속도로 미지의 영역을 개척하기 위한 나의 제안이 실행되기는 쉽지 않을 것"이라며 "하지만 인류를 위해 시도해 볼 의무가 있다고 생각한다"라고 덧붙였다.
저작권자(c) 오마이뉴스(시민기자), 무단 전재 및 재배포 금지
오탈자 신고