최근 인공지능(Artificial Intelligence, 이하 AI) 기술에 대한 개인적 관심이 커지면서 'AI란 무엇인가?' 내지 'AI가 인류에게 공헌할 수 있는 기술인가?' 등을 고민하게 되었고, 다양한 사람들과 이러한 고민을 나누기 위해 2026년 4월부터 한노보연 AI 책읽기 모임에 함께하게 되었다.

함께 읽은 책 중, < AI 지도책 >(케이트 크로퍼드 지음/소소의책 펴냄/2022)은 AI 기술이 어떻게 개념화되고 구성되어 있는지, AI로의 전환에는 무엇이 결부되어 있으며 AI 시스템에는 어떤 종류의 정치가 관여하고 있는지에 대한 해답을 제시한다.

AI는 환경, 노동력, 데이터 추출 산업

이 책의 제1장은 현대 컴퓨터에 동력을 공급하는 데 필요한 여러 광물 채굴장 중 하나인 네바다의 리튬 광산에서 출발한다. AI의 자연어 처리와 컴퓨터 시각의 모형을 구축하는 데 희토류·석유·석탄 등 자원과 에너지가 어마어마하게 필요하다. 거기에 과열된 경쟁 때문에 AI 탄소발자국이 엄청나게 증가하고 있다.

제2장은 AI 기술의 성능을 높이기 위하여 단순 반복적으로 학습 데이터를 가공하는 학습 데이터 라벨링 노동자(유령 노동)의 실체를 보여준다. AI 기술 시스템이 사람보다 더 똑똑해 보이지만, 실은 아주 저임금의 인간 노동에 데이터 정제와 학습을 기대고 있다. 동시에 AI 기술은 기업주의 감시와 통제를 강화하는 수단으로 활용되고, 인간의 노동을 기계와 같은 단순 반복적 노동으로 치부하거나 저평가하게 만들기도 한다.

▲ 《AI 지도책》(케이트 크로퍼드 지음/소소의책 펴냄/2022.) 소소의책

제3장은 데이터의 역할에 초점을 맞춘다. AI 기업은 AI 기술 모형을 생성·훈련하는 데 공개적으로 접근할 수 있는 모든 디지털 데이터 집합을 자유롭게 수집한다. 문제는 이러한 공개적 접근 가능 디지털 데이터 집합은 누군가의 셀카, 손짓, 운전 장면, 우는 아이 등 지극히 사적인 정보이자 민감한 정보라는 점이다.

AI 기술은 아무런 규제나 대가 없이 공개된 개인의 민감 정보· 생체 정보·지식재산권 등을 수집·활용하고 있다. 이는 기본권을 제한하고 침해하며, 개인과 사회에 위험을 초래할 수도 있다. 하지만 'AI 기술 발전'을 위해서라며 이러한 디지털 데이터 집합은 단순한 인프라·재료로 여겨진다.

제4장은 현행 이분법적 성별, 획일적 인종 구분, 성격과 신용에 대한 평가 등을 바탕으로 하는 AI 기술의 분류 행위를 비판한다. AI 기술 분류 행위가 이루어지면서 사람의 주관적이고 무한한 복잡성은 단순화된 기호로 대체되고, 이러한 단순 분류가 현실의 위계를 강화하고 불평등을 증폭하게 하는 원인이 된다. 이러한 체계가 우위를 차지한다면 막강한 통치 기제로 작동할 수밖에 없다.

제5장에서는 AI 기업이 인간의 감정 인식 시스템을 적용하는 데 170억 달러 이상 자본을 투여하고 있으나, 감정 탐지는 불완전할 뿐 아니라 사람들을 오도할 우려가 있음을 폭로한다. AI의 감정탐지 자체가 이런 문제가 있음에도 채용, 교육, 치안 체계에 도입되고 있다.

제6장은 AI 기술이 국가 권력의 도구로 이용되는 방식을 설명한다. 과거와 현재 AI 군사적 활용은 오늘날 우리가 보고 있는 감시, 데이터 추출, 위험 평가 등의 관행을 만들어 냈다. 기술 부문과 군사 부문의 밀접한 관계는 강력한 국가주의적 의도에 들어맞도록 통제되고, AI 기술이 빚어낸 군사적 논리는 정부 운영의 일부가 되었으며, 나아가 국가와 국민의 관계를 왜곡하고 있다.

마지막 장인 제7장은 인공지능이 어떻게 권력 구조의 역할을 하며 자본과 노동을 결합하는지 드러낸다. 교묘하게 통제받는 우버 운전자, 추적당하는 미등록 이민자, 주택 내 얼굴인식 시스템에 항의하는 공영주택 임차인에 이르기까지 AI 시스템은 자본·치안·군사화의 논리에 따라 구축되어, 기존 사회의 불균형·불평등을 더 확대한다. AI 시스템은 개발·이용 과정에서 사회의 하부 구조를 더 추상화하며 결국 저항할 힘이 가장 약한 사람들에게서 정보와 자원을 더 많이 추출한다.

AI는 기술이 아니라 정치의 문제

이 책의 옮긴이는 AI는 "기술의 문제가 아니라 정치의 문제"라 정의한다. 현재 대한민국 정부 역시 "AI 3대 강국 도약"을 핑계로 ▲ AI 기술에 막대한 물과 전기 자원이 든다는 것(데이터센터 등의 문제), ▲ AI 기술이 인간노동을 대체하거나 인간의 노동 가치를 저평가하게 만든다는 것, ▲ 개별 국민 스스로 데이터 수집에 동의한 적이 없음에도 개인의 민감 정보·생체 정보가 무차별하게 수집(크롤링)되고, 나의 일거수일투족이 수집되고 활용(프로파일링)될 수 있다는 것을 간과하고 있다.

AI 기술은 (학습)데이터 자체의 편견, 데이터를 분류하는 기준에 담긴 편견, 사회 전반에 퍼진 편견을 그대로 학습한다. 더욱 심각한 지점은 보통 사람들은 AI "기술"의 무오류·가치중립의 환상 속에서 위와 같은 편견을 더 강화하고 증폭한다는 점이다. 저자는 "AI(인공지능)는 인공적이지도 않고 지능도 아니다"(책 17쪽)라고 말하며 AI 기술의 한계를 명확히 지적한다. 인공지능은 기계 뒤에 있는 노동자의 존재를 감춰 그들의 발언권을 빼앗고 우리가 그들과 연대하지 못하게 한다.

이 과정에서 국민의 기본권 보장 의무가 있는 국가(정부)는 "이해하지 못하는 것에 대하여 책임질 수 없다"라며 AI로 발생할 위험과 기본권 침해 문제·개인의 피해를 쉽게 외면해 버린다. 우리 사회와 생활에 엄청난 영향을 미칠 수 있는 판단과 조치가 AI "기술"의 무오류·가치중립의 환상 속에서 어떠한 책임도 지지 않는 자들에 의해 좌우될 수 있는 것이다.

결국 AI 산업은 "추출 산업"이다. 여기에서 '추출'은 물·전기·환경과 같은 자원과 에너지의 추출(채굴)을 뜻하기도 하고 노동력과 데이터의 추출을 뜻하기도 한다(책 294쪽). AI 기술은 무형의 서비스처럼 보이지만 실제 환경에 막대한 피해를 주며 인간 노동의 질을 형편없이 떨어뜨린다. AI 기술의 실상을 자세히 살펴보면 "AI는 기술의 가치 중립이라는 가면을 쓰고 사회의 여느 부문과 마찬가지로 권력이 작동하고 있음"을 확인할 수 있다.

더 이상 신뢰할 수 없는 AI 기술과 책임지지 않는 AI 기업에 우리의 현재와 미래를 맡길 수는 없다. AI 기술은 가치중립적이라는 환상에서 벗어나 첨단기술 뒤에 숨은 자본과 권력의 민낯을 드러나게 할 차례이다.

덧붙이는 글 이 기사는 한국노동안전보건연구소 월간 일터 8월호에도 실립니다.이 글을 쓴 김은진 님은 한국노동안전보건연구소 회원입니다.