▲ 책, <알고리즘 자본주의> 표지 신현우가 쓴 책 <알고리즘 자본주의>(2024, 스리체어스) 표지이다. ⓒ 스리체어스

"이미 우리는 구글이나 네이버 교통지도가 실시간으로 도로 교통 상황을 운전자에게 알려주는 현실 속에 산다. 이제 교통 예측 알고리즘의 빠른 경로 추천에 대한 영리한 제안을 무시하고 운전자 멋대로 행선지를 선택하는 일이 점점 어려워지고 있다." (이광석, 2021, <피지털 커먼즈>, 79쪽, 갈무리)

한때는 우리도 믿음이 약한 적이 있었다. 꿋꿋하게 잘못된 길을 알려주는 네이게이션의 다정한 목소리에 대고 짜증을 냈다. 문맥이 이상한 파파고와 구글의 번역을 보고 답답함과 안도가 함께 섞인 한숨을 내쉬던 시절이 있었다. 몇 년 전, 몇 달 전에 그랬다.

어느 순간 우리의 믿음은 강해졌다. 아니 믿고 있음을 의식하지 못할 정도로 자연스러워졌다. 포털 사이트 메인 화면에 올라온 뉴스를 클릭하고, OTT 추천 드라마를 본다. SNS와 유튜브 '숏폼(short form, 짧은 영상)'을 보며 나도 모르게 웃는다. 고장 난 전자기기 수리 신청을 위해 '상담 중인' 사람을 기다리지 않고 챗봇과 '대화'한다.

"인간은 앞으로 기술 체계의 리듬에 심리적, 물질적으로뿐 아니라 인지적으로도 적응해야만 하는데, 온갖 종류의 센서, CCTV, 패턴 인식 기계가 새로운 형태의 알고리즘 예지를 자아내며 행위 주체가 되었기 때문이다." (책, 172쪽)

<알고리즘 자본주의>는 인간과 기계 또는 알고리즘이 뒤엉켜 '거대한 신경망'을 형성한 사회의 '비인간 노동 기술 생태계 탐구'를 목표로 한다(책, 9쪽). 글쓴이는 수많은 영상과 텍스트, 광고가 누구에 의해 어떤 과정을 거쳐 우리에게 다가오는지 냉철하게 분석할 필요가 있다고 말한다(책, 10~11쪽).

책은 크게 세 방향에서 모습을 잘 드러내지 않는 알고리즘 자본주의라는 거대 신체를 탐색한다(책, 12~13쪽). 첫째, '플랫폼-알고리즘'의 이윤 창출 경로를 추적한다. 둘째, 그 안에서 벌어지는 노동 과정의 특수성과 이질성을 드러낸다. 셋째, 온라인 플랫폼을 관찰하고, 그곳을 무대로 활동하는 1인 방송 제작자와 편집자들을 인터뷰한다. 이러한 문화 기술지(ethnography) 연구는 온라인 플랫폼의 생생한 모습을 담아내 알고리즘이라는 '블랙박스' 안을 보여 준다.

"통제(사회)는 변화 주기가 짧다. 동시에 통제는 아무런 한계도 없이 지속해서 이루어진다." (들뢰즈, <통제사회 후기> 일부, 연구물 공유사이트인 JSTOR https://www.jstor.com에 있는 영어 번역을 옮김)

들뢰즈(Deleuze)가 1990년에 쓴 <통제사회 후기>라는 짧은 글에서 한 말이다. '알고리즘(algorism)'이라는 단어를 만날 때마다 들뢰즈가 한 이야기를 떠올리게 된다. '짧은 주기', '빠른 변화', '끝없이 이어지는 출몰'. 들뢰즈는 현대사회를 '통제사회'라고 정의하면서 '뱀'에 비유했다.

"어떤 문제의 해결을 위하여, 입력된 자료를 토대로 하여 원하는 출력을 유도하여 내는 규칙의 집합. 여러 단계의 유한 집합으로 구성되는데, 각 단계는 하나 또는 그 이상의 연산을 필요로 한다." - 국립국어원 표준국어대사전 홈페이지

알고리즘은 '문제 해결 절차'라는 건조한 사전 정의보다 들뢰즈가 말한 뱀이 더 잘 어울린다. 거대한 '뱀의 똬리'로 나를 죄어 오는 모습을 상상하게 된다. 하지만, 뱀은 너무 커서 비늘 조각 일부밖에 볼 수 없다.

"문제는 이 알고리즘이 블랙박스화 돼 있어 어떻게 작동하는지, 어떤 식으로 광고 수익을 내는지 이용자들에게 거의 알려져 있지 않아 당사자들은 자신의 노동과정이 실제로 얼마만큼의 가치를 생성하는지 알 길이 없다는 데에 있다." (책, 116~117쪽)

잘 알다시피 온라인 플랫폼의 주 수익은 '광고'를 매개로 한다. 글쓴이는 알고리즘이 '주목(attention)'을 만든다고 말한다(책, 67쪽, 141쪽). 콘텐츠를 만드는 사람과 광고주 모두 사람들로부터 '주목'받고자 한다. 플랫폼은 콘텐츠 제작자에게 이용 수수료를 받고, 광고주들에게 광고료를 걷는다. 플랫폼은 셀 수 없이 많은 노동의 결과에 무임승차 하지만 돈을 가장 많이 번다.

알고리즘이 무슨 콘텐츠를 어떤 방법으로 배치하는지 '페이지랭크(Page Rank, 순위 할당)' 체계는 '영업 비밀'이다. 자신의 콘텐츠를 어떻게 만들면 '좋아요'와 '구독'이 늘어나는지 알지 못하기 때문에 더 많은 시간을 투여하고 돈을 쓰며 편집 전문가에게 맡긴다(책, 139~141쪽).

"생산의 계속적인 변혁, 모든 사회적 상태의 끊임없는 동요, 항구적인 불안정과 운동 등이야말로 부르주아 시대가 그 이전 모든 시대와 구별되는 두드러진 특징이다." (마르크스, 강신준 옮김, 2008, <자본론 Ⅰ-1>, 649쪽, 도서출판 길)

마르크스의 말은 알고리즘, 온라인 플랫폼, 생성형 인공지능이 일상 속에 스며든 지금 시대도 여전히 '자본주의'라고 이름 붙일 수 있음을 알게 한다. 글쓴이가 책 제목을 <알고리즘 자본주의>라고 한 이유도 이와 무관하지 않다. 자본주의는 일하는 사람들이 불안정할수록 더욱 안정적으로 돈을 벌 수 있다.

인공지능을 포함한 과학 기술의 발달로 더 가치 있는 결과물이 만들어지리라고 생각한다. 그렇게 보인다. 멋진 그림과 깔끔한 보고서를 만들 수 있다. 하지만, 생성형 인공지능을 활용해 만든 결과물이 더 가치 있는 것이라고 말하기는 어렵다. 모든 것을 사고파는 자본주의 사회에서 가치 기준은 간단하다. 돈을 받고 팔 수 있는가이다.

"여러분은 인공지능이 출력한 글을 보고서나 제안서 등에 적절히 사용할 수는 있겠지만 그것을 판매하기는 어려울 것이다. 다른 사람도 별 어려움 없이 비슷한 수준의 글을 출력할 수 있기 때문이다." (책, 158쪽)

글쓴이는 플랫폼-알고리즘의 이윤 창출 시스템을 '지대(rent)' 추구 행위라는 고전적 개념으로 규정한다. 마치 건물주가 아무 일도 하지 않지만, 임대료를 받아 많은 돈을 버는 것과 같다는 의미다. 단지 아파트를 사고팔았을 뿐이지만 돈을 버는 것과 비슷하다.

중고 아파트 가격이 자꾸 오르는 탓에 더 많은 일을 한다. 플랫폼-알고리즘의 눈에 들기 위해 10분짜리 영상 편집에 7~8시간의 고급 기술을 들이고도 시간 당 임금 1만 원을 받는다. 편집과 영상 제작 전문가들의 일자리가 줄어드는 것이 아니라 저임금 불안정 노동으로 바뀌는 것이다.

다른 한편, 플랫폼 운영에 필요한 기본 데이터 축적을 위해 기업들은 분 단위의 짧은 건당 계약으로 데이터 라벨링 작업을 외주화한다(책, 149~150쪽). 이미지와 음성 인식, 챗봇 훈련, 감정 분석, 설문 처리 등 짧게 쪼개진 노동의 대가는 시급 1달러 미만이다. 이렇게 만들어진 생성형 인공지능은 이용자들에게 비용을 청구한다(책, 151쪽).

"인공지능이 현재의 강력한 생성 성능을 발휘하기까지 기업들은 광범위하고 강도 높은 데이터 라벨링을 필요로 했는데, 이는 범남반구의 수많은 빈민과 난민, 범북반구의 실업자들과 이민자들로 이뤄진 잉여 인구에게 미세 노동의 형태로 던져졌다." (책, 149쪽)

글쓴이는 기술 사용을 포기하자고 말하지 않는다. 오히려 "알고리즘 자본주의에 대한 해부도를 그리고", 가능한 대안을 찾아보자고 주장한다(책, 205쪽). 쳐다보고만 있지 말고, "민주적 기술의 발명을 위해" "사회적 대화"를 시작하자고 제안한다(책, 205쪽)

그동안 인공지능, 알고리즘-플랫폼은 적극적으로 이용해야 할 대상이었다. 확산에만 초점이 맞춰져 있었다. 이제는 우리 사회가 함께 이 문제에 대해 어떻게 이용할지부터 이야기해야 할 시점이다. 논의를 시작하려면, 알고리즘, 인공지능, 온라인 플랫폼이 무엇인지, 어떻게 작동하는지부터 알아야 하지 않을까!