소셜미디어는 AI 기술 등장과 함께 디지털 시대의 급격한 변화와 성장을 보여주는 주요 산업으로 자리 잡았다. 소셜미디어 기업들은 주로 플랫폼 내 이용자들이 생성하는 다양한 데이터를 활용해 이윤을 창출한다. 더 많은 이용자를 유치하고 기존 이용자 이탈을 방지하기 위해 소셜미디어 기업들은 AI 기술을 적극적으로 도입하기 시작했다. 대표적인 사례가 바로 '인공지능 필터링 기술'이다.

소셜미디어 기업은 AI를 활용해 24시간 소셜미디어 플랫폼에 등장하는 유해 콘텐츠를 감지·제거해 플랫폼을 안전하게 유지한다. 메타, 구글, 네이버 등의 글로벌 소셜미디어 기업들은 플랫폼을 안전한 공간이라 알리며 더 많은 이용자를 유입하기 위해 자체 AI 필터링 기술을 널리 홍보한다. 하지만 이 혁신적인 AI 기술의 이면에는 자동화로 포장된 수만 명의 숨겨진 노동자가 존재한다. '콘텐츠 모더레이터'로 불리는 이들은 소셜미디어 플랫폼에 끊임없이 게시되는 선정적이고 폭력적인 콘텐츠를 직접 확인하고 검토하며 기업의 이윤 창출에 중요한 역할을 한다. 그러나 그들은 기계에 가려져 보이지 않는 노동자다.

AI 기계 뒤에 가려진 노동, 콘텐츠 모더레이터

'콘텐츠 모더레이터content moderator'는 플랫폼 노동과 더불어 디지털 기술의 발전으로 부상한 새로운 형태의 노동으로 소셜미디어 플랫폼에 공유되는 사용자 생성 콘텐츠를 검토하여 유해하고 부적절한 콘텐츠를 기업의 약관 및 커뮤니티 가이드라인에 따라 분별해 소셜미디어를 깨끗하고 안전한 공간으로 만드는 역할을 수행하는 노동자를 일컫는다.

콘텐츠 모더레이터는 문화적·언어적 맥락에 대한 이해가 부족해 콘텐츠 속 혐오 표현이나 폭력적 내용의 분별에 한계를 가지는 AI 자동화 필터링 기술을 대신해 밤낮없이 쏟아지는 플랫폼 속 "디지털 쓰레기"를 직접 확인하고 분별하는 작업에 동원된다. 이 과정에서 노동자들은 살인, 총기 난사, 음란물 등 잔인하고 폭력적인 내용에 지속적으로 노출된다. 그러나 대부분의 콘텐츠 모더레이터는 아웃소싱을 통해 저임금·불안정 고용 지위로 고용되며, 정신적 위험으로부터 적절한 보호와 지원을 받지 못하고 있다. 이들의 존재는 AI를 둘러싼 기술 혁신의 화려한 담론에 가려진 채 기업의 성장과 소비자 편의를 위해 위험한 환경에서 보이지 않는 노동을 제공하고 있다.

디지털 시대 새로운 프레카리아트의 등장?

콘텐츠 모더레이션은 언어적·문화적 이해가 필요한 작업으로, 소셜미디어 기업들은 다양한 국가에서 모더레이터를 모집한다. 한국에서도 여러 플랫폼이 모더레이터를 고용하고 있지만, 정확한 규모는 알려져 있지 않다. 필자는 한국에서 수행되고 있는 콘텐츠 모더레이터 노동 현황을 파악하기 위해 2023년 한 해 동안 약 20명의 노동자를 만나 인터뷰를 했다.

인터뷰 결과에 따르면, 국내에서 이 작업은 주로 크라우드워크나 아웃소싱을 통해 수행되고 있었다. 이는 노동의 비가시성을 심화시키고 저임금·불안정 고용을 확산하는 요인이었다. 필자가 만난 콘텐츠 모더레이터들은 대부분 아웃소싱 기업에 고용된 경우였고, 주로 1~2년 단위의 계약직이거나 도급 계약 형태로 고용되며, 비임금 고용의 경우 1~6개월의 초단기 계약을 맺고 있어 상당한 고용 불안정성을 겪고 있었다. 임금은 대체로 최저임금 수준이며, 3교대 장시간 근무가 일반적인 것으로 나타났다. 주목할 점은 전반적으로 불안정한 고용조건 속에서도 임금직과 비임금직 사이에 노동의 위험과 취약성 격차가 더욱 심화되어 있다는 것이었다. 콘텐츠 모더레이터의 취약한 노동 현실은 디지털 시대 기존 프레카리아트의 불안정성이 한층 더 확대된 모습으로 나타나고 있었다.

개인화된 위험 그리고 감시와 통제의 공간

소셜미디어 기업은 24시간 자동화 필터링 기술에 맞춰 콘텐츠 모더레이션 과정에서 강력한 시간과 속도 통제를 시행하고 있었다. 또한, 하루 처리 콘텐츠 중 10~40%가 유해 콘텐츠일 정도로 콘텐츠 모더레이터는 정신 건강에 큰 위협을 받지만, 노동자를 위한 안전망은 부실했다. 일부 기업에서는 심리 상담 프로그램을 제공하지만, 실제 이용은 어려운 실정이다. 한 글로벌 소셜미디어의 콘텐츠 모더레이터로 근무하는 A씨는 "상상도 하지 못한 영상들에 인간 혐오를 느낄 정도"라고 말했지만, 끊임없이 배정되는 일감을 실시간 빠르고 정확히 검토해야 하는 상황에서 상담소 이용은 '눈치 보이는 일'이라고 토로했다.

비임금 고용 형태의 모더레이터는 이러한 최소한의 안전망도 없다. B씨는 3년 이상 프리랜서로 일하며 정신적 고통이 누적되었지만 지원 요청이 어렵다고 말했다. "사측이 정신적 고통에 대한 보상이나 지원에서 책임을 회피하고 싶어 장기간 근무해도 프리랜서 형태의 고용을 지속하는 것 같다"라고 언급하며 개인적으로 상담센터를 방문하는 등으로 위험에 대처하고 있었다.

노동 과정에서의 통제와 감시도 심각했다. 임금 노동자의 경우 최소한의 휴식시간은 보장되지만, 비임금 노동자는 식사와 화장실 갈 시간조차 확보하기 어렵다. A씨는 "10시간 근무를 하는데도 밥 먹을 시간조차 주지 않는다"라고 토로했으며, C씨 역시 "관리자들이 잠깐만 자리를 비워도 자리에 있냐? 왜 일 처리가 안 되냐? 하며 압박을 줘요"라고 언급했다. 이들은 도급 계약을 맺었음에도 사측으로부터 일의 방식과 작업 시간, 세부 절차에 이르기까지 계속된 지시와 감독을 받고 있었다.

그러나 콘텐츠 모더레이터들에게 이보다 더 힘든 점은 아픈 날에도 일을 쉴 수 없다는 것이었다. 비임금 노동자들의 경우 기본적인 휴가가 제공되지 않기 때문에 명절과 휴일 모두 근무해야만 한다. B씨는 "병원을 가야 할 때도 교대를 마음대로 바꿀 수 없다"라며, 대체 근무자를 구하지 못하면 아픈 몸을 이끌고도 일을 해야 한다고 말했다. 하지만 짧게는 1개월 단위로 계속해서 도급 계약을 맺는 터라 고용의 불안정으로 인해 노동자들은 불합리한 노동 환경에도 쉽사리 항의하지 못하고 있었다. A씨는 "콘텐츠가 밀리면 재계약에 문제가 된다는 식으로 공지를 내려요. 겁을 주는 거죠"라고 언급했다. 이렇듯 비임금 형태의 콘텐츠 모더레이터는 기존의 열악하고 위험한 노동 환경에 더하여 노동자를 위한 보호의 울타리마저도 없는 곳에 위치해 있다.

디지털 시대, 새로운 노동 안전망 구축의 필요

콘텐츠 모더레이터는 디지털 시대 새롭게 도래한 노동이 갖는 특징과 위험의 양태를 보여주는 대표적인 노동자이다. 데이터라는 비물질적 상품을 다루는 과정에서 발생하는 정신적 충격, AI 기술이 매개된 노동 과정의 강화된 통제, 그리고 비가시성으로 인한 문제점이 두드러지는 새로운 유형의 노동인 것이다. 이러한 위험성은 노동자의 취약한 고용 지위와 맞물려 더욱 심각해지며, 특히 비임금 고용형태에서는 기본적인 권리조차 보장받지 못 하는 상황이다.

콘텐츠 모더레이터는 디지털 기술의 발전과 함께 데이터 노동의 특수성, AI 기술 매개 노동의 문제점, 비가시화된 노동의 위험성을 종합적으로 고려한 새로운 보호 체계의 필요성을 강력히 보여주는 중요한 사례로 볼 수 있다. 이는 단순히 기존 노동법의 확장을 넘어, 디지털 경제의 특성을 반영한 새로운 패러다임의 노동 보호 체계를 의미한다. 이러한 논의가 기반이 될 때 우리는 앞으로 다양한 형태로 등장하게 될 디지털 시대의 모든 노동자가 안전한 환경에서 일할 수 있는 진정한 노동 혁신으로 나아갈 수 있을 것이다.