어느 여름, 독일 수영장에서 아이 사진을 찍다가 안전요원에게 제지당한 적이 있다. 내 아이만 초점을 잡았기에 딱히 문제 될 것은 없었다. 공원 수영장은 한적했고 사람도 붐비지 않았다. 하지만 행여 다른 아이들이 수영복만 입은 모습이 찍힐 수 있기 때문에 촬영은 곤란하다는 설명이다.
독일에서는 사진·영상 촬영은 반드시 당사자의 동의를 받아야 하며 함부로 유출할 수 없다(관련기사:
가족 브이로그 하는 독일 부모와 우리가 다른 것 https://omn.kr/29wkt). 만일 남의 개인 정보를 유출하고 딥페이크 등에 사용할 경우 그 처벌도 상당히 무겁다.
최근 드러난 텔레그램 딥페이크 사태의 피해 범위가 계속 늘어가고 있다. 이번 사태는 그 피해 범위가 얼마나 되는지 모른다는 게 더 문제다. 연예인, 일반인 구분없고 성인은 물론 어린 학생과 학교도 딥페이크 범죄에 노출되어 있다. 청소년, 학부모와 인권단체들은 가해자 강력 처벌과 정부 대책 마련을 연일 요구하고 있다.
독일, 3년 전에 딥페이크 대책 마련
▲미국 보안업체 '시큐리티 히어로'가 발표한 '2023 딥페이크 현황' 보고서에 따르면 2022년에 비해 2023년 딥페이크 음란물이 약 423%나 증가했다. ⓒ pixabay
딥페이크는 인공지능(AI) 기술을 이용해 특정 인물의 얼굴, 음성, 동작 등을 합성하여 실제처럼 보이게 만드는 기술이다. "딥러닝(Deep Learning)"과 "페이크(Fake)"를 합친 말이며 주로 가짜 비디오나 오디오 콘텐츠를 제작하는 데 사용된다.
가장 일반적인 딥페이크 형태는 얼굴 합성이지만 음성 합성도 있다. 특정 인물의 음성을 모방하여 그 사람이 말하지 않은 내용을 말한 것처럼 만드는 기술이다. 영상 조작으로 정치인의 연설 내용이나 행동을 왜곡할 수 있다. 딥페이크 포르노그래피는 유명인의 얼굴을 포르노그래피 영상에 합성한다.
독일 정보보안청(Bundesamt für Sicherheit in der Informationstechnik (BSI)은 디지털 보안과 관련된 모든 이슈를 다루며, 특히 딥페이크 식별과 예방 기술 개발을 중점적으로 추진한다. '딥페이크 및 허위정보 방지 가이드라인'(Richtlinien zur Prävention von Deepfakes und Falschinformationen)(이하 가이드라인)은 2021년 10월에 제정되었다.
2021년 독일 연방선거 기간 허위 정보와 가짜 영상이 선거에 영향을 주고 기업 이미지, 개인 명예를 훼손하는 데 사용되면서 이에 대한 사회적 경각심이 높아졌다. 이 문제를 예방하고 대중이 이를 인식하도록 하기 위해 가이드라인을 만들었다.
이 가이드라인은 독일 여러 교육기관에서 시행 중이다. 특히, 학교 중등교육 과정에서 이 가이드라인에 기반한 교육이 이루어지고 있다.
흥미로운 점은, 모든 공립 학교에서 의무적으로 시행되고 있다는 점이다. 정보 기술(IT) 교사와 함께 사회 과학(Social Studies) 교사들이 해당 과목 시간에 교육을 담당한다. 또한, 외부 전문가들이 초청되어 워크숍이나 특별 강연 형식으로 추가 교육을 진행하기도 한다.
딥페이크 예방을 위한 가이드라인
딥페이크 예방을 위한 가이드라인에 담긴 중요 항목을 추리면 다음과 같다.
첫째, 딥페이크 예방을 위한 디지털 교육이다.
정확히는 디지털을 이해하고 분별하는 문해력(Literacy)을 키운다. 학교에서는 학생들이 접하는 모든 정보 출처를 확인하고, 해당 출처의 신뢰성을 평가하는 방법을 가르친다. 예를 들어, URL 구조, 도메인, 저작권 정보 등을 통해 출처의 진위를 판단하는 법을 교육한다.
딥페이크 콘텐츠를 판별하기 위해 이미지와 비디오의 메타데이터 분석, 이상한 화면 전환이나 음성 싱크 문제 등을 확인하는 방법을 가르친다. 실습 활동은 학생들이 직접 가짜 뉴스와 딥페이크 영상을 분석하는 활동을 통해 비판적 사고를 훈련한다.
둘째, 딥페이크 피해를 막기 위한 기술적 방어 기술을 습득한다.
딥페이크를 탐지하는 데 사용되는 소프트웨어나 온라인 도구의 사용법을 교육한다. 예로 "Deepware Scanner"와 같은 딥페이크 탐지 도구를 사용하는 방법을 배우게 된다.
그리고 개인 디지털 기기의 보안 소프트웨어를 최신 상태로 유지하고, 강력한 비밀번호 관리, 2단계 인증(2FA) 사용 등을 교육하여 딥페이크 생성에 필요한 개인 정보의 노출을 최소화하는 방법을 가르친다.
셋째, 딥페이크 예방을 위해 윤리적 인식을 키운다.
교사는 AI와 딥페이크 기술이 가진 잠재적인 윤리적 문제와 위험성을 교육한다. 이를 통해 기술을 책임감 있게 사용해야 한다는 인식을 심어준다.
사적인 사진이나 영상이 딥페이크에 악용될 수 있는 위험성을 알리고, 이러한 개인 정보를 온라인에 공유할 때 문제를 강조다.
딥페이크가 사회와 정치, 개인에게 미치는 영향을 사례 중심으로 교육한다. 예를 들어 독일 연방선거에서 보듯이 정치적 목적으로 딥페이크를 사용하는 경우 발생할 수 있는 사회적 혼란에 대해 논의한다.
▲디지털 성범죄 발본색원하라!평등교육 실현을 위한 서울 학부모회, 평등교육 실현을 위한 경기 학부모회, 서울혁신교육학부모네트워크, 참교육을 위한 전국학부모회 서울지부 등 학부모 및 시민사회단체들이 4일 오전 서울 종로구 정부서울청사 앞에서 '딥페이크 성범죄 근절 및 근본족 종합대책마련 촉구 기자회견'을 열었다. ⓒ 이정민
넷째. 법적 대응, 법률교육
딥페이크의 생성과 유포가 독일 법률 하에서 어떻게 처벌될 수 있는지에 대한 교육을 제공한다. 예를 들어, 명예훼손, 사생활 침해, 개인정보 보호법 등 관련 법률과 이들의 적용 사례를 학습한다.
딥페이크 피해자가 되었을 경우 어떻게 법적 보호를 받을 수 있는지, 신고 절차와 법적 대응 방법에 대해 교육한다. 이 과정에서 학생들에게 법률적 조언을 받을 수 있는 기관이나 핫라인 정보도 제공한다.
다섯째, 딥페이크 예방을 위한 구체적인 실습과 워크숍을 연다.
실제 사례를 바탕으로 딥페이크가 어떻게 만들어지고 유포되는지 그리고 이를 어떻게 분석하고 대응할 수 있는지에 대한 실습을 진행한다.
학생들이 실제로 간단한 딥페이크를 만들어보고, 이를 분석하고 방어하는 과정을 학습한다. 이를 통해 기술의 작동 원리를 이해하고, 그 위험성을 체감할 수 있게 된다.
여섯째, 딥페이크 피해를 막기 위해 지역 사회와 공공의 인식을 높이는 캠페인을 연다.
딥페이크의 위험성과 예방 방법에 대한 공공 캠페인을 통해 학생들과 학부모들의 인식을 높인다. 학교 내 포스터, 브로슈어, 소셜 미디어 캠페인을 통해 광범위하게 교육 정보를 전달한다.
지역 사회와 협력하여 딥페이크와 같은 디지털 위협에 대한 워크숍을 개최하고, 지역 주민들이 이에 대해 인식하고 예방할 수 있도록 돕는다.
독일의 가이드라인을 살펴보면서 드는 생각은, 이들의 교육이 매우 실용적이고 구체적이라는 것이다. 이 가이드라인의 목표는 딥페이크와 같은 기술적 위협에 아동· 청소년들을 보호하고 이들이 대응하도록 한다. 더불어 윤리적 책임감과 법적 이해를 포함한 포괄적인 접근을 취하고 있다.
우리나라 정부는 이러한 가이드라인을 어떻게, 무슨 내용으로 마련하고 있는지 궁금하다. 아니, 그 방향조차 못 잡는 게 아닌지 걱정스럽다.