"성인이 성적 대화하는 게 왜 문제일까?"

생성형 인공지능(AI) 서비스인 챗GPT가 12월부터 성인용 대화를 허용하겠다고 하자 우려의 목소리가 나오고 있다. 가장 큰 건 성인 인증 여부다. 그리고 딥페이크(AI를 활용한 불법 합성물)다. 지금도 챗GPT는 사진을 올리면 다른 이미지로 쉽게 변환해 주는데 성 착취물을 손쉽게 만들어 주는 건 아닐까 하는 것이다.

성인용 대화를 허용해도 괜찮을까? 전문가는 이 사안을 어떻게 보는지 들어보고자 지난 12일 서울역 근처에서 강정수 블루닷 AI 연구센터장을 만났다. 다음은 강 센터장과 나눈 일문일답 정리한 것이다.

- 챗GPT를 서비스하는 오픈AI에서 이른바 19금 대화를 12월부터 가능하도록 하겠다고 밝히자 우려하는 목소리도 나오는데 어떻게 보시나요?

"사실 19금이 아닌데 한국 언론에서 그렇게 보도하고 있는 거고요. 이건 지금 전 세계적으로 인기 있는 AI 친구 서비스죠. 친구인데 남사친, 여사친이 있는 거고 남친, 여친이 있죠. 보통 남친, 여친과 성적인 대화가 오갈 수 있는 거죠. 그걸 19금이라고 한국에서 표현하는 거고요. 이미 한국에서도 지금 챗GPT보다 많이 사용하는 게 제타라는 서비스입니다. 이것도 남사친 여사친 또 남친 여친 사귀는 한국 서비스죠."

- 전 세계적으로 인기 있는 AI 친구 서비스라고 하셨는데 왜 그런 걸까요?

"외로운 사람들이 대화를 해볼 수 있는 거고요. 걸프렌드 시장이 10대부터 60대까지 확산했고, 그다음에 보이프렌드 시장도 대단히 빠르게 확산되고 있고요. 심지어는 사귀었다가 자살하는 경우도 나타나서 소송전도 있는 거죠.

사실 영화 <her>도 AI와 인간이 사랑에 빠지는 내용을 담고 있죠. 2013년에 나온 영화인데 그 영화의 배경이 2025년이에요. 지금 <뉴욕타임스>를 보면 '그녀가 챗GPT와 사랑에 빠졌다'는 제목의 기사도 있고 요즘 AI와 사랑에 빠졌다는 기사가 수없이 많이 생산되고 있어요. 애인과 대화에서 성적인 표현이 들어갈 수도 있고 그걸 19금이라고 표현하는 것인데 제가 보기엔 문제 될 건 없죠."

- 지금 챗GPT에서 욕은 안 되는데 12월부터 허용한다고 해요.

"그렇겠죠. 우리가 대화하다 보면 친구끼리 욕하고 애인하고 성적인 대화도 할 수 있죠. 문제는 청소년이에요. 청소년도 이성 친구와 대화할 수 있지만 성적인 대화를 금지해야죠. 그런 부분에서 가이드라인을 지키고 있는지 정부나 언론 또는 시민단체에서 검토해 볼 필요가 있다고 생각해요. 하지만 제가 AI와 성적인 대화를 하는 게 잘못된 건가요? 성인이 성적인 대화하는 걸 막는다는 것 자체는 난센스라고 생각합니다."

- 이게 비즈니스인가요?

"그럼요. 이건 엄청난 비즈니스예요. 전 세계에서 가장 AI와 관련돼서 비즈니스가 처음으로 뜨고 있는 건 성적인 거고요. 금속 활자가 처음 나오고 유럽에서 출판물이 나왔을 때 출판물의 90%가 다 포르노그라피였어요. 10%가 좋은 책들이었던 거죠. 인터넷 트래픽도 50%는 포르노잖아요. 당연하게 이런 부분에서 비즈니스가 먼저 일어나기 때문에 이쪽에서 돈 벌려고 이쪽으로 달려가는 건 막을 수 없다고 생각합니다."

"성인들이 대화하는 것을 막는다는 건 난센스"

▲ 인공지능(AI) 앱 딥시크, 챗GPT, 제미나이의 아이콘이 표시된 휴대폰 화면 EPA 연합뉴스

- 그렇다면 우려할 건 아니라고 보세요?

"그렇죠. 다만 청소년들이 이런 대화가 오고 가는지는 검토할 필요가 있죠. 청소년들에 대한 보호 장치가 있는지 검토할 일이지 성인들이 대화하는 것을 막는다는 건 난센스라는 생각이 들어요."

- 우리나라 성인인증은 주민번호를 입력하지만, 챗GPT가 한국 것은 아니잖아요. 성인인증이 가능할까요?

"미국 거라도 국내에서 서비스하려면 국내 기준에 맞춰야 하는 거고요. 그렇기 때문에 전혀 문제 될 건 없다고 보고요. 페이스북이나 인스타그램도 미국 거지만 국내 규정을 따르잖아요. 한국에서 챗GPT 이용자가 2000만 명을 기록하고 있기 때문에 당연히 한국 기준을 따를 거고요, 그렇기 때문에 그건 큰 이슈가 아니라고 봅니다."

- 우려 중 하나는 딥페이크일 거 같거든요.

"딥페이크는 저도 우려하고 있고 문제가 많다는 생각이 들어요. 딥페이크는 아시는 것처럼 과거에도 있었던 거죠. 근데 딥페이크라는 건 AI를 이용한 페이크라는 거잖아요. 그래서 딥페이크는 과거보다 훨씬 저렴해졌고 누구든 손쉽게 만들 수 있어요. 그렇게 접근성이 좋아졌기 때문에 규제 또한 더욱더 강력해져야 되는데 규제는 강력해지지 않았어요.

AI 기본법을 만들었지만, 딥페이크에 의해 피해 보고 있는 여성들 조사라든지 행위자들에 대한 처벌 같은 경우 강화되지 않고 있고 또 이걸 조사하는 경찰에 대한 예산을 증액해 주는 게 없다는 거죠. 왜냐하면 헤어진 전 여친의 사진으로 (딥페이크를) 만들었을 때 기존의 형법으로도 처벌할 수 있기 때문에 강력하게 이것을 규제해 줄 수 있는 조사 당국의 규모가 커져야 한다는 거죠.

악용하는 건 사람이지 기술이 아니라고 생각해요. 컴퓨터가 나왔을 때 어떤 사람은 이걸 좋은 일로 쓰지만 어떤 사람은 해킹하는 데 쓰는 거고 자동차가 나왔을 때 어떤 사람들은 안전 운전하기도 하지만 어떤 사람은 음주 운전해서 사고 나기도 하잖아요. 음주 운전자를 처벌하는 것이지 자동차 회사를 처벌할 수는 없는 거잖아요. AI도 좋은 일에 많이 쓸 수 있어요. 악용하는 사람은 강력하게 처벌해서 이것에 대한 사회적 상징성을 만들어내는 것이 중요하다고 보고 있어요."

- 챗GPT를 막는 것보다 법으로 할 수 있다는 건가요?

"그렇죠. 예를 들자면 챗GPT가 그것을 위해 노력할 거예요. 근데 사람들이 딥페이크를 챗GPT로 만들지 않아요. 더욱더 음성화되어 있는 서비스를 이용한다는 거죠. 챗GPT라든지 제미나이는 성적인 표현이나 딥페이크를 못 하도록 자체 필터링이 되어 있어요. 문제는 오픈 소스로 나와 있는 걸 예를 들어 제3국 조그마한 섬에다가 설치해 놓고 딥페이크용으로 판매하는 거잖아요."

"부정적인 요소는 사회 제도로 줄이려고 노력해야"

- 지금 챗GPT로 사진을 만화로 바꿔 주잖아요. 그런 식으로 딥페이크 만들 수 있지 않을까요?

"안 돼요. 챗GPT는 옷을 벗기지 않아요. 문제는 많이 쓰는 서비스를 이용하는 게 아니라 오픈 소스를 다운받아 추적이 안 되는 특정한 국가에서 요금 결제하면서 딥페이크를 만드는 거예요. 그런 거기 때문에 챗GPT 등에서 나체를 만드는 게 아니라는 거예요. 그 정도의 필터링을 갖고 있죠."

- AI를 애인으로 생각하는 건데 괜찮을까요?

"제가 고양이를 키우는데 고양이를 애인처럼 생각하는 게 문제가 될 수 없잖아요. 마찬가지로 AI를 애인이나 친구로 생각하는 게 어떤 사람한테 도움이 될 수 있어요. 청년 고독에 있는 사람들, 노인 고독에 있는 사람들, 그리고 군인 등 특정한 지역에서 오래 근무하는 사람들이죠. 미국에서는 일부러 국방부에서 만들어주고 있어요. 뭐든 적절한 선을 넘으면 문제인 거죠. 적절히 선을 지키면 문제가 없는데 여기에 중독돼 자기 일상이 파괴되는 게 문제인 거잖아요. 그렇기 때문에 AI와 애인이 되고 친구가 되는 게 왜 나빠요?"

- 자칫 망상에 빠질 수 있잖아요?

"그럼요. 빠질 수 있죠. 자칫하다 우리는 교통사고를 당해 죽을 수도 있어요. 1년에 교통사고로 수만 명이 죽잖아요. 그렇다고 자동차를 금지시켜야 하나요? 그게 아니라 그 사망률을 줄이려고 노력하는 거죠. AI도 마찬가지입니다. AI를 금지시키는 것이 아니라 악용하고 잘못 쓴 사람을 처벌하는 것이죠. AI는 유익이 커요. 친구도 없는 사람들에게 친구가 있어서 고독사 안 할 수 있다면 얼마나 좋은 거예요. 모든 기술은 긍정적인 요소와 부정적인 요소가 있습니다. 부정적인 요소는 사회 제도로 줄이려고 노력해야 되죠."

- 지금 AI는 어디까지 온 건가요?

"기술적 수준에서는 많은 논쟁이 있어요. 근데 한국은 너무 기술 중심주의로 가고 있어요. 이것이 범용인공지능(AGI)이냐 혹은 슈퍼 인텔리전스냐는 건 중요하지 않아요. 지금도 친구 서비스를 하는 건 돈이 되기 때문인 거죠. 중요한 건 시장이 어떻게 재편되는가예요.

기자님도 스마트폰 없이 살 수 있어요?. 똑같은 거예요. AI가 우리의 삶 어디까지 와 있느냐가 중요한 거죠. 사람들 생활에 얼마나 들어와서 AI가 없으면 일을 못 하고, 커뮤니케이션을 잘 못하고, 커머스를 잘 못하고, 미디어 소비를 잘 못하느냐는 게 더 중요한 거예요. 어떻게 AI하고 공존할 것인가 도구로서 이런 부분이 더 중요하다고 생각하고 있습니다."

"잠재력 느낄 수 있어야... 적극적 활용 필요"

▲ '인공지능(AI)'이라는 글자 앞에 컴퓨터와 스마트폰을 든 피규어들이 놓여 있다. 로이터 연합뉴스

- AI에서 쇼핑까지 연계될 거라는 말도 있던데 어떻게 보세요?

"너무 좋죠. 우리가 온라인 커머스에서 했던 게 최저가 찾는 거예요. 만족스러운 걸 살 때도 있고 어느 순간 바보가 됐다는 걸 느낄 때도 있죠. 이 물건 사는 것이 맞는지 아닌지도 항상 고민해야 하고 블로그 찾아봐야 하고 물건을 선택하기 위해 많은 정보를 소비해야 하는데 AI가 제품을 적절하게 추천해 주고 최저가를 추천해 주고 그래서 편해진다면 AI 커머스는 당연하게 성장할 수밖에 없습니다. 소비자 유익이 있냐 없냐가 중요한 거죠."

- 사람이 기계의 지배를 받는 거 아닌가요?

"그거야 그쪽으로 공포 마케팅하시는 분들이 하는 말이죠. 그게 과거에도 있었어요. 한국은 아직도 학교에 전자계산기 도입을 못 하잖아요. 미국과 유럽에서 전자계산기를 초등학교 수업 시간에 도입할 때 엄청난 논쟁이 있었어요. 인간의 사고력을 기계에 의존하려고 한다고 반대론자들이 많았어요.

전자계산기 쓰고 수학하는 사람들은 바보들이고 전자계산기 쓰지 않고 구구단 잘 외우는 한국 친구들은 천재들인가요? 저는 그렇게 생각하지 않아요. 도구를 어떻게 활용하는지가 중요한 거죠. 근데 도구를 쓴다고 해서 지배당한다고 생각하는 건 과정이라고 생각하고 학술적으로 그런 건 없다고 생각해요."

- 어떻게 활용하느냐에 따라 다를 것 같은데 AI를 어떻게 활용해야 할까요?

"그렇죠. 근데 그것을 판단하기 위해서는 많이 써봐야 이것이 악용될 수 있는 사례도 알 수 있어요. 자꾸 금기시하는 것이 아니라 적극적으로 써보면서 이것이 가질 수 있는 위험 요소를 우리 스스로가 느낄 수 있어야 하고 이것이 가져올 수 있는 잠재력들도 우리가 느낄 수 있어야 합니다. 그래서 적극적으로 활용하는 것이 필요하죠."

- 마지막으로 한마디 해주세요.

"지금 AI가 초기 단계를 지나고 있다고 봐요. 초기 단계에서는 기술에 대한 공포감이 있죠. 자동차가 처음 나왔을 때 사람들이 얼마나 무서웠을까요? 자동차가 처음 나왔을 때는 깜빡이등도 없었고 도로에 신호등도 없었습니다. 그러나 사고가 자주 생기니까 자동차 보험도 생긴 거고 심지어 병원의 응급실도 자동차 사고가 생기면서 만들어진 거예요.

우리가 제도를 개선하는 겁니다. 자동차의 확산을 막을 수 없었던 것처럼 AI가 확산할 때 이것이 가져다줄 수 있는 폐해를, 우리가 자동차를 타면서 알아냈던 것처럼 AI 써보면서 고쳐나가면 된다는 생각이 들어요."

덧붙이는 글 이 기사는 전북의소리에도 실립니다.

오탈자 신고