▲3일 오후 서울 종로구 정부서울청사에서 열린 'AI 데이터 기반 보이스피싱 예방을 위한 업무협약식' 에서 참석자들이 기념촬영을 하고 있다.
왼쪽부터 이봉우 국립과학수사연구원장, 이복현 금융감독원장, 김주현 금융위원회 위원장, 고학수 개인정보보호위원회 위원장, 이종호 과학기술정보통신부 장관, 이상중 한국인터넷진흥원장. ⓒ 개인정보보호위원회 제공
대표적인 민생범죄인 '보이스피싱' 확산에 대응하는 다양한 인공지능(AI)기술·서비스 등 기술을 개발하고자 관련된 민·관 기관들의 대규모 협력이 이뤄진다.
과학기술정보통신부(장관 이종호, 아래 과기정통부)와 금융위원회(위원장 김주현, 아래 금융위), 개인정보보호위원회(위원장 고학수, 아래 개인정보위), 금융감독원(원장 이복현, 아래 금감원), 국립과학수사연구원(원장 이봉우, 아래 국과수), 한국인터넷진흥원(원장 이상중, 아래 KISA)은 3일 오후 정부서울청사에서 'AI·데이터 기반 보이스피싱 예방을 위한 상호 업무협약(MoU)'을 체결했다고 밝혔다.
이번 업무협약으로 민간의 다양한 보이스피싱 예방 AI 서비스 창출을 위해 ▲보이스피싱 통화데이터를 가명처리 등 전처리 후 제공 ▲통신·금융업계 협력 증진 ▲정부 기술개발(R&D) 사업 추진 등 협력이 추진된다. 특히 그동안 사후 수사 목적으로만 활용되던 보이스피싱 통화 데이터를 앞으로는 사전 예방을 위한 AI 개발에도 적극 활용된다.
과기정통부에 따르면, 그동안 정부는 대표적인 민생 금융범죄인 보이스피싱에 대응해 다양한 AI·데이터 정책을 추진해 왔다.
앞서 2023년 11월 관계부처 합동으로 발표된 '데이터 경제 활성화 추진과제'에 보이스피싱 확산 방지를 위한 민간의 AI 서비스 개발 지원이 포함됐으며, 올해 4월에는 과기정통부, 금융위, 금감원, 통신·금융협회가 '민생침해 금융범죄 대응·협력 강화를 위한 통신·금융부문 간 업무협약'을 체결했었다.
여기에 이번 협약에는 '보이스피싱 대응을 위한 협력 체계'에 개인정보위, 국과수, KISA까지 포함되면서 기관간 협업의 범위와 깊이가 크게 확장될 전망이다.
구체적으로 협력 사항을 살펴보면, 금융당국 및 수사기관이 보유한 실제 '보이스피싱 통화 데이터'가 보이스피싱 예방 AI(인공지능)를 개발하는 민간 기업에 제공될 수 있도록 협력하는 것이 핵심이다.
통신사 등 민간 기업들이 보이스피싱 예방 AI 기술·서비스를 개발할 때 금감원, 국과수 등으로부터 보이스피싱 통화데이터를 제공 받아 AI 모델 학습, 성능 테스트 등에 활용할 수 있도록 협력한다.
금감원의 경우 보이스피싱 피해자의 신고를 통해 수집한 통화 음성데이터를 과학수사 지원 목적으로 국과수에 지속 제공하고, 국과수는 해당 데이터를 비식별화 등 전처리 등을 거쳐 데이터를 필요로 하는 민간에 제공하는 데이터 공유체계를 구축한다.
그리고 개인정보위와 KISA의 경우 데이터 제공·수집·이용 과정 중 발생할 수 있는 '개인정보 보호법'상 쟁점에 대해 법령해석, 실증특례 등 규제개선 방안 등을 검토하여 안전한 데이터 활용을 지원하고, 가명정보 활용 종합컨설팅 지원 사업 등을 통해 데이터 가명처리, 안전조치 이행 과정 등을 지원한다.
또한 이들 기관들이 다양한 보이스피싱 예방 AI가 개발될 수 있도록 통신·금융업계의 협력을 증진하고 지원하는 것이 이번 협약의 핵심 내용 중 하나다.
일예로, 과기정통부, 금융위, 개인정보위는 통신·금융업계 협력 기반의 보이스피싱 예방 AI 기술·서비스를 적극적으로 발굴하고, 관련법 저촉사항 없이 추진될 수 있도록 법령해석 및 규제개선 방안을 모색한다. 필요할 경우 서비스 개발 과정에서 개인정보 법령 준수방안을 개인정보위와 함께 마련하고, 사업자가 이를 이행한 경우 개인정보 보호법상 불이익한 처분을 하지 않는 개인정보위 '사전적정성 검토제'도 활용한다.
마지막으로, 과기정통부와 개인정보위는 혁신적인 보이스피싱 탐지·예방 기술이 개발될 수 있도록 정부주도 보이스피싱 대응 기술개발(R&D) 사업을 기획·추진한다. 과기정통부는 관련 전문가와 함께 구체적인 사업을 기획하고 예산을 지원하며, 개인정보위는 연구 과정 중 '개인정보 보호법' 관련 규제 개선사항을 발굴하고 필요시 실증특례도 마련한다.
과기정통부는 "이러한 부처간 협업의 첫 번째 성과로서 SKT에서 보이스피싱 탐지·예방 AI 서비스를 개발한다"면서 "해당 서비스는 통화 문맥을 토대로 보이스피싱 의심 여부를 실시간으로 판별해 본인이나 가족에게 알림을 주는 기능 등을 포함할 예정"이라고 소개했다.
▲SKT On-device AI 기반 실시간 보이스피싱 탐지 개념도 ⓒ 과학기술정보통신부 제공
예를 들어, 보이스피싱에 사용되는 주요 키워드나 패턴을 탐지하는 것은 물론, 통화 문맥의 특성에 대한 분석을 통해 수사기관을 사칭하거나 금융거래를 이유로 개인정보를 요구하는 행위 등 다양한 보이스피싱 상황을 즉각 인지하고 의심통화로 분류한다. 그러면 SKT는 통화 데이터가 서버로 전송되지 않고 단말기 내에서 처리되도록 하는 온디바이스(on-device) AI 기술을 적용해 개인정보보호도 강화한다는 방침이다.
결국, 이는 단순히 의심 회선을 차단하는 것이 아니라 AI를 통해 통화 내용을 분석해 보이스피싱을 탐지하게 됨으로써 빠르게 변화하는 범죄 수법에 더욱더 효과적으로 대응할 수 있을 것으로 기대할 수 있게 된다.
과기정통부는 "온디바이스 AI 적용을 위해서는 소형 언어 모델(sLM) 구현이 필요한데, 높은 성능의 소형 언어 모델을 개발하기 위해서는 양질의 데이터가 필수적"이라며 "이 때문에 SKT는 그간 금감원, 국과수가 보유한 보이스피싱 통화데이터를 개인정보위, 금감원, 국과수, KISA 등에 요청해왔다"고 설명했다.
이어 "관계기관은 정보주체의 권리를 보호하면서도 유의미한 AI 성능을 확보할 수 있도록 긴밀히 논의해왔다"면서 "그 결과, 국과수가 약 2만1천 건의 통화데이터를 텍스트로 변환했고, 개인정보위·KISA의 자문을 받아 피해자의 이름, 계좌번호 등 민감한 정보를 안전하게 비식별처리하여 SKT에 제공하는 방안을 마련했다"고 부연했다.
현재 관계기관들의 데이터 가명처리 등이 진행 중이며 6월 중 처리를 완료해 SKT에 제공할 예정이다. SKT는 이 데이터를 제공받으면, 모델 미세 조정(fine tuning)을 통해 성능을 정교화하고, 이를 시제품에 담아 검증한 후 서비스를 출시할 예정이다. 또 향후 지속적으로 데이터를 제공받아 모델 업데이트에 활용한다는 계획이다.
▲SKT 온디바이스(On-device) AI 보이스피싱 방지 서비스 특징 ⓒ 과학기술정보통신부 제공
이외에도 개인정보위는 최근 통신사 등 여러 기업으로부터 보이스피싱 예방 AI 서비스 개발과 관련한 검토요청을 받았으며, 향후 금융위, 과기정통부 등과 함께 긴밀히 논의를 진행할 예정이다. 또 과기정통부는 2025년 신종 보이스피싱 조기탐지 기술개발(R&D) 사업을 기획·추진 중이며, 개인정보위와 함께 기술개발에 필요한 데이터를 안전하게 활용하는 방안을 논의하고 있다.
이들 기관들은 "그동안은 피해자로부터 신고된 보이스피싱 통화 데이터가 사후적인 수사 목적으로만 활용되었으나, 이번 협약을 계기로 앞으로는 사전 예방을 위한 AI 개발에도 활용될 수 있게 됐다"면서 "관계기관들은 신뢰할 수 있는 개인정보보호 및 정보보안 체계를 갖춘 민간기업 등이 민생범죄 예방을 위한 기술개발을 위해 보이스피싱 통화 데이터를 필요로 하면 적극적으로 개방할 예정"이라고 전했다.