지난 8월 25일, 일본의 통신·전자기기 종합회사인 NEC가 서류전형을 심사하는 인공지능을 개발해 활용 중인 것으로 알려졌다. <마이니치신문>의 보도에 따르면, NEC가 개발한 AI(인공지능)는 약 2000명의 이력서 데이터와 이전 입사자의 이력서를 학습했다. 많은 언론사는 '인공지능이니까' 인간의 개인적 주관 없이 공정한 평가가 가능하다는 것이 장점이라고 분석했다.
그러나 이 분석은 위험하다. 지금의 인공지능 기술은 인간의 편견까지 학습할 가능성이 높기 때문이다.
"흑인 = 고릴라?" "여성 사용자 = 저임금 구직자?"
이세돌과 바둑 대결을 펼친 알파고, 넷플릭스의 영화추천 시스템, 구글 포토 등 최근 인공지능으로 소개되는 많은 서비스는 방대한 데이터로 주입식 교육을 시켜 패턴을 발견을 하는 원리를 이용한다. 그렇기 때문에 입력한 데이터에 따라 오류가 발생하기도 하고, 예상하지 못한 결과가 나오기도 한다.
지난해 7월에 터졌던 구글 포토의 인종차별 논란이 대표적인 사례다. 흑인의 사진을 고릴라로 분류한 것이다. 구글은 긴급 패치로 문제를 해결하고, 당사자에게 사죄했다.
a
▲ 구글 인종차별 논란 ⓒ @jackyalcine
실제 구직시장에도 영향을 미치고 있다. 카네기멜론 대학의 연구결과(Amit Datta외 2명)에 따르면, 구글 검색 시, 여성 사용자에게 급여가 적은 일자리 광고가 더 많이 뜨는 것으로 밝혀졌다.
구글은 인공지능에게 "차별하라"고 가르치지 않았다. 이런 오류는 불완전한 프로그램 때문에 생긴 일이라고 한다. 하지만, 차별을 내재한 인간사회를 너무 잘 반영하고 있는 것은 우연이 아니다. 인간이 만들어온 방대한 데이터에 편견이 녹아 있는 것 아니겠는가.
인공지능이 학습할 대한민국은 어떤가
외모를 강조하고, 야근과 박봉을 당연시 하는 사람을 우대하는 채용관행에, 부모님의 나이, 직업, 학력, 월수입이나 재산상황까지 묻는 이력서라니. 고용노동부가 차별 없는 표준이력서와 표준면접 가이드라인을 만들어 권고한 것이 10년 전이다. 그러나 우리는 아직도 차별에 둔감하다. 이런 대한민국을 학습한 인사담당 알파고는 어떤 결론을 내릴까?
a
▲ X 기업의 이력서. 가족의 근무처와 직위, 부동산까지 요구하고 있다. ⓒ 오마이뉴스 신나리
신이 인간을 창조할 때 그를 닮게 만들었다고 한다. 인간이 창조할 인공지능도 결국 우리를 닮지 않겠는가. 편견과 차별이 가득한 사회에서 탄생할 지금의 인공지능은 우리가 기대하는 것처럼 공정하지 못하다. 우리 스스로 차별사회를 개선하지 않으면 우리에게 배운 인공지능에게 차별 당하게 될지도 모른다. 기술은 모든 문제를 해결해주지 않는다.
저작권자(c) 오마이뉴스(시민기자), 무단 전재 및 재배포 금지
오탈자 신고
