▲가상현실 응용 설명가능한 자율주행 알고리즘 설계 및 평가 기술 ⓒ GIST 제공
자율주행 환경에서 생체 센서 통해 탑승객의 도로상황 인식 수준 평가 및 복잡한 인공지능(AI) 모델의 의사결정을 탑승자가 이해할 수 있도록 설명해주는 자율주행차 기술이 개발됐다.
이 기술은 '설명 가능한 인공지능(Explainable AI, XAI)'으로, 인간이 쉽게 이해할 수 있는 AI 시스템을 만들어 더 믿을 수 있는 인공지능 환경을 만드는 것을 목표로 한다.
GIST(광주과학기술원, 총장 임기철)는 9일 "융합기술학제학부 김승준 교수 연구팀과 매사추세츠공대(MIT) 연구소(CSAIL)의 공동연구 성과로 '자율주행차량 내 인공지능의 주행 의사결정을 탑승객 중심으로 설계 및 평가하는 기술'을 개발했다"고 밝혔다.
이어 GIST는 "(해당 기술을 통해) 자율주행 알고리즘의 결과(인지판단 사유)를 탑승객에게 설명하고 시각화하는 방법을 제시했다"고 강조했다.
연구팀에 따르면, 자율주행 등 안전성이 중요한 환경에서는 인공지능의 신뢰성을 위해 의사결정 사유를 해석하고, 설명할 수 있는 딥러닝 기술이 요구된다. 그런데 기존 알고리즘은 개발자나 AI 전문가를 중심으로 설계되어 있어 자율주행 차량 내에서 탑승자의 도로 및 주행상황 인식을 보조하는 데 한계가 있었다.
이에 연구팀은 이를 극복해 '생체 센서'를 통해 탑승객의 도로상황 인식 수준을 평가하고, 이에 맞춰 자율주행 상태를 시각화해 복잡한 AI 모델의 의사결정을 탑승객이 이해할 수 있도록 설명하는 기술을 개발해냈다.
GIST는 "이번 연구는 차량 인터페이스를 증강해 임의의 설명 가능한 주행 알고리즘을 탑승자(인간) 중심으로 평가할 수 있다는 장점이 있다"면서 "자율주행차량의 기술 수용도를 높이기 위한 차내 정보 시스템, 헤드업 디스플레이 등 첨단 전장(자동차 전기·전자 장비) 설계에 응용될 수 있을 것으로 기대된다"고 전망했다.
▲MIT 컴퓨터과학 및 인공지능 연구소 파견 및 연구협력 모습. ⓒ GIST 제공
김승준 GIST 교수는 "이번 연구성과는 도로 위 가상현실 환경에서 탑승객의 인지 부하, 긴장, 신뢰도, 상황인식 등 사용자 경험을 평가할 수 있다는 점에서 학회에서 많은 관심을 받았다"면서 "최근 성공적으로 개최한 'GIST-MIT 심포지엄'을 계기로 국제공동연구 성과를 확산하고, 인간 중심의 인공지능 연구 개발을 위해 협력할 것"이라고 말했다.
한편, 이번 연구는 김승준 교수가 주도하고 김광빈 박사과정생, 여도현 박사과정생, 조태우 석사과정생이 수행했으며, GIST-MIT 국제협력사업의 지원을 받아 매사추세츠공대(MIT)의 컴퓨터과학 인공지능 연구소(CSAIL) 소장인 다니엘라 러스(Daniela Rus) 교수를 포함한 MIT 연구팀과의 공동 연구로 진행됐다.
김승준 교수 연구팀은 MIT CSAIL과 함께 2021년부터 2025년까지 5년간 진행되는 AI국제협력사업에서 '인간중심 물리 시스템 설계를 위한 HCI+AI 융합연구'를 수행하고 있다. 이를 통해 인간-컴퓨터 상호작용 기술과 인공지능 기술을 융합하여 운송, 스포츠, 재활, 엔터테인먼트 등 다양한 영역에서 사용자와 상호작용이 가능한 인공지능 연구를 진행하고 있다.
연구팀은 지난 10월 12일 유비쿼터스 컴퓨팅 분야 최우수 국제 학회인 <UbiComp(ACM international joint conference on Pervasive and Ubiquitous Computing) 2023>에서 관련 연구 성과를 발표했다.