▲ 조사보고서에 수록된 사고차량의 사진. 노란색 화살표가 트럭과 충돌한 지점을, 빨간색 화살표는 전봇대를 들이받은 위치를 나타낸다. ⓒ NTSB
2016년 5월, 미국 플로리다의 한 고속도로에서 끔찍한 사고가 일어났다. 도로를 달리던 승용차가 좌회전 중인 냉장트럭을 들이받은 것이다. 승용차 차체가 낮다보니 트럭 아래로 들어갔고, 그로 인해 윗덮개가 날아가고 운전자는 그 자리에서 숨졌다.
사고가 발생한 지점은 교차로로, 트럭은 왼쪽 도로로 천천히 진입하고 있었다. 승용차가 트럭을 들이받은 부분이 적재함 오른쪽 후미였음을 볼 때, 피해차량은 좌회전을 거의 끝낸 상태에서 사고를 당한 듯했다. 승용차는 시속 74마일(약 120킬로미터)의 속도로 트럭 밑을 파고들었다. 이 도로의 제한속도는 65마일(약105킬로미터)이었다.
미국의 도로에서는 매년 3만 여 건의 사망 사고가 발생하며, 이 사건 역시 크게 다르지 않아 보였다. 과속과 부주의가 빚어낸, 불행하지만 흔한 결과 말이다. 하지만 조사 보고서를 들여다보면 한 가지 특이한 점이 드러난다. 전면 유리가 박살나고 덮개가 뜯겨 나간 상태에서도 차가 계속해서 주행했기 때문이다.
차량은 트럭 아래를 관통해 달리다가, 도로를 오른 쪽으로 벗어나 인근 마을로 향했다. 차는 두 개의 철망 울타리를 뚫고 달려 전봇대를 들이받은 뒤, 시계방향으로 돌아 주택 앞마당까지 간 뒤 멈춰 섰다.
문제의 차량은 테슬라의 역작 '모델 에스(S)'였다. 이 첨단 자동차에는 '오토파일럿(Autopilot)'이라 불리는 자동 조향, 가속, 제동 시스템이 장착되어 있고, 사고 당시 운전자는 이 기능을 켠 채 운전 중이었다. 하지만 차는 느리게 움직이던 트럭을 포착하지 못한 채 질주했고, 사고 후에는 주인의 시신을 태운 채 '자율주행'을 계속했다.
트럭을 향해 질주하다
▲ 테슬라의 오토파일럿이 정지 장애물을 잘 인식하지 못한다고 지적한 <와이어드>의 기사. ⓒ 와이어드
사고 후 테슬라는 "운전자가 주의해서 사용하면 오토파일럿은 운전피로를 낮추고 안전도를 높여준다"는 생뚱맞은 반응을 내놨다. 그리고 3년 뒤인 2019년 3월, 마이애미에서 거의 똑같은 사고가 발생했다. 이번에는 테슬라 '모델 3'가 좌회전하던 트럭 밑으로 들어간 것이다.
역시 오토파일럿 기능이 작동 중이었으나, 차는 속도를 줄이거나 방향을 바꾸지 않은 채 트럭을 향해 돌진했다. 이전 사고처럼 차 윗부분이 찢겨나가고 운전자는 사망했으나, 차는 500미터 가까이 혼자 주행했다. "유족에게 깊은 조의를 표한다"는 의례적 인사와 함께 테슬라가 내놓은 반응 역시 판박이 사고만큼이나 닮아있었다.
"운전자가 주의를 집중해 운전할 경우, '오토파일럿' 기능을 사용하는 게 그러지 않는 편보다 안전하다."
하지만 8대의 카메라와 고성능 레이더가 어떻게 대형 트럭을 감지하지 못했는지에 대한 설명은 없었다.
게다가 유사한 사고가 한두 번 일어난 것도 아니었다. 2018년에는 소방트럭들이 수난을 당했다. 다행히 사망자는 나오지 않았지만, 1월 로스앤젤레스에서 정차한 소방차를 들이받았고, 8월 산호세에서도 서있던 소방차 뒤를 받은 사건이 있었다. 같은 해 5월, 유타에서는 고속도로를 달리던 소방차를 따라가서 들이받은 사고까지 발생했다.
<와이어드>는 오토파일럿 시스템에 근본적 결함이 있을 수 있다는 의혹을 제기했다. 애초부터 정지된 장애물을 잘 인식하지 못하게 설계 돼 있다는 것이다. 기사는 테슬라뿐 아니라 볼보 등 타사의 시스템에도 유사한 문제가 있다고 지적했다.
▲ 캘리포니아에서 발생한 중앙분리대 추돌 사고 사진. ⓒ ABC7
<와이어드>의 지적은 일리가 있었다. 2018년 3월, 캘리포니아에서 30대 남성이 테슬라 '모델 엑스(X)'를 몰던 중 중앙분리대를 들이받는 사고가 터졌기 때문이다. 차는 반 토막 난 채 화염에 휩싸였고, 운전자는 현장에서 사망했다. 그는 애플에서 일하던 엔지니어로, 고속도로를 타고 출근하던 중에 변을 당했다.
이 사건이 있기 전, 사고 운전자는 오토파일럿 기능을 켜고 달릴 때 차가 중앙분리대 쪽으로 쏠린다고 수차례 문제제기를 했다. 그는 가족에게 뿐 아니라, 차를 구입한 영업소에도 찾아가 상황을 설명했으나, '문제점을 발견할 수 없다'는 답변을 듣고 발길을 돌려야 했다.
운전자가 숨진 뒤 테슬라는 "사고 직전 6초 동안 운전대에서 손이 감지되지 않았다"며 자신들의 책임이 없음을 강조했다. 시스템이 운전대를 잡으라는 신호를 보냈는데도 즉각 대응하지 못한 사용자에게 책임이 있다는 것이다. 현재 유족과 회사 간에 소송이 진행 중이다.
끝없이 미뤄온 약속
▲ 테슬라의 웹사이트에 게시된 '오토파일럿' 홍보물. 현재 테슬라의 모든 신차에 자율주행용 하드웨어가 탑재돼 있으며, "소프트웨어 업데이트와 기능개선을 통하여 완전자율주행 능력을 갖추게 된다"고 광고하고 있다. ⓒ 테슬라
테슬라의 수장인 일론 머스크는 자사의 오토파일럿 시스템이 다른 어떤 회사 것보다 우수하다고 자랑해 왔다. 구글의 웨이모가 레이저를 쏘아 주변 환경의 입체지도를 만드는 '라이더(lidar)'를 핵심에 놓고 카메라, 레이더, 초음파 센서를 추가해 주행안전을 꾀하는 반면, 머스크는 '비싸고 불필요한 라이더 따위는 필요 없다'며 라이벌 회사의 '아둔함'을 조롱했다.
테슬라의 시스템은 라이더를 뺀 나머지 세 장치만으로 구성돼 있다. 테슬라는 시판중인 차에 장착된 오토파일럿이 하드웨어적으로 '완전자율주행' 준비가 끝난 상태며, 소프트웨어 업그레이드와 간단한 칩 교환만으로 5단계 자율주행이 가능하다고 주장한다. '5단계 자율주행'이란, 사람의 개입 없이 어떤 조건과 환경에서도 스스로 운행하는 차를 말한다.
더 나아가 일론 머스크는 "2020년까지 완주자율주행 택시 수백만 대가 도로를 누빌 것"이라고 장담하고 있다. 물론 그 시기가 '2018년', '2019년 후반', '2020년 중반'으로 계속 미뤄져 왔지만 말이다. 정말 내년에는 완전자율주행의 시대가 열리고, 수백만 대의 무인택시가 손님을 맞게 될까?
그럴 가능성은 없다. 완전자율주행의 장애물은 기술 부족이 아니라 현실세계의 불확실성이기 때문이다. 테슬라의 오토파일럿은 반사광에 약하고, 주위와 뚜렷이 구분되지 않는 저대비 색에도 약하다. 테슬라는 사용자 매뉴얼에도 자사의 시스템이 '불분명한 시야(비, 눈, 안개 등),' '아주 덥거나 추운 온도,' '초음파를 사용한 장비' 등에 영향을 받는다고 써 놓았다.
▲ 테슬라의 홍보영상. 현재 '반자율주행'으로 판매되고 있는 기능은 '자율주행'과 거리가 먼, '운전자 보조장치'에 지나지 않는다. 운전 과정 모두를 사람이 해야 하고, 운전대에서 손을 떼서도 안 되지만, 업체들은 위와 같은 영상들을 일상적으로 게시하며 사람들에게 잘못된 인식을 심고 있다. ⓒ 테슬라
실제로 테슬라는 2016년 첫 사망사고에 대한 뒤늦은 해명에서 오토파일럿이 "흰색 트럭과 밝게 빛나는 하늘을 구분하지 못했다"고 인정했다. '간단한 업그레이드만으로 완전자율주행이 가능하다'는 시스템이 흰색 트럭을 허공으로 인식하고 아무런 경고나 안전 조치 없이 차를 진행시킨 것이다.
그 뒤로 이어진 테슬라의 변명은 완전자율주행 약속이 얼마나 허망한지를 보여준다. 사고의 원인이 주행시스템이 아니라 "트럭의 높이와 위치가 묘하게 결합한 탓"이라는 것이다. 현실의 불확실성이 자율주행의 통제 영역 밖에 있다는 사실을 인정한 셈이다.
테슬라만의 문제가 아니다. '자율주행 원천기술'을 보유한 웨이모의 회장마저 완전자율주행차의 가능성에 회의를 표명했기 때문이다. 존 크래프식은 2018년 말에 전문가들이 모인 자리에서 이렇게 말했다.
"어떤 도로상황이나 계절과 날씨에서도 스스로 주행할 수 있는 자율주행차를 만드는 것은 불가능하다. 자율주행차에 장착된 센서는 눈이나 비가 올 때는 잘 작동하지 않는데, 이 문제를 극복하는 것이 영원히 불가능할 수도 있다."
결국 사람의 개입이 불필요한 5단계 완전자율주행 시대가 오지 않을 것이라는 이야기다. 다음 글에서 기술적 한계를 자세히 다루겠지만, 설사 기술문제가 해결된다 해도 사람이 운전하는 것보다 몇 배나 비싼 비용의 장벽이 있다(관련기사 : 이재웅 쏘카 대표의 '황당' 예언... 내기 하실래요? http://omn.kr/1jwd5). 하지만 더 근본적인 문제는 '어떻게든 사람을 없애야 한다'는 강박의 비합리성이다.
자율주행의 환상, 죽음을 부르다
▲ 유튜브에 올라있는 한국 영상물. 운전자 조력장치를 '반자율주행'이라 부르며 폭우가 내리는 도로에서 손을 놓은 채 주행하고 있다. ⓒ 유튜브 캡처
현재 한국에도 자동 조향, 가속, 제동 장치를 갖춘 차들이 판매되고 있다. 흔히 이를 '반자율주행차'라 부르는데, 이는 치명적 결과를 초래할 수 있는, 매우 잘못된 명칭이다. 자동차의 운전자 역할교환이 가능하다는 착각을 불러일으키기 때문이다. 사용자는 평상시 도로에서 '자율주행'으로 운행하다가 '유사시'에 운전대를 넘겨받으면 된다고 오판할 수 있다.
미국 자동차기술학회(SAE)의 기준에 따르면, 차-운전자 역할 교환은 3단계 주행부터 가능해진다. 현재 상품화된 주행보조장치는 '최첨단'이라야 2단계 수준이다. 이 단계는 '자율주행'이 아니라, 사람이 시종 운전대를 잡고 있어야 하는 '운전자 조력 시스템(driver-assistance system)'일 뿐이다.
테슬라가 '운전자가 사고 직전 몇 초 동안 핸들에서 손을 뗐다'는 이유로 사망사고의 책임을 면하는 상황이지만, 유튜브에는 '초'가 아니라 몇 분씩 손을 놓고, 심지어 브레이크에서 발을 뗀 채 주행하는 '자율주행 시승기'가 넘쳐난다. 기술에 대한 무지와 환상이 어떻게 자신은 물론 남의 목숨까지 위협하는지 보여주는 사례다.
문제는 업체들이 이런 착각을 교묘히 조장하거나 이용한다는 점이다. '반자율주행'이라는 말이 그렇듯 테슬라의 '오토파일럿'은 차가 스스로 운행할 수 있다는 오해를 낳는다. 테슬라 사고를 조사한 연방 교통안전위원회(NTBS)도 운전보조 시스템을 '오토파일럿'이라고 부를 때 운전자가 오판할 수 있다는 의견을 제시했다.
미국 도로안전보호협회(IIHS)가 발간한 2019년 보고서는 이런 착각이 얼마나 심각한 상태인지를 보여준다. 협회는 2천여 명의 운전자를 대상으로 설문조사를 했다. '오토파일럿만 작동시키면 운전대를 놓거라, 브레이크에서 발을 떼거나, 도로를 보지 않거나, 휴대폰을 사용해도 괜찮다고 생각하느냐'는 질문이었다. 이에 대해 무려 33%가 '오토파일럿이 있으면 (그런 부주의한 행동을 해도) 안전할 것'이라고 답했다.
자율주행에 대한 과장된 홍보와 그에 대한 그릇된 환상이 사람들을 위험으로 내몰고 있는 것이다. 보고서는 테슬라뿐 아니라 닛산, 베엠베(BMW), 포드 등 타사의 운전보조 시스템에 대해서도 사람들이 잘못된 인식을 가지고 있다고 결론 내렸다. 테슬라는 이 연구보고서를 공개적으로 비판했다. "만일 '오토파일럿'이 문제라면, '자동차'라는 명칭도 쓰지 말아야 하는 게 아니냐"는 항변이었다.
플로리다에서 트럭과 충돌해 사망한 조슈아 브라운은 '오토파일럿'의 열렬한 지지자였다. 그는 자신이 몰던 테슬라를 '테시(Tessy)'라는 애칭으로 불렀고, 유튜브에 '자율운행 시승기'도 올렸다. 그는 옆에서 다가오는 차를 미처 보지 못했을 때 경고음을 내 준 차에 감격하면서 머스크에 감사의 글을 남기기도 했다.
"테시는 정말 훌륭했다. 이제까지 차에 장착된 자동 센서와 소프트웨어를 여러 모로 테스트해 볼 수 있었다. 그 결과는 항상 만족스러웠고, 이번에 처음으로 측면 충돌방지 기능도 확인할 수 있었다. 더없이 만족스럽다. 머스크 만세!"
한 달 뒤, 브라운은 그토록 신뢰하던 '테시'에서 마지막 순간을 맞았다. 유튜브에는 그의 열광이 담긴 글과 비디오가 여전히 방문객을 맞고 있다.