지난 5월7일 오후 3시40분, 미국 플로리다 주 레비 카운티의 고속도로에서 교통사고가 났다. 흰색 트럭이 교차로에서 왼쪽으로 회전하며 뒤쪽에 연결된 대형 트레일러가 도로에 가로로 놓이는 순간, 맞은편에서 오던 검은 승용차가 미처 피하지 못하고 짐칸 밑으로 돌진했다. 승용차는 트레일러 아랫부분에 충돌하며 그대로 트레일러 밑을 관통했다. 울타리 두 개를 들이받으며 30m가량 시계 반대 방향으로 주행하다 전봇대를 들이받고야 멈췄다. 트레일러와 부딪친 충격으로 승용차 차체의 위쪽 절반은 완전히 파괴됐다. 운전자 조슈아 브라운은 현장에서 사망했다.

이 검은 승용차는 미국 전기자동차 회사 ‘테슬라’의 모델 S 2015년형이다. 사고 후 8주가 지난 6월30일, 미국 도로교통안전국(NHTSA)은 이번 사고에 대한 예비 조사를 시작했다. 이튿날 테슬라는 공식 블로그를 통해 “사고 당시 오토파일럿(Autopilot·자동조종) 기능이 작동 중이었다”라고 밝혔다. 〈뉴욕 타임스〉 〈포브스〉 등 언론은 이를 “자율주행차의 첫 번째 사망 사고”라고 보도했다.

하지만 이 차는 엄밀히 말해 자율주행차가 아니다. 오토파일럿은 ‘준(準)자율주행’ 기능이다. 2013년, 미국 도로교통안전국은 자율주행 기능을 자동차 스스로 통제 가능한 영역에 따라 다섯 가지 단계로 정의했다. ‘레벨 0’은 사람이 모든 것을 통제하는 ‘전통적 자동차’다. ‘레벨 1’은 일부 자율주행이다. 거의 모든 기능을 사람이 통제하지만, 자동 브레이크처럼 어떤 기능은 자동차가 스스로 통제한다. ‘레벨 2’는 적어도 기능 2개가 동시에 자동으로 작동한다. 예를 들어 크루즈 컨트롤(속도 유지 장치)과 차선 유지를 자동차가 스스로 할 수 있다. 하지만 이 단계까지도 자율주행 기능은 보조일 뿐, 운전자는 언제든지 통제권을 가져올 수 있도록 준비해야 한다. ‘레벨 3’은 특정 환경 조건에서 안전과 연관된 기능을 전부 자동차가 통제한다. 이 단계부터 안전에 대한 통제권과 책임은 사람에게서 자동차로 이동한다. ‘레벨 4’는 출발지부터 목적지까지 완전히 자동화된 ‘자율주행차’다.

ⓒREUTER5월7일 미국 플로리다 주의 한 고속도로에서 테슬라 전기차 모델 S를 ‘준자율주행(오토파일럿)’ 모드로 놓고 가던 운전자가 대형 트레일러와 충돌해 사망했다.

사고가 난 테슬라의 오토파일럿은 레벨 2에 해당한다. 자동차가 가진 여러 기능을 동시에 자동화할 수 있다. ‘자동 긴급 브레이크(AEB)’ 기능은 갑자기 장애물이 나타났을 때 브레이크를 자동으로 작동시킨다. ‘자동 주차’ 기능은 평행 주차를 자동으로 해준다. ‘어댑티브 크루즈 컨트롤’이라는 기능은 레이더와 카메라로 도로를 ‘보면서’ 앞차와의 안전거리를 자동으로 유지하고 필요할 때는 멈추기도 한다.

이런 기능들은 테슬라가 아닌 다른 브랜드의 최신 고급 차종에서도 흔히 볼 수 있다. 그러나 ‘오토스티어(Autosteer)’라는 기능은 테슬라가 유일하다. 오토스티어는 자동으로 핸들을 조종한다. 카메라를 통해 차선을 인식해 좌우 간격을 유지하고, 깜빡이를 켜면 자동으로 차선을 바꾼다. 넓은 도로에서는 부드럽게 회전도 한다. 운전자는 가볍게 손을 휠에 올려놓기만 하면 된다. 오토스티어 기능이 포함된 오토파일럿이 미국 전문가들로부터 “레벨 3에 가까운 레벨 2”라는 찬사를 듣는 이유다.

그럼에도 오토파일럿은 한계 또한 뚜렷하다. 오토스티어는 급격한 회전을 할 수 없고, 빗길이나 눈길에서는 위험하다. 무엇보다 이번 사망 사고에서 테슬라의 ‘눈’을 대신하는 카메라와 레이더의 한계가 드러났다. 테슬라는 7월1일 블로그를 통해 “오토파일럿도 운전자도 밝은색 하늘과 흰색 트레일러를 구별하지 못했다. 이 때문에 브레이크는 전혀 작동하지 않았다”라고 밝혔다. 카메라는 대상의 크기와 모양을 인식할 수 있다. 그러나 이번 사고처럼 하늘이 밝은색이거나 눈·비·안개·직사광선이 심한 날씨에는 흰색 차량이나 차선을 구분하지 못할 수 있다.

자율주행 위험성 감지한 구글은 상용화 늦춰

반면 레이더는 물체의 존재를 카메라보다 명확하게 인식하지만, 그것이 ‘무엇인지’는 알 수 없다. 사망 사고 이후 테슬라 CEO 일론 머스크는 트위터를 통해 “터널이나 교통 표지판을 장애물로 잘못 인식하지 않도록 레이더 범위가 낮게 설정되어 있다”라고 밝혔다. 즉, 이번 사고에서 ‘밝은 하늘’을 배경으로 ‘흰색’인 데다 차체보다 ‘높은’ 트레일러는 카메라도 레이더도 인식하지 못했던 것이다.

ⓒAP Photo자사의 신차 ‘모델 3’을 설명하고 있는 일론 머스크 테슬라 최고경영자(CEO).

결국 오토파일럿은 운전자를 보조할 뿐이며, 마지막 순간 핸들을 잡고 브레이크를 밟아야 하는 것은 여전히 자동차가 아닌 사람이다. 이 때문에 테슬라는 처음 출시할 때부터 “오토파일럿 기능은 공개 베타 서비스 과정이다”라고 강조했다. 베타 서비스란 공식 서비스 직전의 실험 단계로, 언제든 오류가 생길 수 있는 상태다. 테슬라 사용자 매뉴얼은 “오토파일럿이 작동하는 중에도 운전자는 항상 핸들에 손을 얹고 페달에 발을 올려놓아라. 최종적인 안전 책임자는 운전자다”라고 권한다. 또한 핸들에서 손을 떼면 경고음이 나오기 시작하며, 자동으로 천천히 속도를 줄이다가 결국 멈추고 비상등을 켠다.

그러나 일부 운전자들은 이 권고를 새겨듣지 않았다. 2015년 10월14일, 테슬라는 6만여 대 차량에 오토파일럿 기능을 원격 소프트웨어 업데이트를 통해 설치했다. 곧바로 동영상 공유 사이트 유튜브에 테슬라의 오토파일럿 기능을 과시하는 동영상들이 올라오기 시작했다. 오토파일럿 기능을 켠 다음 시속 100㎞ 이상으로 주행하며 빵에 잼을 바르는 사람, 면도를 하는 사람, 심지어 운전석을 비워둔 채 뒷좌석에 앉아 저절로 돌아가는 핸들을 촬영하는 사람도 있었다. 지난 5월23일, 정체가 심한 고속도로에서 한 테슬라 운전자가 차를 오토파일럿 모드로 둔 채 자고 있는 모습을 옆 차량 운전자가 촬영해서 올리기도 했다.

오토파일럿 모드는 핸들을 잡고 미세하게 움직이기만 해도 자동으로 해제되기 때문에, 경고음을 무시하면 꽤 오랫동안 손을 놓을 수 있다. 사망한 조슈아 브라운도 핸들에서 완전히 손을 뗀 채 여러 가지 상황에서 오토파일럿 기능을 실험하는 동영상을 유튜브에 올렸다.

일론 머스크도 이에 대해 알고 있었다. 2015년 4분기 영업실적 발표에서 그는 “유튜브에 꽤나 ‘미친’ 영상들이 올라오고 있다. 이건 좋지 않다. 이를 제어할 만한 추가 장치를 만들겠다”라고 말했다. 하지만 정확히 어떤 기능이 달라졌는지 알려진 바 없다.

이 영상들은 단순히 장난스럽고 ‘미친’ 사람 몇 명의 일탈 행위였을까? 최근의 자율주행차 연구에 따르면 그렇지 않다. 사람들은 몇 가지 기능이 자동화되면, 레벨 4 완전 자율주행차를 탄 것처럼 행동했다. 기술을 지나치게 신뢰해 실제 기술의 능력과 사람들이 생각하는 기술의 능력 사이에 간극이 생긴 것이다. 특히 기술이 레벨 4에 가까울수록 그런 경향이 강해졌다. 버지니아 폴리테크닉 주립대학 교통연구소의 연구에 따르면 준자율주행 레벨 2로 주행할 때 운전자는 레벨 1로 주행할 때보다 좀 더 주의력을 잃었다. 레벨 1로 운전할 때는 운전자의 8%만 문자메시지를 보내거나 이메일을 확인했지만, 레벨 2로 운전할 때는 50%가 그런 행동을 했다. 또한 모든 운전자가 레벨 2로 운전할 때 평균 33% 더 오랜 시간 전방에서 시선을 돌렸다.

ⓒAP Photo구글이 개조한 렉서스 AV가 캘리포니아 주 마운틴뷰 지역을 달리고 있는 모습.

자율주행차를 개발 중인 구글도 비슷한 실험을 했다. 2015년 10월, 구글은 자사 직원 중 자원한 사람들에게 통근 시간에 고속도로에서 이용할 수 있도록 자율주행차를 제공했다. 구글은 실험 대상자들에게 이 기술은 아직 초기 단계이므로 항상 100% 주의를 기울여야 한다고 말했다. 이를 약속하는 증서에 서명을 받고 차 안을 촬영하는 것에 동의를 받았다. 그럼에도 사람들은 주의를 기울이지 않았다. 심지어 어떤 사람은 시속 100㎞ 이상으로 달리면서 뒷좌석으로 몸을 돌려 노트북을 꺼내 핸드폰을 충전하려고 했다. 구글은 “우리는 인간 본성을 보았다. 사람들은 기술이 잘 작동하는 걸 보는 순간 그것을 매우 빨리 믿는다”라고 보고서에 썼다. 이 때문에 구글은 레벨 4 완전 자율주행차를 만들기 전까지는 자율주행차를 상용화할 생각이 없다고 밝혔다.

일부 언론은 테슬라와 일론 머스크가 사람들의 ‘오해’를 부채질했다고 비판했다. 영국 일간지 〈가디언〉은 ‘자동조종’을 의미하는 오토파일럿이라는 이름부터 문제 삼았다. “다른 회사들은 같은 개념의 기능에 이름을 붙이면서 좀 더 보수적인 단어를 골랐다”라는 것이다. 볼보는 모든 자동화된 기능을 묶어 ‘준자동화(semi-autonomous) 기술’이라고 부른다. 메르세데스 벤츠는 ‘운전자 보조(driver assistance)’, 도요타는 ‘안전 감지(safety sense)’, 혼다는 ‘감지(sensing)’라는 단어를 사용한다. 테슬라 CEO 일론 머스크는 트위터를 통해 오토파일럿이라는 이름은 비행기의 자동조종 장치(automatic pilot)에서 따왔다고 밝혔다.

7월6일 테슬라는 블로그에 두 번째 글을 올려 “오토파일럿 모드로 1억 마일(약 1억6093만4400㎞) 넘게 주행하며 한 번도 사망 사고가 나지 않았다. 전 세계 사고 데이터와 비교했을 때 오토파일럿을 이용하는 고객들은 통계적으로 더 안전하다”라고 밝혔다. 이번 사고가 있었음에도 오토파일럿이 사망 사고 위험을 낮춘다고 해명한 것이다. 하지만 미국 기술 전문 분석 잡지 〈MIT 테크놀로지 리뷰〉는 이런 비교는 “수상쩍다”라고 보도했다. 오토파일럿은 오직 준중형차가 고속도로에서만 이용해왔기 때문에, 전체 차량 운행과 비교하는 것은 부적절하다는 지적이다.

오토파일럿의 안전을 강조하면서도 테슬라는 최종 책임을 운전자에게 떠넘겼다. 같은 글에서 테슬라는 “사고 순간 오토파일럿이 설계된 대로, 사용자에게 설명한 대로 움직이지 않았다는 증거는 어디에도 없다. 오토파일럿은 운전자 보조 시스템으로써 차선을 유지하고 속도를 조절했다”라고 말했다. 일론 머스크가 2015년 10월 기자들에게 오토파일럿을 시연하며 “이것은 ‘거의’ 자율주행이다”라고 말했던 것과는 온도 차가 있는 해명이다. 당시 머스크는 잠시 핸들에서 두 손을 놓기도 했다. 머스크의 전 부인 탈룰라 라일리는 핸들을 잡지 않고 고속도로에서 테슬라를 타는 영상을 인스타그램에 올렸다가 지웠다.

테슬라 공식 인터넷 커뮤니티에 올라온 사고 관련 토론 글에서 한 테슬라 운전자는 이렇게 댓글을 달았다. “나는 오토파일럿이 안전벨트나 에어백 같은 다른 안전장치들과는 다르다고 생각해. 안전벨트를 맬 때와 매지 않을 때 운전자의 행동이 달라질까? 아니라고 봐. 하지만 오토파일럿은 사람들이 운전에 주의를 덜 기울이도록, 그래서 덜 피곤하고 더 편리하도록 만들어졌어. 그리고 그게 바로 문제야.”

기자명 신한슬 기자 다른기사 보기 hs51@sisain.co.kr
저작권자 © 시사IN 무단전재 및 재배포 금지
이 기사를 공유합니다