구글의 자율주행차 업체 웨이모는 2020년에만 우리 돈으로 3조6,000억원에 달하는 돈을 투자받았습니다. 2021년 상반기에는 여기에 또 2조8,000억원이 추가로 조달되었습니다. 그럼에도 불구하고 웨이모의 상용화 시점은 여전히 오리무중입니다. 2022년 현재 도로를 주행하는 모든 완전 자율주행차 수도 여전히 0대입니다. 왜 이런 일이 벌어졌을까요?
© rpnickson, 출처 Unsplash, 최근 많은 가정에서 사용되고 있는 스마트 스피커와 비교해 보겠습니다. 카카오미니나 SKTNUGU가 100회 발화 중 99회를 제대로 알아들었으면 정말 훌륭할 것 같습니다. 그런데 100개의 정지 신호 중 99개를 제대로 인식하는 자율주행차가 있다고 생각해 보겠습니다. 똑같이 박수를 쳐줄 것 같아요? 자율주행 기능에는 엄격할 수밖에 없습니다. 단 한 번의 오인식으로 끔찍한 결과를 초래할 수 있기 때문입니다. 단 한 번의 실수로 목숨을 잃을 수도 있는 문제입니다.
그렇기 때문에 자율주행 기술은 무엇보다도 완벽하게 접근해야 합니다. 그래서 특히 어렵죠. 공격적인 활용은 자칫 큰 화를 부를 수 있습니다. 이미 테슬라의 자율주행 기능이 운전자의 안이한 대응을 불러 문제가 됐고, 이미 여러 차례 사망사고를 기록한 바 있습니다. 아직 정식으로 출시하지는 않았지만 단 한 번의 사망 사고를 낸 웨이모와는 대조적입니다. 이 역시 상대 차량이 중앙선을 넘어오면서 발생한 사고였습니다.
테슬라의 자율주행 옵션인 완전자율주행 FSD, FullSelfDriving은 이름과 달리 여전히 2단계 수준에 불과합니다. 스텝 2에는 스티어링 제어만 가능할 뿐 운전자는 항상 전방을 주시해야 합니다. 하지만 유튜브에는 매일 테슬라에서 운전 중 잠든 운전자의 영상이 올라오고 있습니다.
결국 테슬라는 자율주행 기능을 출시한 지 7개월 만인 2016년 5월 미국 플로리다주에서 첫 사망사고를 기록합니다. 흰색 트레일러 측면을 들이받은 사고였습니다. 당시 테슬라 모델S는 흰색 트레일러 측면을 전혀 장애물로 인식하지 못하고 속도를 줄이지 않고 그대로 부딪히고 말았습니다.
자율주행에서의 인식은 정말 어려운 문제입니다. 단 한 번의 오인식으로 끔찍한 결과를 초래할 수 있기 때문입니다. 특별히 한 번도 경험해 보지 못한 상황에서는 훨씬 어렵습니다. 테슬라의 자율주행차는 도로 위에서 거대한 흰색 트레일러의 측면을 본 적이 없었습니다. 밝은 하늘이 비치는 트레이너의 측면을 테슬라는 하늘로 인식하고 속도를 전혀 줄이지 않았습니다. 제동 장치는 전혀 작동하지 않고 그대로 충돌했습니다.
이런 상황에서 자율주행차의 미래를 이미 상당한 수준의 자동화가 이뤄진 비행기의 사례에서 엿볼 수 있을 것 같습니다.2009년 6월 리우데자네이루를 출발해 파리로 향하던 에어프랑스 AF447편은 운행 중 비행속도를 감지하는 피토관이 얼어 오토파일럿 기능이 정지됩니다. 그리고 조종을 인간 조종사에게 전달합니다. 여기까지는 흔한 일이에요. 테슬라 차량도 위험 구간에 들어서면 자율주행이 해제돼 인간에게 운전 임무를 넘겨줍니다.
비행기는 에어버스사의 A330 기종으로 자동화된 조종석과 전자 제어 시스템을 갖춘 최신 기종이었습니다. 문제는 이렇게 고도로 자동화된 비행기를 기장이 수동으로 조종하는 일은 거의 없었다는 것입니다. 그렇게 오토파일럿 기능이 해제된 비행기가 갑자기 난기류를 만나 쿵쿵 충격을 받습니다. 그러면 부기장은 황급히 과잉 대응을 해 버립니다. 조종간을 끝까지 당겨 비행 고도를 높이려고 했어요. 그러나 기수가 위로 향하면 속도가 떨어지고 오히려 비행기는 실속 상태에 빠져 추락하기 시작합니다. 부기장은 실속 상태에 대응할 수 없었습니다. 고도를 높여야 한다는 생각에만 빠져 조종간을 계속 위로 당깁니다. 결국 기수가 들린 채 비행기는 그대로 추락하고 말았습니다.
사실 실속 상태에서 벗어나는 방법은 간단합니다. 조종간을 누르고 기수를 낮추고 속도를 높이면 됩니다. 혹은 조종간을 그냥 손에서 떼기만 하면 A330과 같은 자동화된 기종은 다양한 장치를 사용해 자세를 회복합니다. 이런 비행 기술은 경비행기 조종사들도 알고 있는 기본 상식이지만 당황한 부기장은 비행기가 추락하기 시작하자 끝까지 조종간을 당긴 채 놓지 않았습니다. 그 결과 승객과 승무원을 포함한 228명 전원이 사망하고 말았습니다.
어떻게 이런 황당한 일이 벌어졌을까요? 사고를 낸 부기장은 3,000시간 가까운 비행 경험을 가지고 있었습니다. 그러나 지금까지 비행기를 수동으로 조종한 적은 거의 없었습니다. 2936시간의 비행 경험은 자동 조종 장치로 작동하는 전자 제어 시스템 비행기를 운항한 경험뿐이었습니다. 이렇게 자동화에 익숙해지면 고도로 훈련된 조종사조차 기본적인 대응을 하지 못한 채 엉뚱한 사고를 내버립니다.
다음으로 좀 더 가까운 예를 들어볼까요? 여러분의 운전면허는 ‘1종 보통’인가요? 그럼 지금 바로 수동 변속기 1톤 트럭을 운전하라고 하면 제대로 할 수 있을까요? 저도 1종 보통 면허를 따기 위해 분명히 수동변속기로 트럭을 몰고 시험을 봤는데 지금은 운전할 수 없다고 생각합니다. 왜냐하면 그 이후로 한 번도 트럭을 운전한 적이 없기 때문입니다. 심지어 수동 운전조차 한 번도 해본 적이 없어요. 면허를 취득한 뒤 20년 동안 자동변속기를 단 승용차만 운전해왔기 때문입니다.
아마 저처럼 수동 변속기 운전을 잊은 사람이 많을 거예요. 자율주행이 보편화되면 우리 모두는 기본적인 운전 방법을 잊어버리지 않을까요? 수십 년간 자율주행에만 의존하던 사람이 비상사태가 발생했다고 갑자기 직접 운전할 수 있을까요? 앞으로 자율주행에 익숙해지는 사회가 꼭 고려해야 할 부분입니다.”미래는 인공지능을 이해하는 사람의 것이다” 카카오·현대차 AI팀장이 들려주는 세상에서 가장 유용한 IT 안내서
이 책은 이처럼 인공지능이라는 도구가 주어진 시대에 다양한 사람이 인공지능을 이해하고 자신의 분야에서 활용할 수 있도록 돕는 데 쓰였다. 관련 공부를 해본 적이 없는 사람들, 과학·수학이 낯선 문과생까지도 인공지능 기술의 역사와 원리를 이해할 수 있도록 교양 수준으로 쉽게 풀어냈다.