인공지능 오류로 사망자 낸 우버, '윤리지능' 갖춘 자율 차 가능할까? | 인터비즈 ~처럼

>

최근-바 테스트 주행 차와 테슬라 모델 X차의 자율 주행 관련 2반의 사망 사고는 자율 주행이 아직 기술적으로 완벽하지 않다는 현실을 나타내고 있다. 우버 차량의 사고 영상에 대해 "사람이라도 갑자기 뛰어든 보행자를 피할 수 없었을 것입니다"라는 생각과, "사람이라면 뭔가 조치를 할 수 있었을 것입니다"라는 생각이 교차하기도 합니다. 자율주행이 상용화되기 위해서는 자율주행차가 사람이 육안으로도 식별하기 어려운 장애물을 인식해야 합니다. 하지만나쁘지는않기때문에아직주변사물의인식이나쁘지않기때문에대처할능력이부족한귀취입니다.

자율주행이 상용화되기 위해 기술의 완성도가 높아져야 한다는 것은 두말할 나위도 없다. 그러나 기술개발 외에도 사회적, 환경적, 법률적, 윤리적으로 해결되어야 할 문제가 존재한다. 예를 들어, 수천 대의 자율주행차가 운전자 없이 도로를 주행하면서 매연을 내뿜어 교통 체증을 유발한다면 사회적으로 수용되기 어려울 겁니다. 따라서 자율주행 활성화는 친환경차나 카셰어링 등 공유경제모델의 활성화를 동반해야 한다.

>

이 밖에도 자율주행에는 첨단기술과는 얼핏 어울리지 않는 철학적이고 윤리적인 사건도 존재한다. 예측 불허의 돌발적인 상황에 사건 발생 시 수십분의 1초 이하의 짧은 순간에 자율 주행 차량은 운전자와 탑승객을 보호하기 위한 최선의 선택을 해야 합니다. 그렇다면 그 선택이 운전자의 생명뿐 아니라 주변의 다른 차량 운전자 자신, 보행자의 생명에도 영향을 미칠 가능성이 있다면 그 당시에는 어떤 선택을 하는 것이 옳을까.솔료은시, 어떤 사건이 발생했을 때, 스티어링 휠을 조작하지 않을 경우 운전자가 생존할 확률은 10%미만에 불과하지만, 스티어링 휠을 꺾는 경우 생존 확률이 높아진다. 그러나 이렇게 핸들을 조작할 경우 소풍을 가는 도보 유치원생을 튕길 확률이 높아지자 가족 단위로 가자. 최근 상황에 대한 판단은 운전자에게 맡기고, 그에 대한 윤리적 대책이라는 실질적으로는 거론되지 않았다.하지만 자율주행 시스템이 제대로 운영되려면 이런 돌발 상황에 처했을 때 시스템이 과연 어떤 선택을 하게 할지를 프로그램 로직에 미리 담아 둬야 한다. 즉 개발자가 기계에 사전에 어떤 가치판단을 내리게 할지를 자결해 놓아야 한다는 의미입니다.

>

철학자들은 첫 960년대부터 트롤리 딜레마(Trolley Dilemma)와 함께 위기 상황에서의 윤리적 딜레마에 대한 고찰을 해왔다. 최근 자율주행의 대두와 함께 이 화제가 주목받고 있다. 트롤리 딜레마라는 가상의 선로를 주행하는 한 전차가 그대로 추진할 경우 선로에 묶인 5명의 사람을 치는 것이 확실한 상황에서 너희 이 주행 선로를 바꾸는 경우 달라진 선로에 첫 사람이 묶이고 있었다면 5명의 목숨을 구하기 위해서 고의적으로 최초의 사람을 죽은 것에 대한 질문입니다.

>

트롤리 딜레마에 대한 각종 조사 및 설문 조사에서 응답자들은 70~90퍼센트의 비율로 5명을 구하는 쪽을 택하라고 답했습니다. 그렇게 해서 자신의 바뀐 선로에 묶여 있는 한 명이 본인의 가족일 경우에는 그 비율이 현저히 낮아졌다. 다른 설문 조사에서는 운전자에게 해를 끼치는 판정을 할 수 있는 자율차라면 사지 않겠다는 응답이 과반수를 넘기도 했습니다. 이에 대한 연장선상에서 최근에는 차량이 운전자와 보행자의 안전을 어느 비율로 우선하는지에 대한 조사가 활발하다.예를 들어 MIT 미디어랩(MIT Media Lab)에서는 현재 '모럴 머신(Moral Machine)'이라는 별도 웹사이트(moralmachine.mit.edu)에서 자율주행환경 시나리오에 맞춰 트롤리 딜레마 상황을 제시하고 다양한 상황에 대한 웹사이트 방문자들의 답변을 받고 있다. MIT미디어랩은 이를 통해 보행자에 비해 승객 보호 정도, 기계 개입 정도, 본인, 성별, 교통규칙 준수 여부 등에 따라 더욱 보호받아야 할 대상에 대한 일반인의 의견을 집대성하고 있다. 한국어로도 입력이 가능하며 일 3개 시봉잉리오에 답을 다 하고 본인 면 군의 취향이 응답자 전체 평균보다 어느 정도인지 확인할 수 있다.

>

사실 자율주행 개발자들의 궁극적인 목표는 이런 딜레마 상황에 놓이지 않는 것이라고 생각합니다. 몇년 전 세계 최대 자동차 시장이었던 미국에서는 매년 약 3만 5000명의 교통 사건 사망자가 발발했는데 이는 정원을 700명에 언제나 그랬던 것처럼, 링 A380기가 매주 하나씩 추락하는 꼴 이다니다.한정은 20일 5년 기준 5539명(20일 6년 4292명)교통사 그 때문에 사망하고 인구 한 0만 명당 교통 사고 사망자 수가 9. 별명으로 경제 협력 개발 기구(OECD)회원국 평균(5.3명)의 거의 두 배에 육박하는 숫자를 보이고 있다. 교통사건은 대부분의 정부에서는 안전사건 사망(질병이 아닌 다른 원인 사망) 원인 중 자살이 뒤처져 큰 비중을 차지하고 있다.

국내에서는 졸속 운전으로 속도를 줄이지 못한 대형 버스가 승용차를 습격하는 사건의 영상이 많은 사람들에게 공포를 주기도 했습니다. 교통 사건의 90%이상은 운전 부주의, 목소리를 주운 전, 과속, 신호 위반 등 인적 실수(human error)에 기인한다. 자율 주행이 제대로 구현된 경우, 인류는 교통사 이 때문에 인한 인명 손실을 획기적으로 주는 1수 있을 것으로 기대된다. (그 전에 하음운전 대형 차량의 전방 주시 강제 제동 등은 현재의 기술로도 충분히 실현 가능하기 때문에 이 분야의 의무화가 시급하다.)

*나의 약력, 연세 대학교 기계 공학과 졸업(학·석사), MIT슬론 경영 대학원 경영학 석사(MBA)-딜로이트 서울 사무소, 자동차 산업 모두 sound에 디렉터 역입니다-현대 자동차 산업 전략 컨설팅 회사 베리루 스・코리아(Berylls Strategy Advisors Korea)대표 잉타ー비ー즈팍송지 정리 inter-biz@naver.com

>