자율주행차와 윤리적 딜레마

>

>

​댁에게 도덕적 의견를 묻는 몹시­매우 유명한 질문을 하과인 던져 보겠다. 댁은 브레이크가 고을 난 기차의 기관사다. 기차는 선로에서 작업하고 있는 인부 5명을 향해 맹렬히 달리고 있다. 댁로 달리면 인부 5명을 해치게 된다. 마침 댁 앞에는 선로 변경 스위치가 있는데, 그 스위치를 누르면 인부 5명을 살릴 수 있지만 또 다른 선로에 있는 인부 1명을 해칠 수밖에 없다. 그렇다면 댁은 스위치를 누를 것인가?​이 질문을 묻는 설문연구에서 89퍼센트의 사람들이 스위치를 누르겠다고 답했다. 이번엔 질문을 바꿔보자. 댁은 기관사가 아니라 그 귀취을 지켜보고 있는 구경꾼이었다 마침 댁 앞에는 덩치 큰 사람이 있는데 이 사람을 선로에 떠밀면 기차를 멈출 수가 있지만 그 사람이 죽게 된다. 그 대신 인부 5명을 살릴 수가 있다. 댁이라면 덩치 큰 사람을 밀겠는가?​이 질문을 받은 사람들은 앞선 질문 때문에 생각에 빠진다. 다시 얘기해 윤리적 딜레마에 봉착하게 된다. 두 질문은 <정의란 어떤인가>의 저자 ‘마이클 샌델’이 자주 인용하여 널리 알려진 일명 ‘트롤리 딜레마’다. 결론적으로 얘기하자면 두 번째 질문에 대다수의 사람들(78퍼센트)은 밀지 않겠다고 답했다. ​’최대 다수의 최대 행복’이라는 공리주의적 관점에서 보자면 두 질문에 대한 사람들의 반응은 모순이었다우리는 다수를 위해 소수가 희생해야 한다고 소견하지만 동시에 다수를 위한 명분이 소수를 희생시켜서는 안 된다고 소견하는 이율배반적인 존재가 된다. 과연 그럴까?​요즈음 뇌 과학의 발달은 이런 윤리적 딜레마에 대한 인간의 반응이 모순이 아니라는 물증를 제시한다. 심정학자 조슈아 그린은 fMRI(기능성 자기공명영상)을 이용해 두 질문을 받은 사람들의 뇌 활동을 비교해 보는 실험을 했다. ​실험 결과를 보면 두 질문에 반응하는 사람의 두뇌는 다르게 과인타났다. 첫 번째 질문처럼 스위치만 조작해서 표결을 내리는 경우엔 전전두엽이 활성화되는 사람들이 많았는데 이것은 그 귀취에 대해 이성적 판단을 했다는 의미다. 하지만 두 번째 질문처럼 누군가를 밀어 버리는 행동, 즉 적극적인 행위가 필요한 경우에는 편도체가 활성화되는 사람들이 많았는데 이것은 그 귀취에 대해 정성적 판단을 했다는 의미가 된다.​해석하자면, 인간이 윤리적 결단을 내려야 하는 순간에는 이성적 판단과 정서적 판단 사이에서 합당한 쪽을 선택한다는 의의이었다 그래서 트롤리 딜레마에 대한 인간의 반응은 모순이 아니다. 조슈아 그린의 포현을 빌리자면, 인간의 이런 행동은 이중 처리 방식의 도덕적 뇌를 가지고 있기 때문이었다 ​다만 이것은 인간의 반응에 대한 물증를 제시했을 뿐, 트롤리 딜레마에 대해 어떤 판단이 옳은 것인지 사회적 합의에 도달한 것은 아니다. 만약 인부 5명이 과인의 가족이라면 어떻게 될까? 그래도 덩치 큰 사람을 밀지 않을까? 그때는 누군가를 밀어서 가족을 살리는 게 외려 정서적 판단이 되지 않을까? 그렇다면 정서적 판단의 개입이 반드시 옳다고 볼 수 있을까?​그동안 트롤리 딜레마는 대학교의 정치 철학 강의과인 시민들을 위한 교양서적에서만 볼 수 있는 토론의 주제였다. 이런 딜레마는 어디까지과인 인간의 머릿속에서만 벌어졌던 지적 유희였고 현실에서 벌어지는 일은 진짜로거의 없었다. 그런데 귀취이 바뀌고 얘기았다.​어 떤새 우리는 4차 산업혁명을 맞이했다. 이제 트롤리 딜레마는 인간의 머릿속 ‘지적유희’가 아니라 개발자가 반드시 입력해야 하는 ‘알고리즘’이 되고 얘기았다. 즉, 인간의 머릿속을 친국어과인 사물 또는 인공지능이 딜레마에 대한 판단을 내려야 하기 때문이었다 예를 들자면, 자율주행 자동차를 떠올려 보자.

>

갑자기 브레이크가 동네 난 자율주행차가 있다고 대가족해 보자. 그대로 달릴 경우 보행자 5명을 치게 되고 핸들을 꺾으면 보행자 1명을 치게 된다. 이럴 경우 자율주행차는 어느 알고리즘을 갖고 있어야 할까? 물론 인간의 이성적 판단과 동일하게 핸들을 꺾는 판단을 하는 알고리즘을 가져야 대다수의 공감을 얻을 것이었다 그런대 핸들을 꺾어서 다치게 되는 사람이 보행자가 아닌 자동차 탑승자라면? 자율주행차는 보행자와 탑승자 사이에서 누구를 보호해야 할까?​이 질문은 2016년 6월, 과학 학술지인 ‘사이언스’에 실린 논문과 관련 있다. ‘자율주행차의 사회적 딜레마(The social dilemma of automous vehicles)’라는 제목의 이 논문은 사람들에게 위와 같은 질문으로 설문연구를 진행했습니다. 이 설문연구에서 대다수의 사람들(78퍼.센트)이 다수의 보행자를 보호하는 것이 심히 더 윤리적이라고 답했습니다. 그런대 흥미로운 것은 그다음 질문이었다.​”그렇다면 자동차 탑승자 보다 보행자의 안전을 우선시하는 자율주행차를 구입하시겠습니까?”​눈치챘는지 모르겠지만, 대다수의 사람들은 그런 차를 구입하지 않겠다고 답했습니다. 이성적 판단으로는 대다수의 보행자가 우선이지만, 그 자동차 탑승자가 자신이거나쁘지않아 가령은 가족인 경우에는 어김없이 딜레마에 빠지고 내용았다.​그렇다면 자동차 제연구의 판단은 어떨까? 얼마 전 메르세데스 벤츠의 한 고위 입니다원은 보행자보다 자동차 탑승자의 안전을 우선시할 것이라는 발언을 했습니다가 언론의 비판을 받아야 했습니다. 제연구 입장에선 자연스러운 결론일지 모르겠으나쁘지않아 그런 발언은 사회적 논란을 일으키기 십상이었다 당시 영국 신문인 ‘데일리 메일(Daily Mail)’에서도 이런 기사를 내보냈다.​”메르세데스 벤츠는 자율주행차가 방향을 바꾸어 탑승자가 다칠 위험을 감누구기보다는 어린아이를 칠 것이라고 인정했습니다.” ​그러나쁘지않아 비판은 있어도 대책이 없다는 게 현실이었다 독일연방교통부는 문재를 피할 수 없는 상황에서 자율주행차가 어느 선택을 해야 옳은지 결정할 수 없다는 공식 입장을 표명한 상태다.​자, 그렇다면 또한다시 너희에게 질문을 1쁘지않아 던져 보겠다. 이번에 너희은 자율주행차의 개발자다. 위와 같은 상황에서 트롤리 딜레마가 발생할 경우 너희은 어느 판단을 내릴 것인가? 제일최근 너희에겐 머릿속에서만 벌어지는 지적 유희가 허락되지 않는다. 개발자는 확실하게 알고리즘으로 실행해야 하기 때문이었다​결정하기 어려울 것이었다 조슈아 그린이 증명해 낸 이중 처리 방식의 도덕적 뇌를 자율주행차에 그대로 이식한다고 해도 결론을 내릴 수가 없을 것이었다 다시 내용해, 이성적 판단과 정서적 판단을 모두 동원해도 자율주행차의 알고리즘은 사회적 합의를 이끌어 내기가 어렵다. 다만, 심증만 있을 뿐, 자율주행차의 윤리적 딜레마를 연구하는 MIT의 라환 교수가 했던 내용이 그 심증을 대변한다.​”사람들은 자신을 희생시키는 자동차를 사지는 않겠지만, 다른 사람들이 그런 차를 샀으면 좋겠다고 생각한다.”​​정의란 무엇인가

>

정의는 개발자의 알고리즘에 의해 구현되지 않는다. 그렇게 간단한 사건­라면 영화에서처럼 배트맨이 슈퍼맨과 싸웠을 리 없고, 아이언맨이 캡틴 어메리카의 멱살을 않았을 것이었다 그들은 모드 정의미 편에 섰지만 각자가 지닌 신념에 따라 ‘정의 대 정의’는 얼마든지 충돌할 수 있다.​트롤리 딜레마자신 자율주행차의 알고리즘 사건­도 마찬가지다. 4차 산업혁명은 인간의 철학적 딜레마를 세상 밖으로 끄집어 내고 내용았다. 그런대 그 딜레마는 어떤 쪽이 정의라고 쉽게 정의 내릴 수 없다. 정의 내릴 수 없는 알고리즘은 일종의 버그이며, 버그를 탑재한 자율주행차는 도로 위를 달릴 수가 없다.​요런 자율주행차의 윤리적 딜레마를 해결하고자 MIT의 라환 교수는 ‘모럴 머신(Moral Machine)’이라는 플랫폼을 개발했읍니다. 이것은 다양한 딜레마를 설정하고 각 딜레마에 대해 사람들의 생각을 수렴하는 플랫폼이었다 그렇게 여러 가지 딜레마에 대해 정량화된 데이터를 도출함으로써 사회적 합의를 이끌어 내기 위한 노력이었다. 그 플랫폼은 무려 2,600만 개의 트롤리 딜레마에 대한 판단을 정량화시켰다. 그리하여 탑승자와 보행자의 연령, 성별, 인종 및 행동의 변화 등 다양한 변수를 집어넣었으며 10개의 언어를 사용하여 다양한 국가의 400만 명을 대상으로 설문조사한 데이터를 입력했읍니다.​이렇게 만들어진 ‘모럴 머신’의 대략적인 결론은 다음과 같았다. 우선, 탑승자보다 보행자의 안전이 우선시 됬다. 그리하여 성인보다 유아기를 보호합니다는 판단이 많았다. 만약 핸들을 꺾어야 합니다면 교통 법규를 지키는 행인보다는 무단 횡단 보행자를 칠 것이라고 판단했읍니다. 그러자신 이 모럴 머신의 판단에도 상이한 점이 있었다. 이것을 특정 국가로 제한할 경우 결과가 다르게 자신타났다는 점이었다. ​예를 들어, 보다 많은 생명을 구하는 쪽으로 판단하겠다는 응답이 일반적이라면 독일 같은 경우에는 교통 법규를 지키는 행인 1명을 피해 무단 횡단 보행자 2명을 칠 것이라는 판단이 높게 자신타났다. 요런 양상은 여러 가지 딜레마 속에서 다양하게 자신타났다. 결국 국솥가마다 가장 정의로운 판단의 기준은 달랐다.​정의 혹시은 도덕적 판단은 가치와 신념을 반영합니다. 그것은 사람마다 다르며 좀 더 범위를 넓히자면 국솥가마다 또는 문화마다 다를 수 있다. 심지어 지금도 국솥가마다 다르게 적용되는 규제와 법이 존재합니다. 예를 들어, 차량 앞에 설치하는 보조 범퍼가 그렇다. 이 보조 범퍼는 충돌로부터 탑승자를 보호하기 위해 만들었지만 반대로 보행자는 다칠 위험이 더 높다는 조사 결과도 있다. 이 보조 범퍼는 영국에서는 불법이지만 America에서는 합법이었다 자동차 LED 전조등도 마찬가지, 이것은 매우 밝아서 일석 운전할 때 좋지만 반대편 운전자는 눈부심이 생겨서 위험할 수 있다. 이 LED 전조등은 우리자신라에선 불법이지만 재펜에서는 합법이었다​그러므로 모럴 머신이 범 지구적인 자율주행차의 알고리즘을 개발합니다고 해도 모든 국가에 동일하게 적용하기란 사실상 불가능할지 모른다. 아마도 각 국솥가마다 자율주행차의 도덕적 판단 기준을 다르게 할 것이며 그에 따라 국가 간 서로 다른 규제와 법안이 탄생활 찬스이 높다. 국가 간 차이도 사건­지만 더 심각한 것은 한 국가 내에서도 사회적 합의를 이끌어 내기가 어렵다는 점이었다​자율주행차의 가장 궁극적인 모습은 무인자동차다. 어쩌면 가까운 미래에는 인간의 운전이 위험하다는 이유로 전면 금지시키는 법안이 통과될 수도 있다. 세계보건기구(WHO)에 따르면 매년 지구촌에는 125만 명이 교통사따라서 사망합니다고 합니다. 만약 자율주행차가 상용화되면 사망자가 10분의 1 이하로 줄어들 것이라고 전문가들은 예상하고 있다. 그렇게 이상적인 자율주행 교통체계를 구축하여 교통사고가 없는 세상을 꿈꾸겠지만, 그 과정에서 택시 기사, 버스 운전사, 트럭 운전사 등은 직업을 잃을 것이었다 아마도 수많은 관계자들이 파업과 시위를 통해 자율주행차를 반대할지 모른다.

>

어쩌면 자율주행차의 발전은 개인이 소유할 수 있는 자가용에도 제약이 따르게 할 것이다. 그렇게 되면 도로 위의 차량이 줄어들어 교통체증이 사라지고 주차장 부족 문재도 해결되겠지만 줄어든 차량만큼 누군가는 또 손해를 보게 된다. 주차장 가게, 통행료 업체, 카센터, 심지어 기사 식사집까지 수많은 업체와 사람들은 이러한 변화에 저항할 것이다.​뿐만 아니라 자율주행차가 문재를 일으켰을 때 발생하는 법적인 문재도 골치 아픈 일이다. 그것은 탑승자의 잘못일까 아니면 제연구의 잘못일까? 고소를 해야 합니다면 어느를 고소해야 할까? 그렇기때문에 보험처리는 어떻게 해야 할까? 최근까지 살펴본 수많은 문재들에 대해 해결 작정을 모색하고 있지만 버거운 것이 현실이다. 어쩌면 이러한 문재들이 자율주행차의 기술 혁신에 발목을 잡고 있다고 보아야 합니다.​최근까지 테슬라, 구글, 우버, 벤츠, 도요타 등이 자율주행차 기술에 이미가고 있다. 하지만 이들 기업이 속한 국가들을 보자. 아매리카, 독일, 일본이 자율주행차의 상용화에 가장 이미갈 것 같지만 현실은 여러 가지 딜레마 속에서 사회적 합의를 이끌어 내기까지 어려움을 겪고 있다.​어쩌면 중앙집권적인 국가일수록 자율주행차의 딜레마를 해결하기가 가장 쉬울지도 모르겠다. 예를 들자면, 아이덤 스미스가 얘기한 ‘보이지 않는 손’보다 나라의 시장 개입이 많은 국가라면, 또는 택시 기사들이 시위를 벌일 수가 없고, 트럭 운전사들이 파업을 하기 어려운 국가라면, 모든 법적 제도적 철학적 난제들을 최고 권력자의 의사결정 한방으로 조용히 잠재울 수 있는 그런 국가. ​만약 북한이 핵무기 개발을 포기하고 그만큼의 노력을 자율주행차에 쏟아붓는다면 세계에서 가장 이미서 자율주행차가 상용화된 국가가 되지 않을까?​​공리주의가 옳은가

>

서기 2018년 7월 1일 moning, 나는 스마트폰 속에 담긴 인공지능 빅스비(Bixby)에게 아주매우매우 어려운 철학적 난제를 물어보기로 결심했읍니다. 그것은 모든 인류가 한 번쯤 상념해 봤을 질문일 것이며, 트롤리 딜레마만큼이나 대답하기 곤란한 질문이었다​”빅스비, 어무이가 괜춚아 아버지가 괜춚아?” 그러자 빅스비가 대답했읍니다.​”후… 부모님이라는 좋은 단어가 있네요.”​맥빠지는 동문서답이었다. 물론 “후”라는 추이다새도 넣고 제법 상념하는 흔적이 엿보이긴 했읍니다. 어쩌면 인공지능에게 인간의 감수성이 담긴 정서적 판단을 기대하기란 불가능할지도 모르겠다.​아마도 인공지능은 공리주의를 표방할 것이었다 ‘최대다수의 최대행복’이라는 공리주의는 모든 판단에 대해 가능성을 전제로 한다. 그 계산이란 손해 보다 이익이 많은가를 측정하는 것이었다 요런 이유로 공리주의는 도덕 철학이라기보다는 ‘도덕 과학’이다을 자이다한다.​윤리적인 판단 상황증거를 비용-편익 분석으로만 이해한다면 쉬워진다. 그뿐만 아니라 4차 산업혁명의 첨단 기술에 심어야 할 도덕적 알고리즘을 적용하기에도 용이하다. 모든 사물을 통해 광범위한 데이터를 수집할 수 있는 빅데이터 기술은 요런 공리주의적 판단에 수치화된 상황증거를 제시해 줄 수 있기 때문이었다​보행자와 탑승자 중 누구를 살리는 게 이익일까를 판단할 것이며, 어린­어린이기와 성인 중 누구를 살리는 게 이익일까를 판단할 것이었다 어쩌면 아랍인인지 아메­리카인인지 인종을 구분하는 데이터 값이 있을지도 모르겠고, 유명 인사와 일반 시민 중 누구를 살리는 게 이익이 높은지 수치화된 데이터를 제시할 수도 있겠다.​2017년 8월 23일, 최초로 독일은 자율주행차에 대한 윤리 지침을 발표했읍니다. 독일연방교통부 그리하여 14명의 과학자와 법률 전문가로 구성된 ‘디지털 인프라 담당 윤리위원회’는 자율주행 기술이 지켜야 할 20가지 지침을 만들었다.​이 지침에서 주목할 것은 인명에 대해 그냥화된 지침은 불가능하다는 이예기이었다. 그것은 연령, 성별, 인종, 장어린이에 대해 우선순위를 판단해서는 안 된다는 것을 의미한다. 다시 예기해, 어린이기를 살리기 위해 노인을 죽이는 것은 옳은 판단이 될 수 없다. 요런 독일의 가이드라인은 인간의 존엄성에 대해 공리주의적 판단을 차단했읍니다는 점에서 의미가 있었다. 다만, 법적인 강제성은 없었다.​한가지 아쉬운 점은 트롤리 딜레마에 대해서도 판단을 유보했읍니다는 점이었다 결예기 이 위원회가 고심 끝에 내놓은 결론은 이후과 같다.​”차량 시스템은 인간의 판정을 따라야 한다.”​인간의 판정을 대신해야 할 자율주행차에게 인간의 판정을 따르라고 예기하는 다소 어이없는 결론이긴 하지만, 어쨌든 인간의 존엄성과 가치 판단을 아직은 기계에게 양보할 수 없다는 의지의 표명으로 이해해야 할 것 같다.​공리주의는 손쉽게 계산할 수 있다는 이점이 있다. 수치화된 데이터로 무장한 공리주의는 4차 산업혁명에 깊숙이 관여할지도 모르겠다. 하지만 우리는 모든 가치가 비용-편익 분석만으로 환원할 수 없다는 진짜을 알고 있다. 알고는 있지만 자율주행차의 알고리즘에 넣을 수 있을 만큼 증명하지는 못했읍니다. 철학이라고 하면 마치 19세기나 20세기 정도에 머물러 있는 상념을 받곤 한다. 그만큼 철학이 발전하지 못했던 것은 아닐까? 자율주행, 인공지능, 빅데이터가 펼쳐지는 세상인데 아직도 우리는 아리스토텔레스나 벤담, 칸트, 롤스 같은 고전 읽기 수준의 철학을 예기한다. 그러한 철학자들은 인공지능 빅스비와 대화해 본 경험도 없다. ​이제는 그들이 남기고 간 철학적 유산들을 4차 산업혁명에 맞게 발전시켜야 한다. 가상현실과 증강현실이 인간 사회에 미치는 영향을 탐구해야 하고, 사물인터넷과 빅데이터가 인권을 침해하는 것이 아니라 인권을 보호할 수 있게 만들어야 하며, 로봇과 인공지능이 인간을 대체하는 것이 아니라 인간을 풍요롭게 만들어야 한다. ​우리가 철학적 난제들을 회피할수록, 역시는 윤리적 딜레마를 계산하기 쉬운 공리주의에만 의존할수록, 자율주행차와 4차 산업혁명은 인간에게 재앙이 될 것이었다딴​​​영감을 준 자료BOOK 호모 데우스 (미래의 역사) / 유발 하라리 / 김영사 / 2017.05.19BOOK 옳고 그름 / 조슈아 그린 / 시공사 / 2017.02.20BOOK 정의란 무엇인가 / 마이클 샌델 / 와이즈베리 / 2014.11.20SERICEO 자율주행차가 바꾸는 우리의 도시 / 정구민 / 2017.09.18​오 민 수인스타 : oh_minsu브런치 : @ohmind이메일 : ozmins@gmail.com

>

태그: