최종편집 : 2019.02.22(금) 281호

 

 

 

[사이언스칼럼]자율주행자동차가 겪게 될 윤리적인 문제는 무엇인가?

 

 

 

 


1. 자율주행자동차는 어떤 기술이 필요한가?
2. 자율주행자동차가 사고가 나면 누구의 책임인가?
3. 자율주행자동차가 겪게 될 윤리적인 문제는 무엇인가?


 

자율주행자동차의 안전성 우려 해소를 위해 현재는 돌발 상황 시 사람이 운전대를 넘겨받는 구조로 개발되고 있지만, 이런 방식이 오히려 사고의 원인이 되는 경우가 발생하면서 애초 아이디어대로 무인 자율운전차량으로 선회하려는 움직임이 가속화되고 있는 실정이다.

완전 자율주행자동차의 실용화를 위해서는 사고 위험 상황에서 알고리즘이 어떤 선택을 할 것인가 하는 소위 “트롤리 문제(Trolley Problem)”가 중요한 이슈가 되는데, MIT(메사추세츠 공과대학) 미디어 랩은 전 세계 100만 명의 사람을 대상으로 이에 대한 조사연구를 실행하였다. 

 “트롤리 문제”는 자율주행자동차가 사고를 피할 수 없는 상황에 빠졌을 때 누구를 구하고 누구를 희생할 것인가는 하는 고전적이지만 매우 중요한 연구 주제 가운데 하나이다. MIT 미디어 랩은 트롤리 문제를 “도덕적인 기계(Moral Machine)”라는 이름으로 일반화하여 연구를 진행하였고, 그 결과를 과학 잡지 네이처에 “도덕적인 기계 실험(The Moral Machine experiment)”이라는 제목으로 게재하였다.

[그림 1] 도덕적인 기계실험, http://moralmachine.mit.edu/hl/kr

도덕적인 기계 실험은 윤리학의 사고 실험에서 사람을 구하기 위해 다른 사람을 희생하는 것이 허용될 수 있는가라는 주제를 자율주행자동차에 적용하여 13가지의 케이스를 만들어 웹사이트에 게재한 후 공개 실험으로 진행되었다.

전 세계 사람 누구나 도덕적인 기계 사이트에 접속하여 13가지의 경우 각각에 대해 자율주행자동차가 어떤 조치를 취해야 할 것으로 생각하는지를 투표하도록 하였다.

자율주행자동차의 브레이크가 고장났을 때, 알고리즘은 인명을 구하기 위해 어떻게 판단해야 할지를 선택하는 것인데, 두 가지 상황을 [그림1]로 제시하고 어느 쪽이 보다 윤리적인 것인지를 판단하여 답변하도록 하였다.
두 가지 선택 사항은 보행자와 탑승자의 다양한 상황맥락을 제시하는데, 가령 자율주행자동차가 그대로 직진하여 노인 보행자 세 사람을 희생시킬 것인지, 아니면 핸들을 꺾어 바리케이드에 충돌함으로써 젊은 차량 탑승자 세 명을 희생시킬 것인지를 선택하게 하였다.

혹은 신호등을 무시하고 무단 횡단을 하는 남성 경영자와 신호등을 준수하여 횡단보도를 건너고 있는 여성이 있을 경우 어느 사람에 충돌할 것인지를 선택하게 하거나, 남성 경영자와 노숙자 중 누구와 충돌할 것인지를 선택하게 하였다.

[그림 2] 도덕적인 기계 실험의 결과 나타난 선택의 우선순위


선택 조건의 주요 기준은 법규 준수 여부의 중요도, 희생자 숫자의 중요도 사회적 가치관선호도, 종에 대한 선호도, 연령 선호도, 체형 선호도, 승객 보호 선호도, 개입에 대한 회피 선호도, 성별 선호도 등이다.

MIT 미디어 랩에서는 답변 결과를 분석하여 자율주행자동차가 취해야 할 윤리적 행동을 9가지 케이스로 정리하고 그 순위를 보여주고 있다.

[그림2]의 분석 결과에서, 사람들의 생각이 대체로 일치하는 상위 3가지는 “애완동물보다는 사람 생명을 구하기”, “한사람이라도 많은 인명을 구하기”, “노인보다는 젊은이의 생명을 구하기”인 것으로 나타났다.

그 다음으로는 “법을 준수한 사람을 먼저 구하기”, “사회적 지위가 높은 사람을 먼저 구하기”인 것으로 나타났으며, “날씬한 사람 먼저 구하기”, “여성 먼저 구하기”, “보행자 먼저 구하기” 등에 대해서는 상대적으로 의견이 나뉘는 것으로 나타났다.

도덕적인 기계 실험의 결과를 자율주행자동차 기술에 구현하기까지는 해결해야 할 과제가 적지 않은데, 가령 컴퓨터 비전이 보행자의 성별이나 연령 및 복장 등을 판정할 수는 있지만 자율주행자동차의 센서가 이러한 상황을 즉시 100%의 정확도로 판정하는 것은 아직 어려움이 있다.

또한, 교통사고는 물리적 현상들이 복잡하게 얽혀 누가 사망할 것인가라는 예측에는 한계가 있을 수밖에 없고 부상의 정도도 간단히 생각할 수 없는 부분이기 때문이다.

따라서 기술 구현의 첫 번째 단계는 간단한 모델에서 고찰을 시작하는 것인데, 현재는 애완동물이 아니라 사람을 먼저 구하게 하는 기술 정도가 개발에 들어가 있는 상태이다.

트롤리 문제는 아직은 좀 먼 이야기로 들릴 수도 있지만, 운전자가 탑승하지 않는 완전 자율주행자동차가 이미 주행을 시작했고 이는 자동차의 알고리즘이 특정 사람의 생명을 구하는 판단을 내리게 되었음을 의미한다.

인간의 생사를 자동차의 알고리즘이 결정하는 것에 거부감을 갖거나 위화감을 느끼는 사람들도 많이 있기 때문에 이런 불안이나 위화감을 해소하기 위해서는 우선 자율주행자동차의 기술 안전성이나 사고를 선제적으로 방지하는 방법들을 명확히 설명해야 할 것이며, 궁극적으로는 어떤 기준 하에 알고리즘이 선택한 것인지에 대해 공개하라는 사회적 압력에 직면할 가능성도 있다.

그러나 알고리즘 로직 공개는 현실적으로 사고 발생 시 책임 소재와 직결되는 민감한 사항이어서 제조업체, 소프트웨어 개발업체, 보험회사 등이 절대 공개하지 않을 것이므로 이를 둘러싼 논쟁들이 아마도 치열하게 전개될 것으로 예상된다.
 
특히 국가마다 무엇이 윤리적 행동인지에 대한 기준이 다르다는 MIT 미디어 랩의 연구 결과는 윤리적인 측면에서 자율주행자동차에 대한 사회적 논의가 조속히 개시될 필요가 있음을 시사하고 있다.

/이영석 군산대 컴퓨터정보통신공학부 교수

 

 

 

 

 

인사말 ㅣ오시는 길 ㅣ개인정보취급방침 ㅣ 신문구독신청 ㅣ 광고문의  ㅣ 기사제보 ㅣ 독자기고 ㅣ 이메일자동수집거부