무인자동차는 일상생활에서 고속도로를 매일 주행할 예정이다. 기술적인 문제와 안전에 관련된 문제를 떠나서, 3명의 연구원이 제기한 새로운 문제점은 정책결정자와 판매기업이 검토할 필요가 있는 윤리적인 문제의 영역이다.
"무인자동차에게 필요한 실험적 윤리 : 우리는 실용적 자동차를 이용할 준비가 되어있는가?"라는 제목의 연구결과는 장-프랑수아 보네퐁(Jean-Francois Bonnefon)씨, 아짐 샤리프(Azim Shariff)씨 그리고 아이야드 라흐반(Iyad Rahwan)씨의 작품이다. 그들은 툴루즈 대학교 경제학과, 오리건 대학교 그리고 매사추세츠 공과대학교 출신이다.
우리는 무인자동차가 상당한 규모로 도로사고와 사망을 방지할 수 있다고 듣고 있다. 그럼에도 가장 최신의 논의에 의하면, 무인자동차의 미래는 더욱 복잡한 것으로 보인다. 무인자동차가 처음으로 도로에 나타났을 때, 안전 상태는 미묘한 차이가 있어서 사람들이 무인 운전자가 사용하는 많은 경고사항에 반드시 준비된 것은 아닐 것이라고 전문가들은 말했다.
이제, 3명의 연구원들은 앞으로 생각할 문제를 추가하고 있다. 즉, 그들은 무인자동차의 출현으로 발생할 윤리적인 문제를 제기하고 있다. 그들의 연구결과는 피할 수 없는 위해와 관련된 교통 상황을 제기한다.
문제는 누가 해를 입히고 누가 해를 당하는지에 관련된 다른 알고리즘의 상대적인 도덕성에 대한 평가에 관한 것이다. (a) 자동차가 도로에 있다가 여러 명의 보행자를 죽이거나 방향을 바꾸어 지나가는 사람을 죽일 때. (b) 자동차가 도로에 있다가 한 명의 보행자를 죽이거나 방향을 바꾸어 승객을 죽일 때, (c) 자동차가 도로에 있다가 여러 명의 보행자를 죽이거나 방향을 바꾸어 승객을 죽일 때를 상정해 보자.
다른 사람을 구하기 위해 승객이 살해당했다? 누군가는 이것을 [MIT Technology Review]에서 "알고리즘적 도덕성에 대한 불가능한 윤리적 딜레마"라고 부른 것처럼 인식할 수도 있다.
저자들의 요약에 의하면, "이러한 도덕적 딜레마에 직면하도록 무인자동차를 가이드하게 될 알고리즘을 규정하는 것은 비참한 일이다. 특히, 이러한 도덕적 알고리즘은 3가지의 양립할 수 없는 목표를 수행할 필요가 있다. 즉, 연속적이어야 하고 공적인 분노를 사지 않으며 구매자를 낙담시켜서는 안 된다. 이러한 목표를 달성하기 위해서는, 제작회사와 규제기관이 무인자동차와 피할 수 없는 위해와 관련된 실험적 윤리에 대한 방법을 적용시키기 위해 심리학자가 필요하다는 것을 우리는 제안한다."
[MIT Technology Review]에는 다음과 같이 논의가 계속 진행된다. "어린이가 차량에 타고 있다고 해서 그리고 그들이 어른들보다 남은 생이 더 많다는 이유로 다른 결정이 이루어져야 하는가, 그리고 먼저 차량에 타고 있다고 해서 우선권이 있는 것인가? 만약 제작회사가 도덕적 알고리즘에 대해 다른 버전을 제공하고 구매자가 그 중 하나를 선택한다면, 알고리즘의 결정으로 인해 유해한 결과를 초래했다면 그것은 구매자의 책임인가?"
분명히, "윤리적인 무인 기계장치를 제작하는 방법을 확인하는 것은 오늘날 인공지능 분야에서 가장 어려운 도전 중 하나이다. 우리가 수백 만 대의 차량에게 자율성을 부여하고자 함에 따라, 알고리즘적 도덕성을 심각하게 고려해야 하는 문제가 매우 시급하게 되었다."
저자들은 그 해답이 실험적인 윤리에 대한 프로토콜을 적용하기 위한 조사를 통해 나와야 한다고 믿고 있다. 그들에 의하면, 전체적으로 실험적 윤리학 분야는 사람들이 무인자동차의 운전 알고리즘에서 원하는 도덕적이고 법률적인 표준에 중요한 시사점을 제공할 것이라고 기술했다.
연구원들은 지난 6월에 시행한 3가지 온라인 서베이에 대한 결론을 지었다. 이 연구는 [Qualtrics] 서베이 소프트웨어를 사용했고, 25센트의 비용을 지급하고 아마존의 [Mechanical Turk platform]에서 자원자를 찾은 것이다.
결과는? 그들은 "만약 예측가능하다면, 흥미로운 것"이라고 [MIT Technology Review]는 밝혔다. "일반적으로, 사람들은 무인자동차가 사망과 관련된 비용을 최소화하도록 프로그래밍되어야 한다는 생각을 가지고 있다."
저자들은 "3가지의 서베이는 응답자들이 피할 수 없는 위해를 주는 상황에서는 실용적인 도덕적 결정을 하도록 무인자동차가 프로그래밍될 필요가 있다고 제안했다. 이것은 무인자동차가 도로 상에 있는 다른 개인의 생명을 구하기 위해 소유자를 희생시킬 수도 있는 상황이 발생가능함을 의미한다"고 말했다.
이 연구에 대한 자신의 의견을 제시하면서 [Popular Science]의 데이브 게르쉬고른(Dave Gershgorn)씨는, "물론, 무인자동차는 90%까지 교통사고로 인한 희생자를 줄일 수 있다. 그리고 윤리학 그 자체 분야와 마찬가지로, 나머지 10%의 영역에서는 여전히 논쟁이 진행 중"이라고 말했다.
출처 KISTI 미리안 『글로벌동향브리핑』
