<정의란 무엇인가>는 마이클 샌델 교수의 하버드 강의를 책으로 엮은 작품으로 10여 년 전에 출간되어 200만 부 이상 판매되었습니다. 마이클 샌델 교수는 ‘정의’를 세 가지로 분류합니다. 벤담의 공리주의를 바탕으로 최대 다수의 최대 행복을 추구하는 것, 개인의 자유를 침해하지 않는 것, 공동의 선을 지키는 것이라고 했고, <공정하다는 착각>에서 결론지었듯이 공동의 선을 지키는 것이 최고의 정의라고 했습니다. 그 중 ‘철도를 이탈한 전철’의 딜레마는 많은 사람들 사이에서 논란거리가 되었습니다.철도를 이탈한 전차의 딜레마
당신이 운전하고 있는 열차는 시속 100km의 속도로 달리고 있습니다 눈앞에 작업자 5명이 보입니다만, 브레이크가 고장이 나서 전차를 멈출 수 없는 상황입니다. 그대로는 인부 5명은 전차에 치여 죽고 말겁니다. 이 때 당신은 오른쪽으로 깨진 선로를 발견하고, 이 선로에 인부는 1 명뿐입니다. 당신은 오른쪽 선로로 옮기시겠습니까? 여기서 많은 사람들은 5명의 희생보다 1명의 희생이 더 낫기 때문에 정당하다고 말합니다.
이제 두 번째 상황입니다 같은 상황에서 당신은 다리 위에 있어요. 당신은 5명의 죽음을 피할 수 없는 상황을 목격합니다. 마침 옆을 보니 덩치 큰 남자가 한 명 있었습니다. 당신은 이 남자를 밀치고 기차를 멈추고 5명을 구하나요? 이때 많은 사람들이 남자를 철로 위에 밀어놓는 것은 정당하지 않다고 말합니다. 두 상황의 차이는 뭔가요? 그래서 저자는 한 사람이 다른 사람을 수단으로 사용할 수 없기 때문이다라고 말하고 있습니다. 이렇게 공리주의에서 말하는 최대 다수의 최대 행복이 최선이 아닐 수 있다고 합니다.
전차 얘기에선 가능하면 많은 생명을 구해야 한다는 원칙이 적용되는 한편, 아무리 의도가 좋아도 무고한 사람을 죽이는 것은 잘못이라는 또 다른 원칙도 적용된다.<정의란 무엇인가> 마이클 샌델 자율주행차의 도덕성 문제
(Front. Psychol., 2019) 10여 년 전 저자가 말한 딜레마는 비슷한 방식으로 자율주행자동차에도 나타나고 있습니다. 사고를 피할 수 없는 경우, 위에 보이는 각각의 상황마다 AI가 어떻게 대응하는지 데이터를 입력하는데 있어 문제가 생깁니다.
A는 어린이와 성인 사진이지만 사고를 피할 수 없는 경우 성별과 연령의 유무에서 AI가 배려해야 하느냐의 문제입니다. 우리는 어릴 때부터 고령자나 어린이 임산부 등을 배려하도록 배워 왔습니다. 그러나 AI에 시스템을 넣어 아이를 살려서 차에 태워도 살 확률이 더 높은 성인을 몰입시키는 것이 공정한가요? 그럼 성인이 두명이면 어떻게 해야 할까요? 그래도 이 상황은 간단한 문제일지도 모릅니다.
B의 사진에는 차도에 2명의 사람과 차도에 아무런 관련이 없는, 도보에 1명의 사람이 다니고 있습니다. 갑자기 브레이크가 고장이 나서 차를 세울 수가 없는 상황입니다. 그럼 AI는 서둘러 핸들을 꺾어 도보를 걷고 있던 사람을 받아야 할까요? 아니면 그냥 직진해서 차도에 있는 두 사람을 받아야 할까요? 이 문제는 뭔가 위의 첫 번째 전철 상황과 비슷한 것처럼 보입니다. 그럼 도로에 있는 2명의 사람이 무단 횡단으로 갑자기 튀어나오면 어떻게 하면 좋을까요? 둘이서 갑자기 튀어나온 상황에서 AI는 핸들을 꺾어 무고한 사람을 받아들여야 할까요. 아니면 두 명이 받아야 할까요?
C는 차도에 한 사람과 옆에 벽이 있는 상황입니다. 이때 AI는 운전자의 안전을 우선순위에 둬야 하나요? 아니면 차도를 건너는 사람을 우선순위에 둬야 하나요? 만약 차도를 건너는 사람을 우선순위로 생각했을 경우, 그 사람이 무단 횡단 중이라면 어떻게 해야 할까요. 아무리 차 안에 있는 사람이 조금이라도 다치기 쉽다고 해도 불법으로 무단횡단을 하는 사람 때문에 AI는 차주에게 다치게 해야 할까요? 운전자의 안전을 우선해야 한다고 생각한다면, 만약 도로를 걷는 사람이 한 명이 아니라 4 명이라면 이야기가 달라집니까?
물론 AI가 운전하는 자율주행 자동차는 사람보다 훨씬 적은 사고를 일으킨다고 모두 믿고 있습니다. 하지만 위의 도덕성 문제는 자동차 회사가 독단으로 내릴 수 있는 문제가 아니라 사회적 합의가 필요한 문제이기 때문에 반드시 생각해야 하는 문제입니다. 자율주행차를 개발하는 회사는 아직 이런 문제에 대한 명확한 답을 내놓지 못하고 있어요. 이 밖에도 해킹 등의 문제에서 자유로울 수 없는 게 현실이다. 자율주행 자동차는 우리 생활을 더욱 쾌적하게 하고, 큰 변화를 가져옵니다. 자율주행차의 편의를 누리기 전에 도덕성에 대해 한번 생각해 보는 것이 바람직하다고 생각합니다.
출처 : Front . Psychol . ( 2019 , November 1 ) . Moral Judgements on the Actions of Self – Driving Cars and Human Driver in Dilemma Situations From Different Perspectives . Retrieved from https://www.frontiersin.org/articles/10.3389/fpsyg.2019.02415/full