로봇3원칙과 자율주행자동차 한국교통연구원 ‘월간교통’ 2022년 6월호 2022.6.20 한우진 (교통평론가, 미래철도 DB운영자) [email protected]
로봇 3원칙이라는 게 있다. 로버트 하인라인, 아서 클라크와 함께 SF 3대 작가로 불렸던 아이작 아시모프가 1942년 제창한 원칙이다. 1. 로봇은 인간을 다치게 해서는 안 되며 인간이 해를 입는 것을 방관해서도 안 된다.
2. 원칙 1을 위반하지 않는 한 로봇은 인간의 명령에 복종해야 한다.
3. 원칙적으로 1과 2를 위반하지 않는 한 로봇은 스스로를 보호해야 한다.아시모프는 로봇이 일상화된 미래 세계를 상상하며 이런 원칙을 제시했지만 사실 풀어 쓰면 사람이 사용하는 기계에 일반적으로 적용할 수 있음을 알 수 있다. 인간을 다치지 않게 한다는 것은 기계의 안전성을 의미하고, 인간의 명령에 복종한다는 것은 기계가 정해진 기능을 제대로 해야 한다는 것이다. 마지막으로 스스로를 보호한다는 것은 결국 고장이 잘 나지 않도록 튼튼히 해야 한다는 뜻이다.
이처럼 로봇 3원칙은 이해하기 쉽고 기존에 사용하던 개념과도 연속성이 있어 많은 사람에게 쉽게 받아들여졌다. 인공지능처럼 미래 기계를 만들고자 하는 사람들에게 큰 영감을 준 것도 물론이다.
자율주행차, 어떤 원칙으로 만들어져야 하는가?반면 현재 교통 분야에서 가장 주목받고 있는 ‘로봇’이라면 자율주행자동차를 꼽을 수 있다. 자율주행자동차를 만들 때도 명확한 원칙이 필요하고 로봇 3원칙이 그 힌트가 될 수 있다.
그러나 자율주행차에 실제 로봇 3원칙을 적용하면 여러 난관이 생긴다. 일단 인간을 다치게 해서는 안 된다고 했으니 자율주행자동차는 교통법규를 준수하고 최대한 안전하게 운전할 것이다. 하지만 때로는 분명 인간이 다치는 상황이 올 수도 있다. 기계가 모든 것을 예측하고 피할 수는 없기 때문이다. 이때 자율주행자동차는 어떤 선택을 할까.
갑자기 나타난 보행자를 피하려고 급격한 스티어링을 할 경우 차량이 전봇대를 들이받아 운전자가 죽을 수도 있다. 그렇다면 자율주행차는 그대로 보행자를 치는 것을 선택하는 것인가? 어느 생명을 선택할지 결정하는 기준은 무엇인가?
실제 아시모프 원작의 영화 ‘아이, 로봇’에서는 로봇이 물에 빠진 아이와 주인공(윌 스미스 씨) 중 주인공을 구했다. 당시 주인공은 아이를 구하라고 명령했지만 로봇은 이를 무시했다. 주인공의 생존 확률이 높았기 때문이다.
마찬가지로 자율주행 자동차는 어떤 판단을 내릴까? 생존확률을 어떻게 계산할 수 있는가? 자신의 주인인 운전자가 중요한가, 자동차보다 약자인 보행자가 중요한가? 이렇게 되면 공학을 떠나 철학의 문제에 돌입하게 된다.
제2원칙도 모호하기는 마찬가지다. 인간의 명령에 복종하라지만 인간의 기준은 무엇인가. 자율주행차 주인뿐인가. 주차장에서 잠시 차를 빼달라는 다른 운전자의 말을 들어야 하는가? 그 사람이 속이고 있는지도 몰라. 자동차회사와 정부기관의 의견이 다르다면 누구를 따라야 할까. 역시 쉽게 결정하기 어려운 문제다.
여기에 자율주행차가 네트워크를 형성하고 전략적인 사고를 할 수 있게 되면 상황은 더욱 복잡해진다. 1원칙에 따르면 인간을 다치게 해서는 안 된다고 하지만 이를 극단적으로 확장하면 전 세계 모든 자율주행차가 멈춰버릴 수도 있다. 자동차가 주행하면 어떤 형태로든 교통사고가 발생하지만 아예 움직이지 않으면 사고도 발생하지 않는다는 논리다. 이러한 논리의 폭주를 방지할 수 있는가?
로봇 3원칙이 이처럼 모순과 이야기거리를 만들어내는 이유는 학계나 표준화 기구에서 엄밀히 정의한 것이 아니라 작가가 상상력을 바탕으로 만들어낸 것이기 때문이다. 그만큼 한계가 있을 수밖에 없다. 작가 자신조차도 로봇 3원칙이 서로 충돌하고 그 속에서 갈등하는 로봇과 인간의 이야기를 많이 남겼다.
교통혁명을 일으키는 핵심 아이템 ‘자율주행차’가 최근 이어지고 있는 반도체 부족 사태(쇼티지)는 우리 자동차가 이미 얼마나 지능화되고 있는지를 깨닫는 계기가 됐다. 게다가 앞서 소개한 네트워크로 연결된 자동차라는 개념은 이미 ‘커넥티드카’ 형태로 우리 앞에 다가왔다.
자율주행차는 향후 교통의 모습을 근본적으로 바꿀 ‘핵심 아이템’으로 꼽힌다. 자율주행차 시대의 특징은 운전이라는 판단을 기계에 넘기게 된다는 점이다. 그러나 생명을 다룬다는 자동차의 특성은 변하지 않는다. 결국 기계가 사람의 생명을 다루는 시대가 다가오고 있는 셈이다.
그동안 자동차는 부작용도 있었지만 인류 문명을 크게 발전시켜 왔다. 앞으로도 이런 긍정적인 역할을 지속하기 위해서는 자율주행차에 대한 명확한 원칙이 세워져야 한다. 그리고 이는 로봇 3원칙처럼 누구나 쉽게 이해할 수 있으면 더욱 좋을 것이다. 빠르게 발전하는 자율주행차 기술에 맞춰 그에 대한 명쾌한 원칙도 함께 확립되기를 기대한다.*
https://vo.la/Fcy4GM 월간교통 2022-06 저자 한국교통연구원 발간일자 2022-06-20 발행기관 한국교통연구원 언어/쪽수 국문/80Page(s)키워드 월간교통, 새 정부, 교통정책, 국정과제, 정책제언, 광역도시교통, 도로교통, 철도교통, 항공교통, 물류, 지역균형발전, 전기차, 자율주행자동차, 차선폭, 설계기준, 피지컬 인터넷 로드맵, 모빌리티 가격 5,000 구매 다운로드 월간교통 2022년 6월호.pdf주요내용 목차 최신자료/인… vo.la 세종시청대로 370단지 연구단지 연구단지