[전치형, 과학의 언저리] ‘도전! 골든벨’ 유감

전치형
카이스트 과학기술정책대학원 교수·과학잡지 <에피> 편집위원

지난달 23일 <한국방송>의 ‘도전! 골든벨’ 제천제일고편. 최후의 일인으로 남은 최장영 학생이 마지막 50번 문제를 앞두고 있었다. 친구들은 두 손을 모으고 눈물마저 글썽이면서 최군이 마지막 문제를 맞히고 골든벨을 울릴 수 있기를 기원했다. 교장 선생님은 최군의 이름으로 “최고다, 장하다, 영웅이다”라고 삼행시를 지어 응원했다. 골든벨을 울릴 경우 전교생에게 피자를 사주겠다는 약속도 이미 해두신 상태였다.

“브레이크가 고장 난 기차가 달리고 있습니다.” 교장 선생님이 대망의 골든벨 문제를 읽기 시작하자마자 나는 탄식했다. ‘아, 제발 그것만은….’ 이어지는 설명은 예상을 벗어나지 않았다. “레일 위에는 다섯명의 인부가 일하고 있는데, 이대로 달린다면 다섯명은 반드시 죽게 됩니다. 기차의 방향을 바꾸면 다섯명은 살 수 있지만 또 다른 쪽에는 한명의 인부가 있습니다. 여러분은 어느 쪽을 향해 달릴 것인가요?” 문제가 딱 여기서 끝났다면 차라리 나았을 것이다. 우리는 이 가상의 상황을 놓고 각자의 인간관과 세계관을 즐겁게 토론할 수 있다.

그러나 골든벨 문제가 단지 최군의 도덕성을 시험하는 것일 리는 없다. 곧이어 자율주행차라는 맥락에 대한 설명이 따라 나왔다. “스스로 운행이 가능한 자율주행자동차가 상용화되면서 ‘이것’이 다시 등장하고 있습니다. 자율주행자동차 운행 중 인명 피해를 피할 수 없는 상황에서 ‘과연 누구를 희생양으로 삼도록 알고리즘을 짜야 하는가?’라는 것인데요, 다수를 구하기 위해 소수를 희생할 수 있는지를 판단하게 하는 ‘이것’은 무엇일까요?” 최장영군은 ‘고장 난 기차의 딜레마’라고 적었다가 곧 지우고는 고민 끝에 “피자 못 먹여서 미안하다. 제천제일고 화이팅!”이라고 쓰고 말았다. 위로와 격려의 박수가 터져 나왔다. 제작진이 원한 정답은 ‘트롤리 딜레마’였다.

어찌 보면 평범한 이 문제의 문제는 자율주행차가 인간의 생사를 가르는 결정을 내리는 상황을 암묵적으로 인정하도록 만드는 데에 있다. 우리는 왜 “자율주행자동차 운행 중 인명 피해를 피할 수 없는 상황”이라는 설정을 당연하게 받아들이는가? 인간처럼 졸지도 않고 실수도 하지 않아서 인간 운전자를 대체하는 것이 마땅하다는 첨단 자동차가 어떻게 브레이크가 고장 난 채로 다섯명 아니면 한명을 죽일 수밖에 없는 비합리적인 상황에 놓일 수 있단 말인가? 이렇게 불안정한 테크놀로지를 도입해도 괜찮은가?

하루 전인 6월22일, 서울 상암에서는 서울시, 국토교통부, 과학기술정보통신부가 주최한 ‘자율주행 페스티벌’이 열렸다. 김현미 국토부 장관, 박원순 서울시장 등을 태운 자율주행 버스는 시속 10㎞로 움직이다가 중앙선을 침범하고 차로 언저리의 설치물을 건드리는 행동으로 눈길을 끌었다. 사람 운전자가 했다면 벌점 40점을 받아 면허가 정지될 수 있는 미숙한 운전이었다. 인명피해가 불가피한 긴급 상황에서 현명한 판단을 내리는 자율주행차가 아니라, 편히 달리라고 마련해 놓은 도로에서도 좌충우돌하는 차였다. 최군이 썼다가 지운 “고장 난 기차의 딜레마”라는 답에 나오는 ‘고장 난 차’였다.

자율주행차에 ‘트롤리 딜레마’가 있다고 말할 때 우리는 자율주행 기술의 잠재적 문제를 따져보는 대신 그 기술이 완벽해진 어느 미래의 비현실적 윤리 문제로 관심을 돌린다. 반면 최군이 ‘트롤리’ 대신 쓴 ‘고장 난 기차’라는 말은 자율주행차든 또 어떤 테크놀로지든 언제라도 고장 날 수 있다는 당연한 사실을 드러낸다. 이렇게 보면 ‘트롤리 딜레마’는 사실 딜레마가 아니라 고장 난 기계가 초래하는 흔한 문제 중 하나에 불과하다. 우리는 “과연 누구를 희생양으로 삼도록 알고리즘을 짜야 하는가”라는 황당한 질문이 아니라, “자율주행차가 고장 났을 때에도 사람이 다치지 않으려면, 또 고장을 제때 발견하고 고치려면 어떻게 알고리즘을 짜고 자동차를 생산해야 하는가”라고 질문해야 한다. 우리는 자율주행차에 대한 도덕적 딜레마에 빠져 있지 않다. 아직 충분히 신뢰할 만한 자율주행차를 개발하지 못했을 뿐이다.

너그러운 교장선생님 덕에 피자를 먹을 수 있었던 제천제일고 학생들에게 전하고 싶다. 여러분의 친구 최장영은 골든벨 문제를 틀리지 않았으며, 오히려 그 문제를 통해 자율주행차에 대한 좋은 토론을 할 수 있는 계기를 제공했다고.