인공지능 ‘킬러 로봇’ 만들어질까…유엔, 13일 첫 논의

지난 8월 일론 머스크 등 “사용·개발 금지” 청원 후속 조처
“살상·파괴 결정권은 국제인도법상 인간에” 공감대 있지만
인간이 프로그래밍한 ‘로봇 공격’의 책임 소재 두고 논란

로봇군단과 인간의 전쟁을 담은 영화 <터미네이터: 제네시스>의 한 장면.

유엔(UN)이 이른바 ‘킬러 로봇’을 주제로 첫 공식 회의를 연다. 인공지능 무기가 인류에 미칠 가공할 부작용에 대한 국제사회의 우려를 반영한 회의인데, 당장 ‘킬러 로봇 금지’로 이어질 가능성은 낮다는 비관적 전망도 나온다.

<아에프페>(AFP) 통신은 13일부터 닷새간 스위스 제네바에서 열리는 특정재래식무기금지협약(CCW) 회의에서 인공지능 무기 사용에 관해 논의한다고 11일 보도했다. 지난 8월 일론 머스크 테슬라 최고경영자 등 26개국 정보기술(IT) 전문가 116명이 전자동 로봇 무기의 사용과 개발을 금지할 것을 요구하는 성명을 유엔에 제출한 데 따른 후속 조처다.

회의를 주재하는 아만디프 길 인도 군축대사는 “(킬러 로봇) 금지 입법을 하는 건 매우 쉬운 일이지만, 매우 복잡한 문제를 서둘러 결론내리는 건 현명하지 않다”며 “우리는 이제 막 출발선에 섰다”고 말했다.

이번 회의에서는 시민단체와 첨단기술 기업이 참여해 킬러 로봇의 유형을 이해하는 데 초점 맞춘 토의시간도 포함돼 있다. 하지만 로봇 유형과 무관하게 ‘킬러 로봇 금지 캠페인’ 그룹이 주장하는 핵심은 살상과 파괴의 최종적인 결정 책임은 인간이 져야 한다는 점이다. 캠페인 그룹은 전쟁범죄 피의자가 될 수 없는 킬러 로봇이 알고리즘을 통해 공격 여부를 결정하는 건 국제인도주의법 위반이라고 강조한다.

지난 8월 성명에서도 특정재래식무기금지협정과 같은 전 지구적 협약을 체결해 ‘도덕적으로 옳지 않은’ 로봇 무기를 연구 개발부터 사용까지 철저히 규제해야 한다는 주장이 담겼다. 길 대사는 “인간이 삶과 죽음에 관련된 결정을 하는 주체로 남아야만 한다는 합의는 형성돼 있다”면서도 “치명적인 무기가 인간의 통제를 거치도록 하는 기술과 관련해서는 다양한 의견이 나오고 있다”고 전했다.

킬러 로봇 규제 논의가 이제 막 시작된 반면, 영국·러시아·미국 등 무기기술 선진국들은 저만치 앞서 이미 무인기·무인차량·무인함정 등 인공지능 무기를 선보이고 있다. 국제인도주의법을 옹호해야 할 책무를 지닌 국제적십자위원회(ICRC) 역시 킬러 로봇 금지 보다는 제한을 두자는 입장이다. 국제적십자위 무기 담당 닐 데이비슨은 <아에프페>(AFP)에 “우리의 기본 입장은 기계에 법을 적용할 수 없고, 법적 결정의 책임을 기계에 떠넘길 수 없다는 것”이라고 말했다. 데이비슨은 다만 공격 시간과 위치 등 주요 변수에 따라 킬러 로봇이 지니게 될 문제적 속성을 강조했다. 가령 로봇이 한 곳에 몇시간 동안 머물며 감지되는 모든 적군 표적을 공격하도록 프로그램 됐다면, 공격 결정권이 프로그래밍을 한 인간한테 있는 건지 공격을 한 로봇에 있는 건지 논란이 생길 수밖에 없다. 그는 “어떤 일이 일어날 지 특정 수준의 예측 불가능성과 불확실성이 있는 상황에서 이 무기 시스템을 활성화 하면, 그때부터 법을 준수하는 데 있어서 문제가 불거지기 시작한다”고 설명했다.

전정윤 기자 [e-mail]