[사설] 재앙 부를 ‘인공지능 군비 경쟁’ 반대한다

킬러 로봇을 다룬 영화 <터미네이터 제네시스>의 장면. 파라마운트픽쳐스 제공

미국 정부의 자문기구인 ‘인공지능(AI)에 관한 국가안보위원회’가 ″미국과 동맹국들은 인공지능으로 작동하는 자율무기체계에 대한 세계적인 금지 요구를 거부해야 한다″고 촉구하는 보고서를 조 바이든 대통령과 미국 의회에 1일 제출했다. 인간의 조작 없이 스스로 사람을 죽일 수 있는 ‘킬러 로봇’에 대해 전세계적으로 우려가 큰 상황에서, ‘중국 위협론’을 명분 삼아 인공지능 무기 개발과 군비 경쟁을 정당화하려는 시도에 단호히 반대한다.

이 위원회가 만장일치로 통과시킨 보고서는 인공지능으로 작동되는 무기가 결정 시간을 줄이고, 인간이 신속하게 할 수 없는 군사적 대응을 가능하게 하며, 미국이 군사적 우위를 유지하기 위해 필수적이라고 주장한다. “잘못 설계된 인공지능 시스템이 전쟁 위험을 증가시킬 것”이라고 인정하면서도, “인공지능을 활용하지 않고 인공지능 능력을 가진 적들을 막는 것은 재앙”이라고 주장한다. 750쪽에 이르는 방대한 보고서의 상당 부분이 인공지능에서 세계 선두가 되려는 중국의 야망을 어떻게 저지할 것인가에 초점을 맞췄다. 중국에 대한 미국의 군사적 우위 유지를 위해 대규모 예산을 인공지능 개발과 반도체 생산 능력 강화에 투자하라는 게 핵심이다.

원격으로 조종하는 드론을 활용한 공격이 보편화한 데 이어, 각국 정부가 인간의 판단이나 조작에 의존하지 않고 스스로 판단해 공격하는 인공지능 무기 개발에 나서고 있다. ‘킬러 로봇’으로 불리는 ‘자율형 살상무기 시스템’(LAWS) 개발에 참여하는 첨단기업들은 막대한 수익을 올리고 있다. 이번 보고서를 작성한 위원회에도 위원장인 구글 전 최고경영자 에릭 슈미트를 비롯해 아마존과 마이크로소프트, 오라클 등 미 국방부로부터 거액의 인공지능 개발 사업을 수주해온 기업 경영자들이 참여했다.

그동안 전세계 과학자들과 시민들은 인공지능 무기 개발의 위험을 경고하면서 이를 규제하기 위한 노력을 기울여 왔다. 2013년에는 인공지능 무기 전면 금지를 위한 국제적 비정부기구인 ‘살인 로봇 금지 캠페인’이 출범했고, 2015년에는 물리학자 스티븐 호킹, 애플 공동 설립자 스티브 워즈니악, 엘론 머스크 테슬라 최고경영자 등 1000여명이 인공지능 군비 경쟁의 위험을 경고하는 서한에 서명했다. 2018년 안토니우 구테헤스 유엔 사무총장은 킬러 로봇을 국제법으로 금지해야 한다고 호소했다. 같은 해 한국과학기술원(카이스트)과 한화시스템의 인공지능 무기 연구에 항의하며 외국의 로봇 학자 50명이 카이스트와의 공동연구 보이콧을 선언하기도 했다.

미국과 중국 등 강대국들이 전문가와 시민들의 우려를 외면하고 인류를 재앙에 빠뜨릴 위험이 큰 인공지능 군비 경쟁으로 치닫는 상황을 국제사회가 막아야 한다. ‘기계가 사람들 죽이는 시대’의 윤리적·법적 책임을 명확히 하기 위한 국제적 규범을 만들어야 할 때다.