‘인공지능법’ 전면 재검토 목소리 “유럽은 생체인식 AI 전면금지”

“‘선 허용, 후 규제’ 조문 위험성 커
‘고위험 인공지능’ 규제는 보여주기식”

진보네트워크센터, 정보인권연구소, 참여연대, 민주사회를 위한 변호사모임 등은 9일 오전 서울 여의도 국회의사당 앞에서 기자회견을 열어, 지난달 국회 과학기술정보방송통신위원회 법안심사소위를 통과한 ‘인공지능법’에 대해 전면 재검토를 촉구했다. 민주사회를 위한 변호사모임 제공

정보인권·시민단체들이 지난달 국회 과학기술정보방송통신위원회(과방위) 법안심사소위 심의를 통과한 ‘인공지능법’에 대해 전면 재검토를 촉구하고 나섰다.

진보네트워크센터, 정보인권연구소, 참여연대, 민주사회를 위한 변호사모임 등은 9일 오전 서울 여의도 국회의사당 앞에서 기자회견을 열어 “지난달 국회 과방위 법안심사소위를 통과한 ‘인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안’은 인공지능 규율을 위한 기본법을 표방하고 있지만, 시민들의 안전과 인권에 미치는 인공지능의 위험을 규제할 실질적 방안은 담고 있지 못하다”고 비판했다.

정보인권·시민단체들은 특히 여러 산업 분야의 인공지능 기술 적용을 ‘선 허용, 후 규제’한다는 조문이 그대로 통과돼선 안 된다고 짚었다. 장여경 정보인권연구소 상임이사는 “개인정보보호위원회나 공정거래위원회 등이 정보주체나 소비자의 안전과 권리를 위해 인공지능 규제를 도입하더라도, 인공지능법에 해당 조항이 있다면 이들 기관의 정당한 규제마저 무력화될 수 있다”고 비판했다. 김선휴 참여연대 공익법센터 운영위원은 “자동차 급발진에 대해서도 책임을 묻기 어려운데, 인공지능의 오류나 오작동, 편향에 책임을 묻는 것은 더욱 어려울 것”이라며 “특히 생명과 안전에 대한 위해는 일단 발생하면 나중에 규제하는 것은 무의미하다”고 말했다.

법안의 ‘고위험 인공지능’ 범위가 다른 나라들에서 논의되고 있는 유사한 법안들에 비해 모호한데다, 인공지능 기술을 적용해선 안 되는 분야에 대한 규정이 없다는 지적도 이어졌다. 오병일 진보네트워크센터 대표는 “유럽연합이 도입을 검토 중인 인공지능법은 장애인·아동 등 소수자 계층의 취약점을 악용하는 인공지능이나 공공장소의 원격 감시를 목적으로 하는 생체인식 인공지능의 활용을 전면 금지하고 있는 반면, 국내에서 논의 중인 법안은 일부 ‘고위험’ 분야를 나열하는데 그쳤다”고 지적했다.

‘고위험 인공지능’에 대한 규율이 보여주기에 그친다는 우려도 나온다. 장 상임이사는 “유럽연합 인공지능 법안의 경우, 인공지능 시스템을 개발하고 활용하는 기업에게 위험 평가 및 완화 의무, 출시 전 검사 및 사후 모니터링 의무, 개발·운영 과정의 문서화·기록 의무, 데이터 편향·오류를 방지할 의무, 사후 설명 의무 등을 세세하게 규정할뿐 아니라, 금지된 분야에 인공지능 기술을 붙여 서비스를 내놓으면 최대 3천만 유로 또는 세계 매출액의 6%에 달하는 벌금을 무는 등 엄격하게 규율하고 있다. 반면 국내 법안엔 고지 의무와 사업자 책무 등 단편적이고 형식적인 규율만 담긴데다 처벌 규정도 없다 . 법이 만들어진다 해도 실질적인 위험 방지 장치 역할을 할 수 있을지 의문 ”이라고 말했다 .

정인선 기자 [e-mail]