구글AI 얼굴인식 ‘남성’ ‘여성’ 구분 안한다

[구본권의 사람과디지털]
불공정한 편견 방지 위해 ‘사람’ 태그로 변경키로
효율성·정밀성 추구해온 정보기술 흐름 ‘본격 도전’

페이스북은  사진에 얼굴인식 기능을 적용해, 한번만 확인을 거치면 사진 속 인물의 이름을 자동으로 보여주는 ‘이름 추천’ 기능을 적용한다고 밝혔다. 이 기능은 사용자가 선택하지 않아도 ‘기본 적용’된다. 페이스북 제공

구글의 얼굴인식 인공지능에서 남녀 구별이 사라진다.

구글은 지난달 20일 개발자들에게 보낸 메일에서 구글 클라우드 비전 에이피아이(Cloud Vision API)에서 ‘남성(man)’ ‘여성(woman)’ 이미지 태그를 없애기로 했다고 밝혔다. 구글의 클라우드 비전 에이피아이는 인공지능 기반의 이미지 인식 도구로, 사물을 식별하고 식별한 사진에 태그를 달아 기계학습과 다양한 서비스에 활용하게 해준다. 사람과 동물의 얼굴은 물론, 표정, 상표, 건물, 다양한 콘텐츠와 이미지를 감지하고 분류할 수 있게 해주는 인공지능 이미지 인식과 기계학습의 핵심 도구다.

구글은 메일에서 “사람 성별은 외모로만 추론될 수 없기 때문에 구글의 인공지능 원칙에 따라 성별 라벨을 제거하기로 결정했다”고 밝혔다. 구글은 자사의 인공지능 원칙중 ‘불공정한 편견 방지’에 관한 2항을 언급하면서 성별을 구분한 사진이 부당한 편견을 가중시킬 수 있다고 밝혔다. 구글은 남녀 성별 대신 ‘사람(person)’이라는 태그를 이미지에 지정할 예정이라고 밝혔다.

2020년 1월24일 <패스트 컴퍼니>에 트랜스 젠더의 얼굴인식 문제에 대해 기고를 한 미국의 소프트웨어 개발자이자 작가인 카라 허슬이 자신의 기고에 올린 자신의 트위터 계정 사진. 성전환 수술을 한 그에 대해서 얼굴인식 알고리즘은 끊임없이 과거의 자신에 대해 동일인인지 아닌지를 묻는다. 트위터 제공.

구글의 이번 결정은 끝없이 더 많은 정보와 더 높은 정확도를 추구하며 효율성과 정밀성을 높여온 정보기술 개발 경쟁을 거스른다는 점에서 눈길을 끈다. 모질라재단의 정책담당자인 프레드리케 칼소이너는 미국 언론 <비즈니스 인사이더>에 “우리가 사람을 성별이나 성적 지향에 따라서 분류하려고 할 때 자동적으로 자신이 의존하고 있는 기준을 사용하게 마련인데 여기엔 많은 전제가 깔려 있다. 사람을 남성, 여성으로 분류한다는 것은 성(gender)이 이분법적(binary)이라고 전제하는 것이다”라고 말했다. 이분법적 성별에 들어맞지 않는 사람은 잘못 분류될 수밖에 없고, 이는 겉모습으로 성별을 분류할 때의 오류를 넘어서 인공지능의 필연적오류로 이어지게 된다.

0과 1, 남성과 여성으로만 분류하는 인공지능 알고리즘은 이미 문제를 일으키고 있다. 미국에서는 성전환 수술을 통해 성적 정체성을 바꾼 사람들이 인공지능 얼굴인식에서 난처함을 겪는 사례가 보고된 바 있다. 구글 포토, 애플 포토, 페이스북 등에는 얼굴인식을 통해 사진에 자동태그를 달고 자동분류하는 기능이 있는데 성전환자들을 다른 사람으로 분류하면서 생기는 문제다. 이들 얼굴인식 인공지능은 성전환자에게 끊임없이 “이 사진이 당신인가요?”라고 선택하게 하며, 정체성에 대한 질문을 던진다. 구글은 최근 얼굴 사진에 수동 태그 기능을 도입해 다른 개인으로 분류되어 있는 자신의 사진을 이용자가 직접 동일인으로 수동분류하고 나머지 사진을 알고리즘을 이용해 자동화처리할 수 있도록 했다.

2015년 6월 사진 자동분류 기능을 지닌 구글 포토가 흑인 사진을 '고릴라'로 태깅하고 분류한 사실이 공개돼 머신러닝의 문제점이 알려져 문제가 됐다. 구글은 이 기능을 수정하지 못하고 결국 '고릴라' 분류 태그를 삭제했다. 

한때 한국에서는 아들을 선호하는 부모들과 의료진의 동조가 어울려 ‘태아 성감별’과 여아 낙태가 문제됐고 그 결과 성별 불균형은 사회 전체를 고통스럽게 만들었다. 태아 성감별은 사라졌지만, 인공지능에 의한 이진법적 성별 분류가 새로운 문제를 일으키고 있다. 인공지능에 의한 성별 분류가 인류에게 해로운 기술이 되지 않도록 새로운 고려가 요구되는 상황이다. 구본권 선임기자 [e-mail]