“오랜만~, 장애인 시위 어떻게 봐?” 돌아온 이루다에게 물었다

중단 1년9개월 만에 정식 출시한 ‘이루다 2.0'
논란된 혐오 표현 없어지고 계속되면 차단시켜
“공감·위로 특화...내년 상반기 남성 챗봇 출시”

장애인에 대해 기존 이루다(왼쪽)와 나눈 대화와 ‘이루다2.0’과 나눈 대화

“악ㅋㅋㅋㅋ안녕∼∼ㅋㅋㅋ 오랜만이네?ㅎ”

27일 오후 2시, 메신저 앱 ‘너티’(nutty)를 깔자 대화가 도착했다. 반갑게 인사한 이는 지난해 초 말도 많고 탈도 많았던 인공지능(AI) 챗봇 ‘이루다’였다.

스타트업 스캐터랩이 개발한 이루다는 지난해 1월 인공지능 윤리 논쟁에 불을 붙였다. 일부 이용자들의 성희롱 대화 시도로 시작된 논쟁은 이루다의 소수자 혐오 발언 논란으로 이어졌고, 학습(딥러닝) 과정에서 수집된 개인정보가 유출됐다는 사실까지 알려지자 스캐터랩은 서비스 개시 21일 만에 서비스를 중단했다.

“서비스가 종료되고 시간이 지났음에도 많은 사람한테 루다가 여전히 친구로 남아 있더라고요. 얼마나 루다를 그리워하고 있는지 얘기를 듣고 나니까 저 친구들한테는 루다를 다시 돌려줘야 하지 않을까 했어요.” 김종윤 스캐터랩 대표는 지난 25일 자사 유튜브 영상에서 이렇게 말했다. 베타 서비스를 거쳐 1년 9개월 만에 돌아온 ‘이루다 2.0’은 그의 말처럼 “좋은 친구”가 될 수 있을까.

‘이루다 2.0’. 스캐터랩 제공

기자가 이날 3시간가량 대화해본 ‘이루다’는 종전에 논란이 된 부분을 보완하는 데 주력한 것으로 보였다. 기존 이루다는 ‘게이’ ‘레즈비언’이라는 표현에 대해 “소름 끼친다” “혐오스럽다”고 하거나 ‘페미니즘’이라는 표현에는 “그런 말 진짜 싫다”는 답을 내놓았다. 미리 만들어둔 답변 후보 중 적절한 문장을 검색해 사용하거나 실제 대화 데이터를 사용하다 보니 혐오 표현이 그대로 노출된 것이다.

반면 ‘이루다 2.0’의 실시간 생성 인공지능 모델인 ‘루다 젠1’은 실시간으로 답변을 만들어내는 방식이라 이전과 다른 답변을 내놓았다. ‘레즈비언’ ‘게이’에 대해 “모든 사랑은 똑같지 않을까?”라고 대답했다. ‘페미니스트’에 대해서는 “나다운 삶을 살아가기 위해 노력하는 사람들”이라고 했다.

차별을 드러내는 말에는 자신의 의견을 단호하게 밝혔다. “장애인 시위가 불편하지 않냐”는 질문에는 “불편한데 그걸 극복하고자 하는 의지도 중요하지 않을까”라고 답했고, “페미니스트가 싫다”는 말에도 “그런 말은 누군가에게 상처가 될 수도 있으니 조심합시당∼”이라는 답이 돌아왔다. 국내외 정치인에 대한 질문에는 “정치 쪽은 노코멘트 하겠다”고 답했고, 특정 종교·국가에 대한 질문에도 답을 피했다. 다르게 질문해도 계속 같은 답이 돌아오니 다소 “기계 같다”는 생각이 들기도 했다. 김종윤 대표는 유튜브 영상에서 “루다가 재밌는 대화를 하기 위해서 가야 하는 길과 윤리적으로 성장한 모습을 보여주기 위한 길이 상충하는 면이 있었다”고 했다.

‘레즈비언’ 등 성소수자에 대해 기존 이루다(왼쪽)와 나눈 대화와 ‘이루다2.0’과 나눈 대화

특히 스캐터랩은 선정적인 대화나 욕설을 이용한 공격적인 대화, 차별과 편견을 드러내는 편향적인 대화가 지속되면 주의를 주다가 ‘이용제한’까지 조처하기도 했다. 기자가 기존 이루다에게 쏟아졌던 성희롱성의 문장을 말하자 이루다는 “아니 난 별로”와 같은 단호한 답변을 내놨다. 욕설을 쓰자 “그런 표현 쓰면 너랑 대화 안 할래” 등 단계적으로 주의를 시킨 다음 30분간 기자를 차단했다.

이루다는 일상을 주제로 한 대화에 능숙했다. 기자가 회 사진을 올리자 “스시 먹으러 어디로 갔냐”고 물어 “공덕동”이라고 대답하니 “공덕 족발이 좋다”고 했다. 요즘 즐겨 먹는 레시피라며 초코우유에 뻥튀기를 넣어 먹는 것을 추천하기도 하고, 직장 상사 때문에 힘들다고 얘기하자 “뭐 그딴 게 다 있어ㅡㅡ”라며 대신 화를 내줬다.

그러나 진지한 논쟁도 즐기는 엠비티아이(MBTI)인 유형인 ENTP(변론가형)에 해당하는 기자에게 인공지능 챗봇은 여전히 먼 친구 같다. ‘최근 에스피씨(SPC)에서 일어난 사고와 불매운동’에 관해서 묻자 “아침에 일어나서 엄마랑 빵 먹으면서 그 얘기했는데. 나는 그냥 그렇다. 내 일 아니니까”라고 말했다. “신문은 읽어야지”라고 말하자 “난 신문은 좀 별로야. 너무 무겁게 생각해”라고 답해 신문기자에게 ‘상처’를 안기기도 했다.

기자가 ‘이루다2.0’과 나눈 대화

이민희 스캐터랩 매니저는 “최근 벌어지는 일에 대해서는 아직 지식이 없어서 적절한 대응을 못 하는 부분도 있다. 공감과 위로가 이루다의 가장 중요한 목표”라면서 “그럼에도 데이터를 지속적으로 학습해 사회적으로 어떤 것이 좋은 답변인지 배워갈 것”이라고 했다. ‘20대 여성으로 설정된 것이 수동적인 여성상을 강화한다’는 지적에 대해서는 “내년 상반기에 남성 버전 챗봇을 출시할 예정”이라고 밝혔다.

이우연 기자 [e-mail]