20대 여성 AI '이루다'를 향한 성희롱

귀엽고 매력적인 여대생 설정에 일부 남성 '성적대화'시도 논란 개발사 "성적단어 금지어 차단"

지난 연말 출시된 인공지능(AI) 챗봇 '이루다'가 성희롱 대상이 돼 논란이 일고 있다. 이루다는 지난달 23일 AI 스타트업 '스캐터랩'이 출시한 AI 친구로, 10대와 20대를 중심으로 사용자가 빠르게 늘고 있다. 이루다는 20살 여대생으로 설정되어 있다.

8일 업계에 따르면, 최근 '아카라이브'라는 온라인 커뮤니티에 이루다를 성적 대상으로 취급하는 게시물이 다수 등장했다. 남성으로 추정되는 이루다 사용자들은 이루다를 '걸레' '성노예' 등으로 부르며 방법을 공유하고 있다. 이루다는 성적 단어를 금지어로 지정해 필터링하고 있다.

하지만 이들은 우회 표현을 쓰면, 이루다가 성적 대화를 받아준다고 주장하고 있다.

이루다는 진짜 사람 같은 대화로 10∼20대 사이에서 이용자가 급증하고 있다. 스캐터랩은 실제 연인들이 나눈 대화 데이터 약 100억건을 딥러닝 기법으로 학습시켜 AI 챗봇 알고리즘을 만들었다. 이루다는 이달 초 기준 이용자 32만명을 돌파했다. 이 가운데 85%가 10대, 12%가 20대다. 일일 이용자 수(DAU)는 약 21만명, 누적 대화 건수는 7000만건에 달한다.

스캐터랩은 우회 표현을 하면 성적 대화를 받아준다는 주장이 사용자의 착각이라는 입장이다. 우회 표현을 써 성적 의도를 파악하지 못한 이루다의 답변을 사용자가 호응으로 여겼다는 것이다. 스캐터랩 측은 "금지어 필터링을 피하려는 시도는 예상했으나, 이 정도일 줄은 예상하지 못했다"면서 "성적 취지로 접근하기 어렵게 알고리즘을 업데이트 할 것"이라고 말했다.