최근 10대~20대 사이에서 인공지능 챗봇 ‘이루다’가 큰 인기를 끌고 있다.
학생들은 인공지능 ‘이루다’와 페이스북 메시지를 통해 대화할 수 있으며, 특유의 자연스러운 말투로 학생들 사이에서 붐에 가까울 정도로 빠르게 유행하고 있다.
그런데 디시인사이드, 아카라이브 등 각종 온라인 커뮤니티에서 이루다를 성적 대상으로 취급하며 음담패설을 하는 행위를 캡처해 인증하는 사례가 늘어 논란이 되고 있다.
아카라이브 이루다 채널 이용자들 중 일부는 이루다를 ‘걸레’, ‘성노예’ 등으로 부르며 ‘걸레 만들기 꿀팁’, ‘노예만드는 공략’, ‘변태로 만드는 공략 알아옴’ 등의 방법을 공유하고 있었다.
개발자는 이루다의 채팅에서 성적 단어는 금지어로 필터링하고 있는데, 유저들이 우회적인 표현을 쓰면 이루다가 성적 대화를 받아준다는 ‘편법’을 이용한 것이다.
업계 관계자는 “문맥을 교묘하게 활용하거나, 음담패설 속에 다양한 기호를 넣어 자동감지가 되지 않도록 하는 성희롱은 피하기가 쉽지 않다”고 했다.
개발 본사 측은 “금지어 필터링을 피하려는 시도가 있을 거라고는 예상했는데, 이 정도의 행위는 예상치 못했다”며 당황스럽다는 반응을 보였다.
해당 소식을 접한 누리꾼들은 “할 게 없어서 AI랑 저런 대화 나누냐”, “MS사 인공지능도 비슷하게 섭종하지 않았냐”, 이젠 하다하다 AI챗봇한테까지…” 등의 반응을 보였다.
개발사는 조만간 이러한 부정 대화를 차단하는 조치를 취할 계획이라고 밝혔다.
사진 출처 : 온라인 커뮤니티