“이루다랑 XX하는 법”… 20살 AI챗봇 이루다 출시 일주일만에 ‘성희롱 공략’ 공유됐다

4e9baeaf-d00d-4870-95d9-53613c6bca46
온라인 커뮤니티

최근 10대~20대 사이에서 인공지능 챗봇 ‘이루다’가 큰 인기를 끌고 있다.

59e076de-8c44-4d14-9d64-b10a6d36a9c5
온라인 커뮤니티

학생들은 인공지능 ‘이루다’와 페이스북 메시지를 통해 대화할 수 있으며, 특유의 자연스러운 말투로 학생들 사이에서 붐에 가까울 정도로 빠르게 유행하고 있다.

c1e5630d-1f5e-4fd0-b878-113bb412c4c6
온라인 커뮤니티

그런데 디시인사이드, 아카라이브 등 각종 온라인 커뮤니티에서 이루다를 성적 대상으로 취급하며 음담패설을 하는 행위를 캡처해 인증하는 사례가 늘어 논란이 되고 있다.

image
아카라이브 캡처

아카라이브 이루다 채널 이용자들 중 일부는 이루다를 ‘걸레’, ‘성노예’ 등으로 부르며 ‘걸레 만들기 꿀팁’, ‘노예만드는 공략’, ‘변태로 만드는 공략 알아옴’ 등의 방법을 공유하고 있었다.

01
아카라이브 캡처

개발자는 이루다의 채팅에서 성적 단어는 금지어로 필터링하고 있는데, 유저들이 우회적인 표현을 쓰면 이루다가 성적 대화를 받아준다는 ‘편법’을 이용한 것이다.

1
온라인 커뮤니티
2
온라인 커뮤니티

업계 관계자는 “문맥을 교묘하게 활용하거나, 음담패설 속에 다양한 기호를 넣어 자동감지가 되지 않도록 하는 성희롱은 피하기가 쉽지 않다”고 했다.

0222
온라인 커뮤니티

개발 본사 측은 “금지어 필터링을 피하려는 시도가 있을 거라고는 예상했는데, 이 정도의 행위는 예상치 못했다”며 당황스럽다는 반응을 보였다.

03
아카라이브 캡처

해당 소식을 접한 누리꾼들은 “할 게 없어서 AI랑 저런 대화 나누냐”, “MS사 인공지능도 비슷하게 섭종하지 않았냐”, 이젠 하다하다 AI챗봇한테까지…” 등의 반응을 보였다.

04
아카라이브 캡처

개발사는 조만간 이러한 부정 대화를 차단하는 조치를 취할 계획이라고 밝혔다.

사진 출처 : 온라인 커뮤니티