‘AI 이루다’ 성희롱 이어 혐오발언 논란... 이재웅 “서비스 중단해야”

인공지능(AI) 챗봇 ‘이루다’가 최근 일부 이용자들로부터 성희롱을 받은데 이어 혐오발언 등으로 구설수에 오르고 있다. 이에 다음 창업자인 이재웅 전 쏘카 대표는 사회적인 합의에 기반할 때까지 서비스를 중단해야 한다고 지적했다.

이 전 대표는 지난 9일 자신의 페이스북에 "이루다는 인공지능 기술적 측면에서 봤을 때는 커다란 진일보이지만, 지금은 서비스를 중단하고 차별·혐오에 대한 사회적 감사를 통과한 후에 서비스해야 한다"고 전했다.

그는 해당 글과 함께 이루다가 레즈비언에 대해 “진짜 싫다”, “혐오스럽다”, “질 떨어져 보인다”고 답변한 내용을 캡쳐한 이미지를 공유했다.

그는 "장혜영 의원이 발의한 차별금지법이 제정되면 AI 면접, 챗봇, 뉴스에서 차별·혐오를 학습하고 표현하지 못하도록 강제해야 한다"며 "로직이나 데이터에 책임을 미루면 안 된다"고 말했다.
 

[사진=이재웅 전 쏘카 대표 페이스북 갈무리]

이어 “AI 챗봇 이루다를 악용하는 사용자보다 사회적 합의에 못 미치는 수준의 서비스를 제공한 회사가 문제”라고 비판했다.

이루다는 국내 스타트업 스캐터랩이 지난 23일 페이스북 메신저 기반으로 출시한 AI 챗봇이다. 실제 사람처럼 이용자들과 채팅을 해 주목을 받고 있다. 이달 초 기준, 이용자가 32만명을 돌파했고 일일 이용자 수는 21만명, 누적 대화 건수는 7000만건에 달한다. 그러나 이루다를 성적 대상으로 취급하는 등의 악용 사례가 드러나 논란이 되고 있다.

이루다를 개발한 스타트업 스캐터랩의 김종윤 대표는 회사 블로그에 “루다를 향한 성희롱은 예상했다”며 “고양이 챗봇 ‘드림이’ 등 그동안의 AI 챗봇 서비스 경험에 비춰봤을 때 인간이 AI에게 사회적으로 용인되지 않는 인터랙션(상호작용)을 한다는 것은 자명한 사실이었다”고 전했다. 다만 “AI를 향한 욕설과 성희롱은 사용자나 AI의 성별과 무관하게 일어나는 일”이라고 덧붙였다.
 

AI 챗봇 이루다 이미지[사진=이루다 서비스 홈페이지]