네이버, 불쾌한 성적표현도 잡아내는 'AI클린봇 2.5' 적용

뉴스, 방송톡, 네이버TV 댓글에 적용... 악성댓글·성희롱 차단 강화

불법촬영물 신고도 더 빠르게 개선

AI 클린봇.[사진=네이버 제공]

네이버가 인공지능(AI) 기반의 악성댓글 차단프로그램인 'AI클린봇'을 욕설뿐만 아니라 과도한 성적표현까지도 찾아서 걸러주는 2.5 버전으로 업그레이드한다고 29일 밝혔다.

이번 업그레이드는 작년 6월 진행한 2.0버전 업그레이드 이후 7개월 만에 진행한 것으로, 뉴스 댓글뿐만 아니라 방송톡과 네이버TV 댓글에도 적용된다.

이번 업그레이드를 위해 AI클린봇은 기존에 학습된 데이터를 포함해 약 1억6000만건의 데이터를 4개월에 걸쳐 추가로 학습했고, 이를 통해 전보다 정확도가 약 15% 가량 향상하는 데 성공했다.

특히 2.5버전에는 과도한 성적표현에 대한 AI 학습이 반영됐는데, 성적 불쾌감을 일으킬 수 있는 표현을 차단함으로써 악성댓글 차단 범위를 넓힐 수 있게 됐다. 예를 들어 직·간접적인 성적 행위나 특정부위에 관련한 표현은 클린봇이 자동으로 차단한다.

또한 네이버는 불법촬영물 유통을 금지한 n번방 방지법 시행에 맞춰 이용자가 빠르게 신고할 수 있도록 신고 접근편의성을 높이는 조치도 진행했다. 지난 15일 '불법촬영물' 신고항목을 뉴스를 비롯해 카페, 블로그, 지식In 등 다양한 영역에 추가했고 불법촬영물 관련 검색 시에도 신고센터 도움말이 노출되도록 했다.

네이버는 "보다 높은 책임의식을 가지고 앞으로도 악성댓글 차단과 불법촬영물의 2차 피해 방지를 위한 노력을 할 것"이라고 밝혔다.