[네이버 테크인사이드] ㉘ AI가 악플, 매크로 차단... 선거 대비하는 네이버

4.15 총선 앞두고 악플 잡는 AI '클린봇' 업그레이드... 문장 단위로 잡아내

상습 악성 댓글 작성자, 활동 제한 정책 마련 예정

국내 대표 포털 네이버가 오는 4월 15일 제21대 국회의원선거(총선)를 앞두고 인공지능(AI)과 같은 신기술을 활용해 댓글에 있는 혐오, 비속어와 같은 부적절한 표현을 자동으로 잡아내는 기능을 강화했다. 네이버는 그동안 이용자들의 활동에 대한 개입을 최소화했지만 매크로 프로그램을 통한 댓글 조작, 실시간 급상승 검색어(실검) 키워드 경쟁에 대한 논란이 일면서 플랫폼 기업으로서 책임감을 갖고 안전한 정보 공유의 장을 만들겠다고 입장을 바꿨다.

네이버는 최근 AI 기술로 악성 댓글을 잡아내는 ‘클린봇’의 기능을 강화했다. 클린봇은 AI가 욕설과 비속어가 들어간 댓글을 탐지해 숨겨주는 기능으로, 네이버가 자체 개발했다. 현재 스포츠와 쥬니버, 뉴스 서비스 댓글에 적용돼 있다. 이용자가 클린봇 활성화 여부를 직접 선택할 수 있고, 활성화하지 않더라도 욕설과 비속어를 ‘OOO’ 처리한다.

네이버는 이번에 클린봇의 엔진을 업데이트해 악성 댓글 탐지력을 높였다. 기존 클린봇이 비속어 단어들을 중심으로 악성 댓글 여부를 판단했다면, 이번 클린봇은 문장 맥락을 파악하는 것이 특징이다.

네이버 관계자는 “시뮬레이션 결과 기존 클린봇보다 5배가량 탐지능력이 항샹돼 악플에 효과적으로 대응할 것으로 기대된다”고 설명했다.
 

클린봇은 이미 작성된 댓글의 비속어, 욕설 등을 차단하는 방식이다. 네이버는 여기서 더 나아가 이용자가 댓글을 작성하는 과정에서 AI가 개입해 무례한 표현들을 잡아내는 기술도 적용했다. 댓글 등록 버튼을 누르면 AI가 적절하지 않은 표현들이 있는지 확인 후에 등록을 승인하는 식이다. 만약 욕설이 감지되면 이를 수정해야만 댓글을 게시할 수 있다.

 

[그래픽=임이슬 기자]

네이버는 AI가 지속적으로 악성 댓글을 필터링해 데이터가 쌓이면, 향후에는 악성 댓글을 수시로 게시하는 이용자들을 추적할 수 있을 것으로 내다봤다. 상습적인 악플러로 판명되면, 댓글 활동을 막는 정책을 고려하고 있다.

네이버 관계자는 “현재 AI 기술의 고도화와 성능 개선 작업으로 악성 댓글러로 판단한 작성자의 댓글을 댓글 목록에서 모두 제외하는 필터 설정 기능과 악성 댓글러들의 댓글 활동을 정지시키는 등의 강력한 제한 정책을 준비하고 있다”고 강조했다.

최근 네이버의 이 같은 움직임은 오는 4·15 총선과 연관이 있다. 네이버는 그동안 이용자들의 활동에 대한 개입을 최소화한다는 입장이었지만, 매크로 프로그램을 활용한 댓글 조작 사태(드루킹 사태), 조국 전 법무부 장관 임명을 둘러싼 실검 키워드 경쟁 등이 발생하면서 정치권의 강한 질타를 받았다.

이에 네이버는 매크로 프로그램에 의한 댓글 조작을 막기 위해 공감 클릭에 시간과 횟수 제한을 뒀고, 4·15 총선 공식 선거 운동 기간에는 실검 서비스 운영을 잠정 중단할 방침이다. 
 

 

경기도 성남시 분당구 네이버 사옥[사진=네이버 제공]