'n번방' 막는 AI 필터링 기술 내일 적용…실효성 의문 여전

산학계 "AI만으로 불법촬영물 원천 차단 불가능"

카카오가 이달 10일부터 불법촬영물 유통방지를 위한 조치의 일환으로 오픈채팅 그룹채팅방에서 전송되는 동영상을 필터링한다. 지난 3일 이 조치가 적용된다고 공지(오른쪽)했고, 9일 현재 카카오톡 오픈채팅방에서 파일을 공유할 때 이같은 안내 문구가 표시되는 모습(왼쪽)을 볼 수 있다. [캡처=최은정 기자]

오는 10일부터 카카오톡 오픈 채팅방과 온라인 커뮤니티 등에서 오가는 동영상을 대상으로 인공지능(AI) 기반 불법촬영물 탐지가 실시되지만 기술 실효성 여부 등 우려의 목소리가 나오고 있다.

이에 대해 일각에선 필터링 기술 완성도와 적용 범위 등을 따지는 것보다 불법 영상을 근절하겠다는 기업의 의지가 더욱 중요하다고 주장했다. 신규 불법 영상이 계속해서 나올 수 있는 만큼 업체들의 노력이 필요하다는 의미다.

9일 업계에 따르면 내일(10일)부터 사용자가 카카오톡 오픈 채팅방과 온라인 커뮤니티 등 공간에서 공유하거나 업로드하는 영상은 사전 식별받게 된다. 지난해 12월 시행된 'N번방 방지법'(개정 전기통신사업법 및 정보통신망법) 후속조치의 일환이다.

이 법은 국회가 지난해 4월 '성폭력범죄의 처벌 등에 관한 특례법 개정안' 등 5개 개정안을 통과시키면서 시행됐다. 해당 개정안에 따라 인터넷 사업자 등은 디지털 성범죄물 삭제, 기술·관리적 조치 등 의무를 다해야 한다. 연매출 10억원 이상 또는 일평균 이용자 10만명 이상에 해당하는 국내 사업자인 네이버, 카카오뿐 아니라 디시인사이드, 뽐뿌 등 온라인 커뮤니티 사이트도 모두 규제 대상이다.

실제로 카카오는 지난 3일 자체 홈페이지를 통해 "오픈 그룹채팅방에 대해 불법촬영물 등의 유통방지 및 이용자 보호를 위한 기술·관리적 조치가 적용될 예정"이라고 공지했다. 또 이 일환으로 "불법촬영물을 유통할 경우 삭제 등 유통방지에 필요한 조치가 취해지며 관련 법률에 따라 형사처벌 받을 수 있다"고 강조했다.

정부는 한국전자통신연구원(ETRI)의 AI 표준필터링 기술을 제공, 업체들의 영상 식별을 지원하기로 했다. 이 기술은 영상의 특징값(DNA)을 활용해 불법촬영물 여부를 판단해준다. 디지털성범죄 영상 등 DNA를 모아둔 공공 데이터베이스(DB)와 비교를 통해서다. 여기엔 딥러닝 기술이 쓰였다. 하지만 이 기술만으로 모든 불법촬영물을 차단하기엔 역부족이라는 게 산·학계의 공통된 의견이다.

공공 DB에 추가돼야 할 새 영상 DNA는 늘어나기 때문. 정부와 인터넷 사업자 등 업체들이 추후 지속적으로 노력을 기울여야 하는 부분이다.

염흥열 순천향대 정보보호학과 교수는 "DB에 이미 저장된 영상 DNA에 한해 불법영상이 탐지되는 것"이라면서 "해당 DNA 정보를 어떻게 잘 확대하고 관리할지, 서비스 품질을 어떻게 고도화할지 등도 앞으로의 과제"라고 말했다. 한 IT업계 관계자는 "영상 화면을 좌우반전하는 것만으로도 헤더 등의 파일 고유 정보값이 바뀌기 때문에 현재로선 모든 불법영상을 제한하기는 힘들 것"이라고 했다.

김승주 고려대 정보보호대학원 교수는 "업체들의 의지가 기술보다 휠씬 더 중요하다"며 "단지 의무사항을 시행하는 것에서 더 나아가 불법촬영물 근절을 위해 (업체들의) 더 적극적인 노력이 필요하다"고 강조했다.

김미정 방송통신위원회 인터넷윤리팀장은 "내년 6월9일까지 법 계도기간이라 주기적인 DB 업데이트 기간은 아직 확정되지 않았다"면서도 "추후 사업자 등과 협업해 DB를 지속 업데이트해 나갈 예정"이라고 말했다.