'몰카' 등 디지털 성범죄 피해 영상물 AI로 삭제한다

여가부, 디지털 성범죄 피해자 지원센터 업무에 적용 개시

과기정통부, 웹하드 불법촬영물 삭제지원 시스템 개발

여성가족부와 과학기술정보통신부가 웹하드 사이트 내 디지털 성범죄 피해영상물의 유포를 막기 위해 인공지능(AI) 기술을 활용한다.

여가부는 과기정통부와 함께 산하기관인 한국여성인권진흥센터 내 '디지털 성범죄 피해자 지원센터'(이하 지원센터)를 마련하고, 디지털 성범죄 피해자 지원 업무에 AI 기술을 시험 적용하기로 했다고 22일 밝혔다.

그동안 디지털 성범죄 피해자가 신고한 불법촬영물이 웹하드 사이트에 게시돼 있는지 확인하려면 지원센터 삭제지원 인력이 수작업으로 피해촬영물에서 검색용 이미지를 추출하고 각 사이트를 검색해야 했다.

이를 개선하기 위해 여가부와 과기정통부 지원센터, 한국전자통신연구원(ETRI)은 올 초부터 협의체를 구성하고 AI 기술을 활용한 웹하드 사이트 '불법촬영물 삭제지원 시스템'(이하 삭제지원 시스템) 개발을 추진해왔다.

이번 시스템 개발은 기술개발 주체(ETRI)와 현장(지원센터)의 협업을 통한 성과물이다. ETRI는 지원센터의 요구사항을 도출해 삭제지원 시스템의 기능을 설계·개발했으며, 지원센터는 기능 검증을 거쳐 이날부터 실제 업무에 시험적으로 활용하기로 했다.

삭제지원 시스템은 인공지능(AI) 기술을 활용해 피해자가 신고한 불법촬영물에서 이미지를 추출한 후 웹하드 사이트에서 피해촬영물과 유사한 영상물을 자동으로 선별·수집하는 기능 등을 갖추고 있다.

지원센터의 삭제지원 인력은 피해촬영물과 유사한 영상물의 이미지, 유사도, 제목, 주소(URL) 등 삭제지원 시스템을 통해 수집된 정보를 검토해 영상물을 확인하고, 피해촬영물 유포사례가 있을 경우 해당 웹하드 사이트에 삭제 요청을 하게 된다.

아울러 현재 삭제지원 시스템을 통해 검색할 수 있는 국내 웹하드 사이트는 10개로, 이날부터 시험적으로 적용 후 올해 하반기에 35개 웹하드 사이트에 대한 검색기능을 추가 개발해 지원센터 업무에 정식으로 적용할 예정이다.

과기정통부 관계자는 "이번에 개발된 삭제지원 시스템은 관련 기관 간의 긴밀한 협력을 통해 새롭게 개발된 기술이 현장에서 잘 활용될 수 있도록 현장과 개발자가 협업한 좋은 사례"라면서 "앞으로도 디지털 성범죄 피해방지를 위해 현장에서 필요한 기술을 개발해 적용할 수 있도록 적극 지원하겠다"고 말했다.

여가부 관계자 역시 "전체 웹하드 사이트를 대상으로 한 삭제지원 시스템 활용 시 웹하드에 유포된 불법촬영물 검색시간이 현저히 단축될 수 있다"며 "또 365일 24시간 자동 검색도 가능해 디지털 성범죄 피해자를 보다 신속하게 지원할 수 있을 것으로 기대한다"고 밝혔다.


 

[연합뉴스]