피해영상물 삭제 안내했더니...학교 딥페이크 신고 두 배 늘어

학생·교직원 피해자 617명…고등학교 243건 '최다'

지난달 29일 서울 강남역 인근에서 서울여성회와 서울여성회 페미니스트 대학생 연합동아리가 딥페이크 성범죄 규탄 여성 시민·대학생 긴급 기자회견을 하고 있다. [사진=연합뉴스]

 

최근 딥페이크' 기술을 이용한 불법 합성물 성범죄가 확산하고 있는 가운데 학생과 교사의 딥페이크 피해 건수가 크게 늘어나고 있다. 최근 언론 보도 이후 학교 현장에서 신속하게 피해 신고·지원에 대한 안내가 이뤄지자 열흘 만에 피해 신고가 2배 늘었다. 

교육부는 17개 시도교육청을 통해 파악한 결과 올해 1월부터 지난 6일까지 학생·교원 딥페이크 피해 건수가 총 434건으로 집계됐다고 9일 밝혔다. 

앞서 지난달 27일 기준 교육부 1차 조사에서는 196건이었는데 열흘 만에 진행된 2차 조사에서 238건 추가됐다. 

피해 신고 238건 가운데 고등학교에서 가장 많은 164건(68.9%)이 나왔다. 중학교에서 70건(29.4%), 초등학교에서 4건(1.7%)이 추가로 집계됐다. 고등학교는 1차 조사 당시 79건으로 중학교(109건)보다 피해 건수가 적었다가 2차 조사에서 급격히 증가했다.

피해 건수 가운데 350건은 수사 의뢰된 상태다. 수사 의뢰 건수 역시 1차 조사(179건) 대비 두 배 가까이 증가했다. 

딥페이크 피해자는 총 617명이다. 학생 588명, 교사 27명, 직원 등 2명으로 집계됐다. 피해자 수가 피해신고 건수보다 많은 이유는 피해신고 건당 피해자가 여러 명 발생하는 사례가 포함돼 있기 때문이다. 

교육부는 2차 조사에서 피해 건수가 증가한 이유로 "최근 학교 현장에서 신속하게 피해 신고·지원에 대한 안내가 이뤄졌고, 피해 영상물 삭제 지원을 받기 위해 신고 필요성을 느낀 피해자의 인식 변화가 반영됐다"며 "다음 주부터는 증가세가 많이 꺾일 것"이라고 말했다.

교육부는 학생과 교직원을 대상으로 딥페이크 피해를 신고받고 있는 단계며 신고를 접수한다 해도 가해자를 특정할 수 없어 학교폭력위원회 등 후속 조치는 밟지 못하고 있다고 설명했다.

2차 조사에서 새롭게 추가된 지표인 '삭제 지원 연계' 건수는 184건으로 나타났다. 이 건수는 관련 기관에 딥페이크 성 착취물 삭제 지원을 의뢰한 것이다. 실제 삭제가 이뤄진 건수는 확인되지 않았다.

지난달 28일 교육부는 사안의 심각성을 고려해 차관을 단장으로 한 딥페이크 대응 긴급 태스크포스(TF)를 구성해 분야별 6개 팀으로 이뤄진 상황반을 가동한다고 밝힌 바 있다. 딥페이크 성적 합성물과 관련한 가해·피해 정황이 드러나면 '즉시 분리' 조치가 이뤄진다.

교육부는 피해 현황을 정기적으로 조사·발표하여 학교 구성원과 국민들에게 객관적이고 정확한 통계 현황을 알려나갈 방침이다. 학교 내에서 딥페이크 피해를 신고하려면 교육부 누리집 성희롱·성폭력 온라인 신고센터를 이용하거나 학생은 담임·책임 교사 등에게 신고하면 된다. 

한편 생성형 AI(인공지능)를 악용한 딥페이크가 사회적 이슈로 떠오르면서 생성형 AI로 만든 창작물에 구분할 수 있는 워터마크를 표시하도록 의무화하는 규제가 주목받고 있다. 국회에서는 텔레그램 같은 빅테크 기업에 불법 콘텐츠 삭제 의무를 부여하는 법안들이 발의되고 있다.