[Tech in Trend] "일반인도 피해 대상"…AI 딥페이크 음란물 '주의보'

특정인 사진 2~3장이면 조작 가능해질 전망

2020년 처벌 규정 생겼지만 실형 5건도 안돼

방심위 시정요구 9006건 중 삭제 410건 불과

업계 "딥페이크 의심 콘텐츠 유포부터 막아야"

딥페이크 성적 허위영상물 관련 시정요구 건수(왼쪽 아래)와 처리 현황 그래프[그래픽=김효곤 기자]

인공지능(AI) 기술이 누구나 활용하기 쉽게 보편화하면서 이를 악용한 범죄가 일상 속으로 파고들고 있다. 특정 인물 얼굴이나 신체 부위를 기존 사진·영상에 합성하는 AI 딥페이크 기반 음란물이 대표적이다. 과거에는 연예인이나 유명인 등 공인이 주요 타깃이었지만 이제는 일반인도 더 이상 안심할 수 없는 상황이다.

딥페이크 음란물 범죄는 매해 늘어나는데 국내에서는 관련 처벌 수위가 미미하다는 지적도 나온다. 기술 고도화가 빨라지면서 앞으로는 특정인 사진 2~3장만으로 딥페이크 콘텐츠 제작이 가능해질 전망이다. 전문가들은 국내 처벌 수위를 높이는 것에 그치지 말고 적절한 음란물 유포 방지 체계 마련, 사전 예방을 위한 기술적·보안적 조치 강화 등이 시급하다고 주장한다.

韓 딥페이크 음란물 시정 요구, 매해 늘어

딥페이크로 만든 음란물 삭제 등 시정 요구 건수는 몇 년 새 지속적으로 증가하고 있다. 방송통신심의위원회에 따르면 국내 딥페이크 기반 성적 허위 영상물에 대한 시정 요구 건수는 2020년 473건, 2021년 1913건, 2022년 3574건, 지난해 1~11월 5996건을 기록했다. 작년 12월 건수는 아직 집계되지 않았다.

지난해 11월 기준 이미 2021년 한 해 대비 건수가 213.4% 늘어난 것이다. 방심위는 연중무휴로 운영되는 모니터링실에서 관련 피해를 접수해 게시물 접속 차단, 작성자 계정 해지, 게시물 삭제 등을 실시하고 있다.

정치권에서도 심각성을 인지하고 상황을 지켜보고 있다. 지난해 10월 국정감사 기간 김병욱 의원(국민의힘)은 경찰청이 제출한 자료를 인용해 국내 딥페이크 범죄 사건을 여러 건 언급하며 강력한 조치가 필요하다고 강조했다.

이에 따르면 경기북부경찰청 남양주북부서는 2021년 8월 온라인 소셜미디어에 공개된 여성들 프로필 사진을 이용해 타인 알몸 사진과 합성한 허위 제작물을 만들어 해외 사이트에 유포한 피의자가 구속됐다.

제주경찰청 사이버범죄수사대는 2020년 8월~2022년 10월 해외 구독형 사이트에서 월 구독료 30달러(약 4만281원)를 받고 미성년자를 포함한 연예인이 등장하는 허위 영상물 3000여 개를 제작해 텔레그램으로 판매한 피의자가 구속됐다. AI 그림 생성 프로그램으로 아동·청소년 성착취물 360개를 제작·소지한 피의자가 부산경찰청 사이버수사대에 덜미를 잡혀 구속된 사례도 있다.

작년 국정감사에서 딥페이크 피해자 보호를 위한 더 적극적인 조치에 대한 필요성도 제기됐다. 국회 과학기술정보방송통신위원회 소속 민형배 의원(더불어민주당)이 방심위에서 제출받은 자료에 따르면 2020년부터 2023년 8월까지 성적 허위 영상물 시정 요구 전체 건수(9006건)에서 실제로 영상물이 삭제된 사례는 410건(4.55%)에 불과했다.

가해자가 허위 영상물을 미끼로 피해자에 2차 위협을 가할 수 있는 우려가 있기 때문이다. 민 의원은 "성적 허위 영상물은 피해자에 관한 민감한 정보 등을 포함하고 있어 공개·확산되면 피해자의 사회적 평가와 인격권을 심각하게 침해한다"면서 "신속하게 정보 접근을 차단하는 것은 물론 시정 조치에서 삭제 비율을 더 높여 또 다른 2차 피해를 막아야 한다"고 말했다.
 

[그래프=김효곤 기자]

처벌 규정 신설돼도 수위는 미미

국내에서는 2020년 3월 성폭력범죄의처벌 등에 관한 특례법에 딥페이크 처벌 규정이 신설됐다. 사람 얼굴·신체 등을 상대로 허위 영상물을 제작·배포하면 5년 이하 징역 또는 5000만원 이하 벌금을 부과한다. 영리 목적이었다면 7년 이하 징역으로 가중 처벌을 받을 수도 있다.

문제는 실제 처벌 수위가 현저히 낮다는 점이다. 실제로 음란물 합성만으로 국내에서 실형이 선고된 건수는 성폭력범죄의처벌법 개정 이후 5건 이내에 불과한 것으로 나타났다.

게다가 2020년 이전에 발생한 사건에 대해서는 소급 적용도 불가능하다. 대법원은 지인 신체 부위로 딥페이크 음란물을 제작한 혐의를 받은 대학생 이모씨에 대해 무죄를 선고했다고 이달 5일 밝혔다.

이씨는 2017년 소셜미디어에서 여성 지인들 얼굴이 합성된 나체 사진을 17회에 걸쳐 제작을 의뢰해 제작하게 한 혐의로 재판을 받았다. 공공장소에서 여성 신체를 불법 촬영한 혐의도 있다.

대법원은 이씨에 대한 상고심에서 징역 8월을 선고한 군사법원 원심을 깨고 사건을 서울고법으로 돌려보냈다. 당초 군검찰이 적용한 음화제조 교사죄에는 '문서나 그림' 등으로 음란한 물건을 만드는 것을 금지한다고 명시돼 '컴퓨터 합성 사진'까지 포함하기 어렵다고 봤기 때문이다.

무죄 판결 이후 서울고법으로 돌려보낸 것은 다른 법 적용이 가능토록 공소장 변경 기회가 생긴 것이지만 이 역시 쉽지 않은 상황이다. 뒤늦게 공소장을 변경하면 공소권 남용을 이유로 재판이 제한될 수 있다.

형사처벌이 아닌 민사소송을 거치면 더 쉽게 문제가 해결될 것이란 주장이 나왔다. 구태언 법무법인 린 테크부문 대표변호사는 아주경제와 통화에서 "선진국은 주로 민사소송 중심으로 사건이나 문제 해결을 진행하는 편"이라며 "가령 딥페이크 음란물 민사소송 건에서 피고가 원고에 지불할 손해배상액으로 1억원 이상 규모의 경제적 형벌이 나온다면, 현행 처벌 수위보다 더 무거워질 수 있다"고 말했다.

이어 "음란물을 처음 제작한 원작자를 추적하기 어렵다"면서 "온·오프라인에 이를 유포하는 사람들도 최초 제작자 못지않게 죄가 중한 만큼 그들도 (민형사 소송에서) 처벌 대상에 반드시 포함돼야 한다고 본다"고 했다.

"기술적 보안 조치 강화해야"

AI 업계는 최근 기술 고도화 속도가 점차 빨라지면서 조만간 사진 2~3장으로 딥페이크를 활용할 수 있게 된다고 전망한다. 더 많은 딥페이크 악용 콘텐츠가 양산될 수 있다는 우려다. 딥페이크 게시물을 걸러내는 소프트웨어(SW) 등이 대량 유포를 막을 예방책으로 꼽힌다.

국내 기업들은 이러한 수요에 발맞춰 관련 SW를 속속 내놓고 있다. 생성 AI 기업 딥브레인AI는 서비스형 소프트웨어(SaaS) 기반 딥페이크 탐지 솔루션을 출시했다고 지난 12일 밝혔다. 이를 통해 누구나 장소에 관계 없이 딥페이크 영상·이미지·음성 등을 탐지할 수 있다고 강조했다.

이 솔루션은 종합탐지와 음성탐지 두 개 서비스를 제공하며, 한국어를 비롯해 영어·중국어·일본어 등 4개 언어를 지원한다. 이용자는 딥브레인AI 홈페이지에서 문의하기를 통해 구입해 사용하면 된다.

종합탐지 서비스는 조작된 이미지와 동영상을 탐지한다. 우선 가상 얼굴 생성 기능인 '페이스 제너레이션'과 특정인 얼굴로 교체하는 '페이스 스와프' '립싱크' 등 기술 적용 여부를 확인한다.

음성탐지 서비스를 통해 조작된 음성 탐지도 가능하다. 음성 주파수와 시간 등을 고려해 종합 분석하는 방식으로 음성 합성 여부를 판별한다. 아울러 AI를 활용해 자연스러운 목소리를 만드는 보코더 사용 여부 등도 확인할 수 있다.

장세영 딥브레인AI 대표는 "사람을 돕는 기술로 활용돼야 할 AI 기술이 신종 범죄 수단으로 악용되고 있어 매우 안타깝게 생각한다"며 "생성형 AI 대표 기업의 강점을 살린 완성도 높은 딥페이크 탐지 솔루션을 SaaS 형태로 전 세계에 적극 지원하며 글로벌 딥페이크 범죄 근절에 앞장설 것"이라고 말했다.

포털·플랫폼 기업에서 더 적극적으로 AI 딥페이크를 악용한 콘텐츠를 막아야 한다는 주장도 나온다. AI 기술 개발 SW는 이미 오픈소스로 공개돼 있는 만큼 정부가 AI 개발을 제한한다 하더라도 이를 완전히 막을 수 없기 때문이다. 인터넷 포털이나 소셜미디어 등 콘텐츠 유통 플랫폼을 운영하는 업체가 그 중심 역할을 해야 할 것으로 보인다.

AI 모델을 개발 중인 한 스타트업 대표는 "현재로선 정부·경찰이 개입한다 하더라도 전 세계적인 흐름인 AI 콘텐츠 제작을 막을 수는 없을 것"이라며 "포털·플랫폼 등 업체가 AI 악용 콘텐츠로 의심되는 이미지나 영상을 빠르게 판별해 대규모 유포를 막는 것이 실질적으로 효과가 있다고 본다"고 말했다.

또한 "특히 딥페이크 영상 생산물은 대량 배포를 위해 만들어지는 것이 많은데 배포 자체를 막으면 더 큰 부작용을 피할 수 있다"면서 "결국 AI 개발사뿐 아니라 포털·플랫폼 등 각 업체에 주어지는 책임이 더 많아지는 셈"이라고 설명했다.

이상직 법무법인 태평양 변호사는 "처벌은 처벌대로 하되 기술로 어떻게 딥페이크 음란물을 초기에 발견하고 유포를 막을 수 있을지에 대한 심도있는 고민이 필요하다"고 말했다. 이어 "경기가 좋지 않은 현시점에 딥페이크가 경제적 수익을 노리는 민생범죄로 전락할 수 있는 만큼 이를 막기 위한 기술적·제도적 장치를 추가하고 계속 업데이트해 나가는 것 중요하다"고 말했다.