[기자의 눈] 딥페이크 범죄 예방, 추가 기술 규제로 이어져선 안돼

[사진=게티이미지뱅크]

최근 딥페이크 범죄가 사회 전반으로 확산하면서 인공지능(AI) 관련 산업에 대한 규제 논의가 활발하게 이뤄지고 있다. 딥페이크는 AI로 만든 진짜와 같은 가짜 콘텐츠를 뜻한다. 지난달 26일에는 딥페이크 성범죄 방지법이 국회 본회의를 통과해 딥페이크 성 착취물을 제작하는 것은 물론, 알면서도 소지하거나 시청하는 행위까지 처벌하도록 했다.
 
이는 국민 보호를 위해 꼭 필요한 법적 조치다. 미래 기술이 급성장 중인 때에 이를 악용한 범죄는 강력 처벌로 이어진다는 경계심을 사회 전반에 확실히 각인시키는 계기가 될 수 있다. 지난 8월 말 한 중학생이 만든 딥페이크 성 착취물 피해 학교 명단이 사회관계망서비스(SNS)인 X(옛 트위터) 등에 공유되면서 전국이 발칵 뒤집혔다.
 
이전에도 딥페이크를 악용한 신종 범죄에 대해 대부분 알고는 있었지만, 심각성은 공유되지 않았다. 이로 인해 피해 학생은 심각한 인격 유린을 겪어야 했고, 법은 보호막이 돼주지 못했다. 하지만 이번 사태로 전 국민이 범죄 위험성을 인식하고, 이를 어기면 강력 처벌할 법적 근거가 마련됐다.
 
그러나 업계에선 이와는 별개로 이러한 분위기가 자칫 기술 자체에 대한 규제로까지 이어지지 않을까에 대한 우려가 크다. 이는 ‘AI 산업’ 발전을 막는 걸림돌이 될 수 있다.
 

현재 딥페이크 기술은 다양한 분야에서 순기능으로 활용되고 있다. 의료 분야의 3차원(3D) 이미지 합성, 개인정보보호, 고인 추모를 위한 가상인간(버추얼 휴먼) 등이 대표적이다. 이외에도 증강현실(AR), 가상현실(VR), 메타버스(가상공간) 등 다양한 미래 산업과 결합해 AI 범용성을 높일 잠재력도 갖고 있다.
 
이번 논란에서 가장 중요한 건 딥페이크 관련 문제가 기술 자체가 아닌, 기술 악용으로 인해 발생했다는 사실을 정확하게 인지하는 것이다. 기술은 그 자체로 가치 중립적이며, 사회적 문제는 기술의 오용에서 비롯된 것이다.
 
만약 이러한 본질을 뒤로한 채 사회적 분위기에 휩쓸려, 기술 자체에 대한 과도한 규제로 연결되면 AI 산업 발전을 저해하는 요인으로 작용할 게 명확하다. 예컨대 민간 플랫폼 기업에 과도하고 직접적인 의무를 강제하면 기업의 혁신 의지가 위축될 건 자명하다. 이를 개인에게 똑같이 적용해도, 개인의 창의적 기술 활용이 제한될 수 있다.
 
따라서 당분간은 추가 법률 규제를 마련하는 것보다는, 현행 규제 집행 체계의 실효성을 높이는 데 집중할 필요가 있어 보인다. 일단 딥페이크 범죄에 대한 사법부의 확실한 처벌 의지를 보여주는 게 중요하다. 그간 딥페이크 범죄 관련 처벌은 대부분 솜방망이 수준에 그쳤다.
 
범죄 예방을 위한 기업들의 자체 노력도 병행돼야 한다. 현재 네이버와 카카오는 딥페이크 성범죄 영상물 또는 이미지를 신고할 수 있는 채널을 개설했다. 이를 방송통신심의위원회와 연계해 실용성도 키웠다.
 
딥페이크가 미래 기술이란 사실은 분명하다. 기술의 순기능은 살리면서 악용을 방지하기 위한 균형 잡힌 접근이 필요한 시점이다.