사진 하나로 영상 '뚝딱'…딥페이크·저작권 침해 등 확산 우려

오픈 AI 소라 등 보다 우수…내년 인스타그램 등 적용

이용자 사진으로 영상 제작…딥페이크 우려 확산

해외 동영상 플랫폼 국내 제재 미흡도 문제

[사진=게티이미지뱅크]

오픈AI와 구글에 이어 메타가 최근 '무비 젠'을 공개하면서 동영상 생성 인공지능(AI) 경쟁이 치열해질 전망이다. 메타의 '무비 젠'은 인스타그램에 탑재될 예정이어서 이용자 접근성이 한층 높아질 것으로 보인다. 

이런 가운데 국내에서 딥페이크 불법 영상물 유포와 저작권·초상권 침해 등이 심화될 수 있다는 우려가 나온다. 딥페이크 범죄가 주로 사회관계망서비스(SNS)를 통해 퍼지고 있을 뿐만 아니라 문제가 발생하더라도 국내에서는 해외 동영상 플랫폼에 대한 제재 수단이 미흡하기 때문이다. 

7일 정보기술(IT)업계에 따르면 메타가 지난 4일(현지시간) 공개한 동영상 생성 AI '무비젠'은 내년 인스타그램, 왓츠앱 등 메타의 소셜 플랫폼을 통해 이용할 수 있게 된다. 전반적인 품질 측면에서 오픈 AI의 '소라' 등 경쟁사 모델보다 우수하다고 회사 측은 설명했다.

무비 젠은 기존 서비스와 달리 텍스트뿐만 아니라 이용자 이미지를 넣은 영상을 만들어 준다는 차별적 특징이 있다. 이용자가 본인 사진을 입력하고 '공원에서 산책하고 있는 모습을 그려줘'라고 하면 명령어에 따라 이용자 모습이 합성된 영상이 만들어진다. 

최근 전 세계적으로 딥페이크 피해가 확산되고 있는 가운데 메타의 서비스가 이런 상황을 심화할 수 있다는 지적이 나온다. SNS를 통해 누구나 사진 하나로 손쉽게 합성된 영상을 제작할 수 있기 때문이다. 미국 IT 매체 아스테크니카는 "메타의 무비 젠을 이용하면 사진 한 장으로 딥페이크 허위 영상물을 만들 수 있다"면서 "이 기술은 역사적 맥락을 조작하거나 딥페이크 성착취물 생성 등 수많은 방식으로 악용될 가능성이 있다"고 지적했다. 

이러한 상황을 우려해 코너 헤이즈 메타 생성 AI 부사장은 "안전과 책임에 관한 정말 중요한 문제들을 해결하고 있다"며 "향후 발생할 수 있는 딥페이크 허위 영상물이나 선정적이고 폭력적인 영상을 제작하지 못하는 데 가장 중점을 두고 작업 중"이라고 말했다. 

창작자 저작물을 AI가 무단으로 학습하는 등 저작권 침해 우려도 크다. 영국 매체 가디언은 "크리에이터들은 다른 사람들이 저작물을 학습한 것으로 보이는 시스템을 허가 없이 수용하는 것에 대해 우려하고 있다"면서 "지난 5월 배우 스칼릿 조핸슨은 오픈AI의 음성 챗봇이 본인 목소리를 무단으로 모방했다는 의혹을 제기하면서 불안감이 커졌다"고 언급했다. 

메타 측은 "각 모델에 대한 위험을 개별적으로 고려해 무비 젠은 기존 메타의 '라마' 시리즈처럼 오픈 소스로 공개할 가능성은 낮다"고 말했다. 또 무비 젠은 현재는 영화 제작자를 포함한 소수의 외부 파트너에게만 우선 제공되는데 이들과 직접적으로 협력하고 있다고도 했다. 

이와 별개로 국내 이용자가 많은 해외 동영상 플랫폼에 대한 제재가 미흡한 것도 문제다. 국회 과학기술정보방송통신위원회 소속 최형두 의원이 최근 방송통신심의위원회에서 제출받은 자료에 따르면 대형 동영상 플랫폼에서 불법 제작물이 지속적으로 생성되고 있지만 지난 5년간 삭제 심의 건수는 52건에 불과했다. 저작권 침해와 관련한 방통위 심의 건수는 지난 5년 동안 △인스타그램 2건 △유튜브 4건 △틱톡 46건이었다. 

이에 대해 최 의원은 "생성 AI를 활용하면 단 1분 만에 K-콘텐츠를 양산형 불법 쇼트폼으로 제작할 수 있다"면서 "중국 등 해외에서는 이를 악용해 저작권 침해와 금전적 손해를 끼치는 사례가 증가하고 있다"고 우려했다. 이어 "해외 사업자가 운영하는 대형 동영상 플랫폼은 콘텐츠 삭제에 대한 강제성이 없어 국내 심의기구 영향력이 제한적"이라고 강조했다.