AI 제작 콘텐츠에 표시 의무화…이상헌 의원, 콘텐츠산업법 개정안 대표 발의

허위 정보로 인한 혼란 방지 등 기대

[사진=게티이미지뱅크]

국회 문화체육관광위원회 소속 이상헌 의원(더불어민주당)은 인공지능(AI) 기술을 활용해 제작된 콘텐츠라는 것을 표시하도록 하는 '콘텐츠산업법 일부 개정안'을 22일 대표 발의했다.

최근 소셜미디어에서는 AI가 만든 유명 인사의 허위 이미지가 이용자들 사이에서 퍼지면서 화제가 됐다. 프란치스코 교황이 명품 패딩을 입고 산책하는 사진이 대표 사례다. 트럼프 전 미국 대통령은 지난 13일 본인 소셜미디어 계정에 CNN 앵커가 바이든 대통령을 비난하는 영상을 올렸는데, 이 역시 AI가 만든 가짜 영상이었다.

이처럼 생성AI가 만들어내는 이미지·영상·음성 등이 나날이 정교해지고 있다. 이에 이용자들이 해당 콘텐츠의 진위를 제대로 파악하기 어렵다는 게 의원실 측 설명이다. 제도적 개선이 시급하다는 업계 의견이 다수 제기되는 상황.

이번에 발의된 콘텐츠산업법 일부 개정안은 텍스트·이미지·음악 등 콘텐츠가 AI 기술을 이용해 제작된 경우, 이러한 사실을 표시하도록 하는 내용을 담았다. 개정안이 통과되면 이용자가 콘텐츠의 진위 여부를 알 수 있게 돼 허위 정보로 인한 사회적 혼란이 방지될 거란 기대다.

현재 유럽연합(EU)도 AI가 만든 콘텐츠에 표기를 의무화하는 규제안을 검토하고 있다. 미국은 AI로 만든 정치 광고 영상과 사진에 출처를 의무적으로 표기하도록 하는 법안을 최근 발의했다.

이 의원은 "AI 기술 발전 속도가 지나치게 빨라지면서 기술 오·남용으로 인한 부작용이 우려되고 있다. 국내도 AI 오·남용을 막기 위한 관리 방안을 마련해 AI 시대 규범적 틀을 확립해야 한다"고 강조했다.