[단독] "아이유 밤양갱, AI로 만들었습니다" 표기 의무화…정부‧과방위, 인공지능법 수정키로

국회 계류 '인공지능법' 수정 방향 가닥

생성형은 워터마크 등 고지‧표기 의무화

"진흥‧규제 균형있게"…안전성 약화 우려도

가수 아이유가 공연하는 모습. AI가 그의 목소리를 학습해 아이유처럼 부른 노래들이 인기를 얻고 있다. [사진=EDAM 엔터테인먼트]

정부가 국회 과학기술정보방송통신위원회(과방위)에 계류 중인 인공지능법(인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안)을 수정해 ‘생성형 AI’가 만든 결과물에 그 사실을 표기하도록 의무화하기로 했다.
 
20일 정부에 따르면 과학기술정보통신부는 이 같은 수정안을 만들어 21대 국회 회기 중 본회의 처리를 추진한다. 유럽의 워터마크 조항 등 ‘EU AI법’ 일부를 차용한 것이다. 다만 유럽과 달리 처벌조항은 넣지 않는 등 규제보다 산업 진흥에 방점을 찍은 법안 전체 방향은 그대로 유지하기로 했다.
 
엄열 과기부 인공지능기반정책관(국장)은 전날 법무법인 율촌이 개최한 ‘인공지능(AI) 시대의 프라이버시 이슈와 과제’ 세미나에 참석해 기업 관계자 등 참석자를 대상으로 이런 내용을 공개했다.
 
엄 국장은 “챗GPT 등 생성형 AI가 나오면서 그 위험성에 대한 우려가 커지고 있다”며 “이른바 생성물에 대해 이용자에게 투명하게 알려야 한다는 요구가 많아 이를 반영했다”고 밝혔다.
 
그는 “챗GPT 등이 만든 생성물임을 사전에 고지하고, 워터마크 등을 넣는 등 표기를 의무화하는 내용을 넣었다”고 했다.
 
이에 따라 인공지능법안 제27조에 ‘고지 및 표시’ 조항을 넣어 생성형 인공지능에 대한 정의를 명확히 한다. “글‧소리‧그림‧영상 등의 결과물을 다양한 자율성의 수준에서 생성하도록 만들어진 인공지능”으로 규정하고, 서비스 및 제품이 생성형 AI 기반으로 운용된다는 점을 표시할 의무를 부과하기로 한 것이다.

AI로 만든 결과물이 혼선을 일으키고, 특히 아이유 김광석 등의 노래가 AI로 만들어지면서 가요계가 우려하고 있는 점이 고려됐다.
 
그러나 유럽 AI법처럼 4단계 등으로 나눠 위험한 인공지능을 강력하게 규제해야 한다는 방안은 받아들이지 않기로 했다. 대신 의료기기, 에너지 등 분야의 인공지능 중 사람의 생명‧신체, 기본권의 보호에 중대한 영향을 미칠 우려가 있는 ‘고위험 인공지능’에 대해서만 사업자에 ‘신뢰성 및 안전성 확보’ 의무를 부과한다. 유럽과 달리 처벌조항도 넣지 않아 AI산업 진흥에 방점을 찍었다.
 
정지연 한국소비자연맹 사무총장은 “정부가 규제 조항을 넣어 일명 ‘톤 다운’을 하겠다지만, 여전히 산업 진흥이 지나치게 강조되는 데 대한 우려가 있다”며 “고위험 인공지능에 대해서만 규제하는 것으로 돼 있는데, ‘멍청한 인공지능’은 더 위험할 수 있다는 의견도 많아 안전성에 대한 진지한 고민이 필요하다”고 밝혔다.
 
세부적인 내용에 대한 수정‧보완은 계속 이뤄질 것으로 보인다. 국회 과방위는 인공지능 관련 의원발의안 7개를 합친 법안(대안)을 법안소위에서 처리했고, 각계 우려가 제기되면서 정부와 과방위원들이 수정 작업을 해왔다.
 
다만 총선을 치르고 22대 국회가 개원을 앞둔 시점이어서 5월 임시국회가 열릴지, 또 국회 과방위가 법안을 본회의까지 넘길 수 있을지는 미지수다. 물론 21대 국회 종료로 법안이 자동 폐기된다 하더라도 과기부가 법 제정안의 내용을 수정한 만큼 이런 방향으로 재추진될 가능성이 크다. 이렇게 되면, 한국 인공지능법도 ‘EU에서 통과된 AI법의 영향을 받을 수밖에 없을 것’이란 관측과 다소 다른 결과로 이어질 수 있다.

 ※법률전문미디어 아주로앤피의 더 자세한 기사를 보려면 이곳을 클릭하세요