'AI 위변조, AI로 잡는다' 오픈AI, 선거의 해 맞아 이미지 식별 도구 개발

오픈AI, DALL-E로 만든 이미지 식별 도구 출시

올트먼, "선거 등 민감 사안에 'AI 생성' 표식 달자"

오픈AI, 메타처럼 AI 생성물에 표식...MS와 기금마련

샘 올트먼 오픈AI 최고경영자(CEO) [사진=AFP·연합뉴스]

# 지난달 말 인도의 인기 배우 아미르 칸과 란비르 싱이 41초짜리 영상에 등장해 나렌드라 모디 인도 총리를 작심 비판한다. 현재 인도 총선이 진행 중인 가운데 이들은 모디 총리가 두 번의 임기 동안 공약을 못 지켰고, 경제 문제도 해결 못했다고 말한다. 심지어 상대 후보를 뽑으라는 내용도 담겼다. 이 영상은 소셜 미디어에서 50만 회 이상 조회수를 기록했는데, 모두 딥페이크(인공지능을 활용해 기존 인물 얼굴과 특정 부위를 합성한 영상 편집물) 기술로 짜깁기한 가짜였다.

11월 미국 대선 등 올해 '세계 선거의 해'를 맞아 생성형 인공지능(AI) 기술이 비방전에 악용되는 문제가 주요 화두로 떠오르고 있다. 7일(현지시간) 챗GPT 개발사 오픈AI는 '선거' 등 민감 사안과 관련된 AI 작성 콘텐츠를 식별 가능한 도구를 개발했다고 발표했다. 샘 올트먼 오픈AI 최고경영자(CEO)도 AI 이미지 위·변조 문제에 적극 대응 의사를 밝힌 가운데, 치열해진 AI 경쟁 속에 정보 생성만큼 '정보 식별'이 중점으로 부각될 모양새다.

오픈AI가 개발한 이 도구는 자사의 AI 텍스트 투 이미지(글자를 이미지로 변형) 프로그램인 DALL-E 3로 생성된 이미지를 식별할 수 있는 프로그램으로, 현재 테스트 중인 가운데 곧 출시 예정으로 알려졌다. 이 도구는 내부 테스트 결과, DALL-E 3로 생성된 이미지 약 98%를 정확히 식별한 걸로 나타났다. 뿐만 아니라 이미지에 대해 압축, 자르기, 채도 전환 등의 세부 조정을 거쳐도 기존 생성물의 인식이 가능한 것으로 알려졌다.

또한 오픈AI는 AI가 생성한 콘텐츠 식별이 쉽도록 AI 출력물에 제거하기 어려운 디지털 고유 인식 값을 삽입하겠다고 덧붙였다. 아울러 오픈AI는 구글과 마이크로소프트(MS), 어도비 등이 포함된 업계 그룹을 형성해 AI 생성물의 출처를 추적하는 데 필요한 표준 틀을 구축할 계획이다.
 

7일(현지시간) 샘 올트먼 오픈AI 최고경영자(CEO)가 브루킹스연구소 온라인 대담에서 발언하는 모습 [사진=브루킹스연구소]

오픈AI의 이런 행보에는 AI 정보의 진위성에 대한 문제 의식이 담겨 있다. 올트먼은 이날 브루킹스연구소 온라인 대담에서 자사의 AI 생성물 식별 도구 출시를 알리며 '정보 식별'의 중요성을 강조했다. 그는 특히 '선거'와 같은 민감한 사안 관련 콘텐츠의 경우 AI로 생성되지 않았다는 걸 확인할 방법을 마련해야 한다고 강조했다.

예컨대 선거 후보자 간 토론 시 과거 발언의 진위를 놓고 다툰다면, AI로 생성되지 않았다는 표식(labeling)이 있는 특정 영상물 등을 근거로 제시한다면 오해가 풀릴 것이라는 설명이다. 그는 이날 "특정 종류의 메시지(선거 관련)에 대해서는 미래의 합리적 가능성이 있다"며 "선거에 참여한 누군가가 정말 중요한 메시지가 있다면 암호화된 방식으로 서명하고 그걸 증거로 보여주자는 아이디어"라고 설명했다.

올트먼은 AI 딥페이크 등 오용이 전 세계 선거철을 맞아 중대한 문제라고 강조했다. 그는 "우리가 걱정하는 것은 다행스러운 일이고, 이는 업계의 경계심으로 이어지고 있다"고 말했다. 그는 이런 우려에 대비해 메타와 오픈AI 등이 기술적 대안을 구축해 왔다고 덧붙였다. 지난 2월 메타는 자사 SNS 페이스북과 인스타그램에 AI 생성 콘텐츠에 표식을 붙일 계획이라고 밝힌 바 있다. 당시 메타가 공개한 시범 서비스화면을 보면 AI로 제작된 이미지에 별표와 함께 'AI 인포'라는 꼬리표를 붙였다.
 

메타가 공개한 AI 생성 표식(lable)이 달린 이미지 [사진=메타 블로그]

미국 온라인 매체 악시오스에 따르면 메타 외에도 구글과 틱톡 등도 모두 자체 AI 도구로 만든 콘텐츠에 자동으로 표식을 지정할 계획으로 알려졌다. 구글 산하의 유튜브는 합성된 이미지를 표시하도록 했고, 틱톡 역시 수정된 이미지, 오디오, 비디오에 표식을 넣게 했다. 다만 자체 앱에서 제작한 AI 콘텐츠가 아닌 경우 표식을 넣는 게 어렵다는 한계도 지적된다. 

미국 정치권도 이 문제에 관심을 두고 있다. 미 의회가 검토 중인 법안은 AI 생성 복제물이 개인의 목소리와 초상을 보호하도록 하는 조치를 담고 있다. 조 바이든 미국 대통령도 지난해 AI 관련 행정명령을 내려 연방기관이 AI업체에 AI 생성물에 표식을 붙이도록 지도할 수 있게 했다.

이외에도 오픈AI는 마이크로소프트(MS)와 함께 AI 교육 지원에 필요한 200만 달러 규모의 기금을 조성하겠다고도 전했다. 전날 'MAI-1'으로 불리는 자체 초거대 AI 모델 개발 소식이 전해진 MS도 정보 식별에 노력을 기울일지 주목된다. IT 전문 매체 디 인포메이션에 따르면 MS는 자체 초거대 AI 모델을 구축해 오픈AI에 기술적으로 의존하지 않겠다고 결정했다.

따라서 빅테크들이 자체 AI모델 구축 전쟁에 나선 가운데 올해 세계 선거의 해를 맞아 정보 식별에 대한 관심이 더욱 높아질 것으로 예상된다.