가짜뉴스 '핀셋' 검증...KISO, 딥페이크 기반 허위조작정보 대응 강화

위법 게시물 관련 관계기관과 긴밀히 협력

한국인터넷자율정책기구(KISO) CI [사진=KISO]

한국인터넷자율정책기구(KISO)가 최근 사회적 이슈로 떠오르고 있는 ‘딥페이크에 의해 생성된 허위조작정보’에 대응하기 위한 논의에 착수했다. 

16일 KISO에 따르면, KISO 산하 신기술위원회는 최근 열린 회의에서 딥페이크 등 인공지능(AI) 기술 오남용 문제와 관련해 회원사들의 대응 현황을 공유하고 향후 대책을 논의했다. 학계 전문가들로 구성된 신기술위원회에는 네이버와 카카오를 비롯해 심심이·스캐터랩·튜닙 등 챗봇서비스 업체가 참여하고 있다.

신기술위원회는 특히 4월 국회의원 선거를 앞두고 딥페이크 기술을 이용한 허위조작정보가 확산할 가능성을 예의주시하며 구체적인 사례를 수집·분석하기로 했다. 또 설문조사 등 이용자의 의견을 수렴한 후 자율규제 측면에서 적절한 대응책을 마련해 나가기로 했다.

KISO는 선거의 공정성을 확보하기 위해 중앙선거관리위원회와 협력해 딥페이크 영상을 이용한 허위조작정보에 대해 명확히 확인된 경우, 빠르게 조치할 계획이다.

네이버는 신고센터 메인 페이지에 △선거 관련 허위정보 △딥페이크 생성물에 신고 영역을 신설해 이용자들이 최대한 거르고 대처할 수 있는 체계를 마련했다. 또 블로그, 카페 등에서 동영상을 게시하거나 딥페이크 관련 검색어 입력 시 딥페이크 활용에 관한 주의·안내 문구를 제공해 이용자를 보호하고 있다. 이 밖에도 뉴스 서비스에서는 AI 로봇이 생성한 기사를 이용자가 인지하도록 기사 본문에 해당 사실의 표기를 강조하고 있다.

카카오는 이용자들이 스스로 쉽게 AI 저작물을 파악하는 데 도움이 되는 방향으로 정책과 기술적 조치 방안을 마련했다. 카카오는 언론사에서 AI를 이용해 생성한 기사 상단에 “AI가 생성한 기사입니다”라고 노출해 이용자가 쉽게 인지할 수 있도록 했다.

생성 AI 이미지 생성 모델 ‘칼로’에는 비가시성 워터마크를 부착하는 기술을 도입했다. 또 키워드 검색, 배너 등을 활용한 캠페인을 통해 이용자의 주의를 환기하고, 딥페이크 신고 요령 등을 자세히 안내할 예정이다.

SK컴즈는 ‘AI챗’ 서비스를 이용한 이미지 생성 시 주요 정치인의 성명에 관한 ‘검색어 제한 조치’를 통해 선거 관련 딥페이크 제작을 방지하는 방안을 마련한다. 또 선거 관련 허위 정보 신고 채널 운영과 서비스 내 딥페이크 주의 안내 문구를 표시해 이용자의 주의를 환기할 예정이다.

이재신 KISO 신기술위원회 위원장은 “온라인 환경에서 사실로 오인 가능한 허위조작정보가 확산되면 사회 신뢰를 저하시키고, 수많은 콘텐츠의 진위를 판별하는 것이 더욱 어려워질 수 있다”며 “AI 기술 오남용으로 인한 사회적 문제에 대응하기 위한 연구를 활성화 해나갈 것”이라고 말했다.