고학수 개인정보위 위원장 "생성AI발 가짜 정보, 내년 총선 악용 우려"

개인정보위 외신 대상 브리핑 실시

AI 관련 글로벌 거버넌스 마련 주장

다음달 AI·데이터 관련 정책 방향 발표

고학수 개인정보위 위원장(가운데)이 지난 20일 서울 중구 프레스센터에서 외신 기자단을 대상으로 AI와 데이터 프라이버시 관련 정책 방향을 브리핑 하고 있다.[사진=개인정보위]

고학수 개인정보보호위원회(개인정보위) 위원장이 인공지능(AI) 챗봇 '챗GPT' 대두로 급부상한 생성AI 기술이 정치적으로 악용될 수 있다고 우려했다. 이용자가 단어 몇 개만 입력하면 실제 일어나지 않은 일을 꾸며 촬영 사진과 같은 이미지를 만들기 때문이다. 국내는 내년 4월 제22대 국회의원 선거를 앞두고 있는 만큼, 이에 대한 대비책이 필요하다는 지적이 나온다.

고 위원장은 오는 23일 개최되는 'AI와 데이터 프라이버시' 주제 콘퍼런스를 앞두고 지난 20일 진행된 외신 대상 브리핑에서 이같이 말했다. 생성AI는 텍스트·이미지 등 기존 콘텐츠를 활용해 유사 콘텐츠를 새로 만들어 내는 기술로, 최근 국내외 빅테크 기업들의 투자가 대거 이뤄지는 분야기도 하다.

고 위원장은 최근 미국에서 발생한 AI 가짜 뉴스 사례를 언급했다. 지난달 22일(현지시간) 소셜미디어 트위터에서 특정 매체 아이디를 가진 운영자가 미 국방부 청사가 폭발했다고 주장하며 그 증거로 한 장의 사진을 게재했다. 이 게시물은 여러 이용자 계정을 통해 온라인에 빠르게 퍼졌는데, 전문가 확인 결과 해당 사진은 AI가 만든 가짜였다. 이 여파로 미 주식 시장은 크게 출렁였다. CNN에 따르면 이번 국방부 관련 조작 뉴스 등 요인으로 다우존스30 산업평균지수는 한때 80포인트 하락했다. 고 위원장은 "내년 봄 총선을 앞둔 한국에서도 생성AI 등을 악용한 가짜 뉴스나 조작 이미지 등이 유포될 수 있다"며 "이러한 잘못된 정보는 선거에 큰 영향을 미칠 가능성이 높다"고 우려했다. 

그는 국가 간 협업을 통해 문제 해결에 나서야 한다고도 주장했다. 챗GPT와 같은 초국가적 서비스가 등장하면서 개별 국가의 규제만으론 한계가 있어서다. AI에 대한 글로벌 공조 체계를 구축할 필요성이 높아지는 이유다. 생성AI 기반 서비스는 업무 편의성 등 장점으로 대규모 이용자를 확보했다는 점도 고려해야 할 요소다. 고 위원장은 "한 국가의 규제·감독 기관 판단으로 (생성AI 기반 챗봇 등) 서비스를 사용하지 못하게 막는다면 소비자 입장에선 손해를 입는다고 느낄 수 있다"며 "국제적으로 관련 대응책을 함께 고민하고 만들어 갈 시점"이라고 강조했다.

개인정보위는 이르면 다음달 초 생성AI를 포함한 AI와 데이터 관련 당국의 정책 방향(로드맵)을 발표한다. 개인정보 보호 측면에서 기업이 마련해야 할 안전장치 등 원칙을 담았다는 것이 개인정보위 설명이다. 개인정보위는 "업계와 시민단체 등 의견을 수렴해 올 하반기 서비스 영역별 가이드라인을 별도 마련할 계획"이라고 밝혔다.