도마에 오른 'AI 워싱'...당국, 허위·과장 광고 제재 나선다

네이버의 하이퍼클로바 홍보 이미지 [사진=네이버]

인공지능(AI) 기술이 급속히 발달하고 투자업계의 관심이 집중되면서, 실제로는 AI 기술을 사용하지 않거나 그 적용 범위가 제한적임에도 불구하고 허위·과장된 광고로 제품을 홍보하는 사례가 늘어나고 있다. 이에 따라 당국이 제재 준비에 착수한 것으로 알려졌다.
 
이른바 ‘AI 워싱(AI Washing)’이라 불리는 이러한 허위·과장 광고는 글로벌 빅테크 기업에서도 빈번히 발생하고 있으며, 이는 소비자와 투자자들의 신뢰를 저하시킬 뿐 아니라 AI 시장 전반에 부정적인 영향을 미칠 수 있다는 우려를 낳고 있다.
 
15일 IT 업계에 따르면 공정거래위원회(이하 공정위)는 AI 관련 제품의 허위·과장 광고를 규제하기 위한 법 적용 범위를 검토 중이다. AI 기술의 광범위한 적용 가능성 때문에 허위·과장 광고의 기준이 명확하지 않아 이를 정립하려는 것이다.
 
국내 사례로는 네이버의 ‘하이퍼클로바X’와 SK텔레콤의 ‘에이닷’이 있다. 두 회사는 자사의 AI 기술을 홍보하면서 실제로 제공하지 않는 기능을 연출하는 등 과장 광고를 했다는 이유로 공정위가 위법성 검토를 한 바 있다. 다만 AI 기술의 과장광고 범위 등이 명확하지 않고, 미래 기술을 연출한 것이라는 기업의 입장을 받아들여 제재로는 이어지지 않은 것으로 전해진다.

 
공정위는 AI 기술의 적용 범위, 외부 검증 없는 허위 주장, 과장된 성능 홍보 등에 대한 명확한 기준을 마련해 강력히 제재할 방침이다.
 
AI 워싱은 해외에서도 두드러지게 나타나고 있으며, 처벌 사례도 있다.
 
아마존은 무인 매장 시스템 ‘아마존 고(Amazon Go)’에서 AI 기술로 결제가 자동화된 것처럼 홍보했으나, 실제로는 약 1000여명의 외주 인력이 매장 영상을 수동으로 검수해 결제가 이뤄진 것으로 드러났다. 해당 논란이 확산하면서 아마존의 자동 결제 시스템은 지난해 4월 폐지됐다.
 
미국의 채용 스타트업 준코(Joonko)는 AI 기반 추천 시스템을 내세워 약 2100만 달러(약 280억원)의 투자를 유치했으나, 실제로는 AI 기술을 사용하지 않았으며 고객 정보와 지원자 수를 부풀린 혐의로 미국 증권거래위원회(SEC)와 법무부의 기소를 받았다.
 
AI 워싱으로 인해 거액의 벌금을 부과받은 사례도 있다. SEC는 투자 자문사 델피아(Delphia)와 글로벌프레딕션스(Global Predictions)가 AI와 머신러닝을 활용한다고 광고했지만 실제로는 이를 사용하지 않은 것이 밝혀져 40만 달러(약 5억4500만원)의 벌금을 부과했다.
 
의약계에서도 AI 허위 광고로 인한 소비자 피해가 발생하고 있다. AI로 가짜 의사를 연출하는 등 수법으로 약품의 성능을 과장하는 방식이다. 지난해 쿠팡에서 판매된 A사의 건강기능식품은 이런 수법으로 커큐민 제품군에서 판매 1위를 기록했으나, 적발된 후 판매가 중단됐다.
 
한 IB 업계 관계자는 “AI에 대한 관심과 투자금이 몰리면서 자사의 제품을 과대포장해 투자금을 유치하려는 스타트업이 증가하고 있다”며 “이로 인해 투자자들의 신뢰가 저하되고, 결과적으로 AI 산업 전체의 투자 규모 감소로 이어질 위험이 있다”고 지적했다.