[신 AI·Tech 혁명] 개발 시장도 中 오픈소스가 점령...정보 유출·보안 위협 '경고등'

딥시크, 내부 데이터 노출…100만건 민감 정보 유출 가능성

보안 취약성 높아…중국 정부 검열 의혹도

미국, 편향성·프라이버시 침해 등 AI 윤리 문제 대두

[사진=연합뉴스]

정부 주도로 오픈소스화를 추진하고 있는 중국산 인공지능(AI) 모델이 AI 생태계를 흔들고 있다. 기업과 개발자들을 대상으로 높은 확장성을 보이고 있는데 동시에 중국산 AI모델 대중화에 따른 부작용 우려도 커지고 있는 상황이다.

중국 정부의 검열 의혹은 물론 높은 보안 취약성과 개인정보 유출 등 여러 위험이 도사리고 있어 중국이 촉발한 AI 생태계 대전환에 대해 신중한 접근이 필요하다는 지적이다. 

2일 IT(정보통신기술) 업계에 따르면 최근 중국의 AI 스타트업 딥시크의 내부 데이터베이스가 노출되는 사고가 발생했고 민감 데이터 약 100만건이 유출됐을 가능성이 제기됐다.

글로벌 보안 기업 위즈는 지난달 30일(현지시간) 자사 블로그를 통해 "딥시크의 외부 인프라에 대한 보안 평가를 진행하는 동안 클릭하우스 데이터베이스가 인터넷에 완전히 노출된 것을 발견했다"고 설명했다. 클릭하우스 데이터베이스에는 사용자 채팅 기록, 응용프로그램인터페이스(API) 비밀키, 백엔드 세부 정보·운영 메타데이터 등 민감 정보를 포함한 100만건 넘는 로그 항목이 보관돼 있었다. 

중국 AI 모델의 보안 취약성에 대한 지적은 잇따르고 있다. 위즈의 나글리 연구원은 "몇 분 만에 인증 없이도 내부 데이터에 접근할 수 있는 권한을 포함해 데이터베이스 운영을 완전히 통제할 수 있었다"며 "이는 최종 사용자에게도 중대한 위험을 초래한다"고 경고했다. 

이로 인해 기업에서 모델을 활용하기엔 부적합하다는 지적도 있다. 미국 AI 보안업체 히든레이어는 보고서를 통해 "딥시크 R1에서 단순한 탈옥부터 잘못된 정보 생성까지 다양한 보안 취약성이 발견됐고, 통제된 환경의 연구 목적이 아니라면 프로덕션 환경에서는 이 언어 모델을 사용하지 않는 것을 권장한다"고 말했다. 

중국 정부의 검열 의혹도 날이 갈수록 짙어지고 있다. 영국의 가디언 등 다수 매체에 따르면 영어로 중국의 정치·사회·인권 등과 관련한 질문에 실시간으로 답변을 바꿨다. 초기에는 중국 정부의 사상에 반하는 답변을 하다가 어느 순간 답변을 삭제하고 다른 화제로 돌린다거나 중국 지도자나 사회주의 체제, 중국을 둘러싼 각종 이슈에 대한 즉답은 피했다.

이는 AI 기술 관리 감독을 강화하는 중국 정부의 영향으로 풀이된다. 중국 정부가 2023년 8월부터 시행 중인 '생성형 AI 서비스 관리 잠정 방법'에 따르면 AI 서비스는 사회주의 핵심 가치를 반영해야 하고 △국가 권력·사회주의 체제 전복 △국가 분열 선동 △경제·사회 질서 교란 위험 등을 포함하지 않도록 규정한다.

이러한 우려가 확산되자 전 세계 기업·기관들은 딥시크 접속을 차단하는 분위기다. 사이버보안 업체 아르미스는 자사 고객사 70%가 딥시크 접속 차단을 요구했고, 네트워크 보안업체 넷스코프 역시 고객사 52%가 딥시크 접속을 차단했다고 설명했다. 회사 정보가 중국에 무단으로 유출될 수 있다는 우려에서다.

또 딥시크의 개인정보 보호 약관은 이용자 데이터가 중국 내 서버에 저장하도록 명시하고 있는데, 이는 해당 정보가 중국 법 집행기관이나 공공기관에 공유될 수 있다는 의미로도 해석되고 있다. 중국 국가정보법 7조에 따르면 모든 개인과 조직은 국가 정보기관의 정보활동에 협력해야 하는 의무를 두고 있다. 

미국 주도의 오픈소스 AI 모델 공개 프로젝트에 대한 우려도 함께 제기된다. 트럼프 행정부가 국가 안보나 경제 및 건강상 위험이 되는 AI 모델 개발에 대한 규제를 제한하도록 하는 규정을 폐기하면서 사실상 무제한적인 AI 개발 환경이 조성됐기 때문이다. 이에 따라 기업의 AI 개발에 간섭하지 않겠다는 트럼프 정부에선 편향성, 프라이버시 침해 등 AI 윤리 문제가 확산될 가능성이 제기된다.