배경훈 부총리 "AI 보안 위협 대응하려면 고도화한 프론티어 모델 필요"

16일 청와대 대통령 업무보고

배경훈 부총리 겸 과학기술정보통신부 장관이 16일 청와대 영빈관에서 열린 대통령 업무보고에서 발언하고 있다. [사진=연합뉴스]

배경훈 부총리 겸 과학기술정보통신부 장관이 인공지능(AI)으로 인한 보안 위협에 근본적으로 대응하려면 보안 특화 모델을 넘어 고도화된 프론티어 모델을 개발해야 한다고 강조했다.

배 부총리는 16일 청와대에서 열린 대통령 업무보고에서 "AI로 인한 보안 문제에 근본적으로 대응하기 위해서는 보안 특화 모델뿐 아니라 고도화된 프론티어 모델 개발이 필요하다"고 밝혔다.

이날 이재명 대통령은 앤트로픽의 미토스와 같은 해외 AI 서비스는 국내 통제권 밖에 있는 만큼 언제든 이용이 제한되거나 차단될 가능성을 염두에 두고 독자 AI 역량을 확보해야 한다고 주문했다. 

이 대통령은 AI 보안 체계 강화도 당부했다. 이 대통령은 "보안은 언제든 뚫릴 수 있다는 전제로 대응해야 한다"며 "기업의 자체 점검에만 의존하지 않는 상시 점검 체계를 마련하라"고 지시했다.

이에 배 부총리는 "현재 독자 AI 파운데이션 모델 프로젝트에 보안 데이터를 추가로 학습시켜 보안 특화 모델을 개발하는 방안을 연내 추진하고 있다"며 "다만 보안 위협에 근본적으로 대응하기 위해서는 특정 분야에 특화된 모델을 넘어 전반적인 추론·분석 역량을 갖춘 고도화된 프론티어 모델이 필요하다"고 답했다.

이 대통령은 기업과 공공기관의 동의 없이도 실제 공격과 유사한 방식으로 보안 취약점을 점검할 수 있는 체계를 만들라고 주문했다. 

최우혁 과기정통부 정보보호네트워크정책실장은 "현재는 기업의 동의를 받아 과기정통부 소관 2000여개 기업의 서비스를 점검하고 있으며, 민간기업과 공공기관 10곳을 대상으로 시범사업을 진행하고 있다"고 설명했다.

이어 "현행 제도에서는 법적 근거가 없어 동의 없이 시스템에 침투해 취약점을 점검하기 어렵다"며 "시범사업이 끝난 뒤에는 사전 동의가 없더라도 실제 공격자의 관점에서 취약점을 확인할 수 있는 환경을 마련하기 위해 관련 제도와 법적 기반을 준비하고 있다"고 덧붙였다.