제15회 정보보호의 날 화두는 'AI'…사이버전도 'AI 대 AI' 시대

"AI가 공격도 방어도 바꾼다"…글로벌 보안 전문가들 한목소리

7월 정보보호의 달 맞아 민관 총출동…AI 보안 전략 공유

이상근 고려대학교 교수가 8일 서울 신라호텔에서 열린 제15회 정보보호의 날 기념식에서 부총리 표창을 받고 있다.[사진=백서현 기자]

생성형 인공지능(AI)이 사이버 공격의 속도와 정교함을 끌어올리면서 정보보호의 패러다임도 'AI 대 AI' 경쟁이 되고있다. 올해 정보보호의 날에서는 AI를 활용한 공격이 국가 기반시설과 산업 전반의 새로운 위협으로 떠오른 만큼, 방어 역시 AI 기반 대응 체계를 갖춰야 한다는 메시지가 핵심 화두로 제시됐다.

8일 과학기술정보통신부는 서울 신라호텔에서 제15회 정보보호의 날 기념식을 개최했다. 정부는 7월을 '정보보호의 달'로 운영하며 정보보호 인식 제고와 산업 경쟁력 강화를 위한 다양한 행사를 진행하고 있다. 올해 기념식은 'AI 시대의 사이버보안'을 주제로 국내외 전문가들이 AI가 바꾸는 보안 환경과 대응 전략을 공유하는 자리로 마련됐다.

이재명 대통령은 대독된 축사를 통해 "정부는 두 차례에 걸쳐 범부처 사이버보안 종합대책을 마련했다"며 "AI 기반 보안 기술과 산업 생태계를 적극 육성하고 국제사회와 협력을 확대해 국민 누구나 안전하게 디지털을 이용할 수 있는 환경을 만들겠다"고 말했다. 

이어진 기조연설에는 미국 국토안보부 산하 사이버·인프라보안국(CISA)의 닉 앤더슨 디렉터, 아담 보몬트 영국 AI 안전연구소 임시 소장, 셰인 헌틀리 구글 최고기술책임자(CTO)등이 연사로 나서 AI 기반 사이버 공격과 대응 전략을 발표했다. 

세 연사는 생성형 AI 확산으로 사이버 공격의 속도와 정교함이 크게 높아졌다고 진단했다. AI가 피싱, 악성코드 제작, 취약점 분석 등 공격 과정을 자동화하면서 보안 환경이 빠르게 변화하고 있는 만큼, 대응 역시 AI 기반의 능동형 방어 체계로 전환해야 한다고 강조했다.

아담 보몬트 임시 소장은 "사람에게 7년은 한 아이가 초등학교를 졸업하는 시간이지만 AI에게는 유아에서 박사 수준으로 성장하는 시간"이라며 AI의 발전 속도를 설명했다. 그는 "2020년 GPT-3가 시를 쓰고 간단한 계산을 수행하는 수준이었다면 최근 AI 시스템은 세계 상위권 프로그래머 수준의 코딩 능력을 갖추고 있다"며 AI의 사이버 공격 역량도 빠르게 고도화되고 있다고 진단했다.

이어 영국 AI 안전연구소가 운영 중인 AI 사이버 평가 체계를 소개하며 AI의 실제 공격 능력을 설명했다. 해당 평가는 기업 환경과 유사한 네트워크에서 AI가 초기 침투부터 정찰, 권한 상승, 내부 확산을 거쳐 최종적으로 네트워크를 장악하기까지 총 32개 공격 절차를 수행하도록 설계됐다. 평가 결과 일부 최신 AI 모델은 단순한 취약점 탐지를 넘어 실제 인프라를 장악하고 네트워크 전체를 통제할 수 있는 수준의 역량을 보였다고 밝혔다.

오후 세미나에서도 AI로 인한 사이버 위협 확대가 핵심 화두로 이어졌다. 박찬암 스틸리언 대표와 지정호 비바리퍼블리카(토스) 정보보호책임자(CISO) 등 국내 보안 전문가들은 AI가 해킹의 진입장벽을 낮추고 공격 속도를 크게 높이면서 공공기관과 기업 모두 새로운 보안 환경에 직면했다고 진단했다.

전문가들은 앞으로는 사람이 분석하고 대응하는 수동적 보안 체계만으로는 한계가 있다고 입을 모았다. AI가 공격을 자동화하는 만큼 AI 기반 보안관제(SOC), AI 에이전트 보안, 이상행위 탐지, 위협 분석 자동화 등 AI를 활용한 방어 체계 구축이 필수적이라는 것이다. 특히 국가 기반시설과 금융, 공공서비스 등 핵심 시스템을 겨냥한 공격이 현실화할 경우 피해 규모도 더욱 커질 수 있다는 우려도 제기됐다.

이에 따라 정부 역시 AI와 사이버보안을 국가 디지털 경쟁력의 핵심 축으로 보고 AI 기반 보안 기술과 산업 생태계 육성을 확대한다는 방침이다.