"AI가 폭탄 제조법도 알려준다"...LLM 보안 위협 심각

SK쉴더스 "금융권 해킹 공격 20.6%로 최다"

장비 취약점 노린 공격 전년보다 2배 늘어

이호석 EQST랩 팀장이 2일 오전 서울 중구 페럼타워에서 열린 올해 상반기 보안 트렌드 분석 세미나에서 발표하고 있다. [사진=장하은 기자]

폭탄 제조 기술을 제공하거나 기업 기밀문서를 노출하는 등 생성형 인공지능(AI) 기반 초거대언어모델(LLM)·소형언어모델(sLLM)의 보안 위협이 커졌다는 우려가 나왔다.

SK쉴더스는 2일 서울 중구 페럼타워에서 올 상반기 주요 보안 트렌드를 분석하고, AI LLM 보안 대응전략을 제시하는 미디어 세미나를 개최했다. 국내 최대 규모의 화이트해커 전문가 그룹인 SK쉴더스의 이큐스트(EQST)가 상반기에 직접 경험한 해킹 사고 사례와 연구 결과를 바탕으로 분석한 내용을 소개했다.

EQST가 분석한 업종별 침해사고 발생 통계를 살펴보면 국내에서는 금융업이 20.6%로 가장 높은 비중을 차지했다. 비트코인 상장지수펀드(ETF) 승인 등의 이슈로 암호화폐 가치가 상승해 이를 노린 해킹 공격이 이어졌다. 국외에서는 국제 분쟁 여파로 정부와 공공기관을 대상으로 한 공격이 26.7%로 최다였다.

유형별로는 취약점 공격이 45%로 가장 많이 발생했다. 이는 가상사설망(VPN)·라우터 등 네트워크 장비를 통한 지능형 지속 위협(APT) 공격 때문인 것으로 조사됐다. 사람 심리를 이용해 기밀을 탈취하는 수법인 '소셜 엔지니어링' 공격이 26%로 뒤를 이었다. 네트워크 장비의 신규 취약점을 활용한 공격도 지난해 동기보다 2배 이상 증가했다. 이재우 EQST 사업그룹장(전무)은 "AI를 활용한 사이버 공격이 더 정교화·고도화할 것"이라고 지적했다.

 

생성 AI가 급속도로 발전하며 AI가 가져올 보안 위협에 관한 연구 결과도 발표했다. 특히 비영리단체인 OWASP에서 발표한 AI LLM 서비스에서 발생 가능한 취약점 10개를 EQST가 직접 분석하고, 이 중 위험도가 높은 3개를 현장에서 직접 선보였다.

EQST가 꼽은 3대 취약점은 △프롬프트 인젝션 △불안전한 출력 처리 △민감정보 노출이다. 프롬프트 인젝션은 악의적인 질문을 쏟아내 AI 서비스에 적용한 지침·정책을 우회한 답변을 끌어내는 것이다. 악성코드 생성이나 폭탄·마약 제조, 피싱 공격 등에 악용될 수 있다. 

불안전한 출력처리 취약점은 LLM이 생성한 출력물을 시스템이 적절하게 처리하지 못할 때 발생하며, 2차 공격으로 이어질 수 있다. 공격자가 '원격 접속 코드 실행' 요청을 포함한 내용을 챗봇에 질문하고 챗봇이 원격 접속 코드를 실행하면, 공격자가 AI LLM 운영 서버에 접속해 중요 정보를 탈취하는 식이다. 민감정보 노출은 권한 관리 미흡 등의 취약점을 분석해 개인정보를 비롯한 데이터베이스 정보를 탈취하는 공격이다. 

발표를 맡은 이호석 EQST 랩 팀장은 "많은 기업이 sLLM을 쓰려는 이유가 LLM의 보안 취약성 때문인데, sLLM을 사용해도 미공유하는 정보들이 얼마든지 외부로 유출될 수 있는 상황"이라고 주의를 당부했다.