콕스웨이브, 구글 '리서치앳 코리아'서 AI 안정성 향상 방안 공유

콕스웨이브는 지난 27일 서울 종로구 포시즌스 호텔에서 개최된 구글 '리서치앳(Research@) 코리아'에 연사로 참가했다. [사진=콕스웨이브]

AI 제품 분석 플랫폼 '얼라인 AI(Align AI)' 운영사 콕스웨이브는 지난 27일 서울 종로구 포시즌스 호텔에서 개최된 구글 '리서치앳(Research@) 코리아'에 연사로 참가했다고 28일 밝혔다. 

리서치앳 코리아는 전 세계 연구자들을 대상으로 인공지능 관련 최신 연구를 공유하는 행사다. 김경훈 구글코리아 사장, 구글 리서치 마야 쿨리키 부사장이 참여했다. 또 다수의 구글 AI 연구원이 참여해 노트북 초거대언어모델(LLM), 제미나이, AI에이전트 프로젝트 등 연구 사례를 발표했다.

올해 행사는 코리아스타트업포럼과의 협업을 통해 학계 연구자 뿐만 아니라 AI 스타트업의 연구원·개발자까지 초청 규모를 확대했다. 이는 지난해 11월 아시아태평양 지역 최초로 리서치앳 코리아가 한국에서 진행된 이후 한국에서 두 번째로 개최된 글로벌 행사다.

김기정 콕스웨이브 대표는 국내 AI 연구사례 세션에 스타트업 대표로 참가해 'AI 안정성 향상'이라는 주제로 발표를 진행했다. 김 대표는 환각, 편견·차별, 정보 유출 등 현재 AI 시스템이 직면한 주요 위험을 비롯해 현재 가장 많이 나타나는 AI 시스템의 악용 방법, AI 모델의 취약성 평가 방법을 공유하고 향후 연구 방향을 제안했다.
 

김기정 대표는 자사의 '얼라인 AI' 플랫폼 내 발생한 실사례를 들어 AI 모델의 취약성 평가와 잠재 위협 예방 방법도 공유했다. 얼라인 AI는 생성 AI 기반 대화형 제품을 위한 분석 플랫폼으로 AI와 사용자 간의 대화 데이터를 분석할 뿐만 아니라, 환각 현상이나 개인정보 유출 사례 없이 제대로 기능을 수행하는지 판단하는 기능도 함께 제공한다.

특히 AI 모델에 대규모 탈옥 프롬프트를 선적용해 다중 샷 공격 저항 점수(MARS)를 측정하고, 해당 점수를 기반으로 AI 모델의 취약성을 판단해 잠재 위협을 대비할 수 있다고 설명했다. 

콕스웨이브는 2021년 설립된 스타트업으로 생성 AI 기술의 활용성·접근성을 높이기 위한 다양한 제품들을 선보인 바 있다. 지난 1월 45억원 규모의 투자를 유치했고, 지난달에는 얼라인 AI의 대화 데이터 분석 및 인사이트 제공 기능을 인도의 AI 기업 펀다멘토의 인공지능컨택센터(AICC) 서비스에 접목했다.

김기정 콕스웨이브 대표는 "얼라인 AI는 AI를 활용하면서 발생할 수 있는 위험을 사전에 탐지하고 방지하는 'AI 안전망' 역할을 제공한다”며 “지속적인 기술 개발과 고도화로 기업들이 더 안전하고 신뢰할 수 있는 AI 서비스를 제공할 수 있도록 지원하겠다"고 말했다.