콕스웨이브, AI 안전성 전문가 이기민 KAIST 교수 영입

[사진=콕스웨이브]

인공지능(AI) 제품 분석 플랫폼 '얼라인 AI(Align AI)' 운영사인 콕스웨이브는 AI 안전성(Safety)·AI 정렬(Alignment) 분야의 연구를 주도하는 유망 신진 학자 카이스트 이기민 교수를 어드바이저로 영입했다고 10일 밝혔다.

이기민 어드바이저는 국제머신러닝학회(ICML)와 신경정보처리시스템학회(NeurIPS), 국제표현학습학회(ICLR) 등 세계 AI 분야 최고 수준의 학회에서 논문을 다수 게재하고 워크숍을 주최한 인물이다. 신진우 카이스트 석좌교수의 지도 아래 박사 학위 취득 후, AI 강화학습 분야의 권위자인 UC 버클리의 피터 아빌(Pieter Abbeel) 교수 연구실에서 박사후 과정을 수료했다. 이후 구글 리서치 소속 리서치 사이언티스트를 거쳐 현재 카이스트 김재철AI대학원에서 부교수로 재직 중이다.

콕스웨이브는 지난 2021년 설립된 스타트업으로 생성 AI 기술의 활용성·접근성을 높이기 위한 다양한 제품들을 선보여왔다. 지난달 '얼라인 AI'의 대화 데이터 분석과 인사이트 제공 기능을 인도의 AI 기업 '펀다멘토(Fundamento)'의 인공지능컨택센터(AICC) 서비스에 접목하는 등 인도·글로벌 시장 내 GTM(Go-To-Market) 전략도 적극 추진 중이다.

콕스웨이브는 이번 선임을 계기로 '얼라인 AI'의 안전성을 강화하고 나아가 안전한 AI 생태계 조성에 앞장선다는 계획이다. 이기민 교수는 안전한 AI 개발을 위한 연구를 중점으로 AI 모델이 잘못된 결과물을 냈을 때 인간이 피드백을 주며 강화 학습을 시키는 RLHF(Reinforcement learning from human feedback)를 지속 연구해왔다. 이 같은 연구 방식을 '얼라인 AI'에 적용해 AI 시스템이 겪을 수 있는 주요 위험·악용 사례를 식별하고, AI 모델의 취약점을 보완해 잠재 위협 예방을 강화할 예정이다.

이기민 어드바이저는 "AI 안전성에 대한 논의가 활발해지는 가운데 연구·논의에 그치지 않고 이를 적용해 더 나은 제품을 제공하고자 하는 콕스웨이브의 사업 방향성과 가치관에 공감해 합류를 결정했다"며 "모든 기업과 소비자가 안심하고 AI 제품을 이용할 수 있도록 연구·제품 개발에 기여하겠다"고 말했다.