​SKT '에이닷', 두 배 강력한 '뇌' 달았다... 초거대 AI 박차

자체 구축한 슈퍼컴퓨터 '타이탄', GPU 증설로 성능 강화

연산 속도 17.1 페타플롭스... 톱500 기준 세계 50위 내

타이탄 활용하는 AI 서비스 '에이닷', 정교한 학습 지원

SKT가 자체 구축한 슈퍼컴퓨터 '타이탄'의 GPU를 증설하고 기존보다 두 배 이상 성능을 갖췄다고 밝혔다. 이를 기반으로 에이닷 등 초거대 AI 서비스를 고도화할 계획이다. SKT 엔지니어가 슈퍼컴퓨터 타이탄 작동 상태를 점검하고 있다.[사진=SKT]

SK텔레콤(SKT)이 자체 구축한 슈퍼컴퓨터 '타이탄' 성능을 두 배 이상으로 강화한다. 더 정교한 초거대 인공지능(AI) 구현에 나서기 위함이다. 챗GPT 등 초거대 AI 모델이 주목받는 상황에서 인프라 확장을 통해 관련 사업 기반을 다진다는 전략이다.

12일 SKT는 2021년부터 운영 중인 타이탄 성능 강화를 위해 엔비디아 A100 GPU를 1040개로 증설했다고 밝혔다. 이는 기존 대비 두 배 이상 규모다. 타이탄은 전 세계 슈퍼컴퓨터 성능을 비교하는 '톱500'에서 2022년 11월 기준 세계 92위를 기록한 바 있으며 AI 모델 '에이닷(A.)'의 뇌 역할을 하고 있다.

대규모 인공 신경망을 훈련하기 위해서는 방대한 데이터와 복잡한 계산을 빠르고 정확하게 처리해야 한다. 수십억 개 이상의 매개변수를 다루는 초거대 AI를 구동하기 위해선 슈퍼컴퓨터 등 강력한 인프라가 필수적이다.

이전까지 타이탄은 이론상 7.19페타플롭스(PetaFlops)의 성능을 낼 수 있었다. 1페타플롭스는 1초에 1000조번의 부동소수점 연산이 가능한 속도다. SKT 측은 이번 성능 강화를 통해 타이탄이 17.1페타플롭스 이상으로 성능을 갖췄다고 설명했다. 이는 세계에서도 손꼽히는 수준으로 지난해 11월 기준으로는 세계 50위 안에 들 수 있는 성능이다.

이번 확대 구축을 통해 SKT는 더 광범위한 데이터를 빠르고 정확하게 처리할 수 있는 컴퓨팅 성능을 확보하게 됐다. 타이탄을 기반으로 서비스를 제공하는 에이닷도 기존보다 더 정교한 학습이 가능해진다. SKT는 이번 성능 강화를 통해 에이닷을 현재보다 2배 이상 규모인 모델로 고도화할 계획이다.

에이닷은 SKT가 지난해 5월 선보인 AI 에이전트 서비스다. SKT는 초거대 언어모델 GPT-3를 한국어에 맞춰 개발하고 이를 에이닷에 적용해 선보였다. 에이닷은 상용 서비스에 수백억 개 이상의 매개변수 모델을 이미 적용하고 있으며 향후 장기기억, 멀티모달, 챗GPT 등 AI 기술 도입을 통해 서비스를 고도화할 예정이다.

향후 SKT는 수년간 내재화한 초거대 AI 연구개발 기술력과 슈퍼컴퓨팅 고도화 등을 기반으로 초거대 AI 범용성을 무한대로 확장할 계획이다. 실제로 이미 에이닷을 통해 음악 서비스 플로, 모빌리티 서비스 티맵, 영상 서비스 웨이브 등 국내 대표 미디어 플랫폼에 AI를 도입해 제공 중이다.

김영준 SKT 에이닷추진단 담당은 "이번 슈퍼컴퓨터 확대 구축을 통해 에이닷이 기존보다 더 정교한 학습이 가능해졌다. 사용자와 대화하는 흐름과 답변 완성도는 사람 수준에 가깝도록 개선될 것"이라며 "앞으로도 공격적인 연구개발 투자, 인프라 확대, 인재 영입 등을 통해 AI 기술 리더십을 선도하기 위해 노력을 지속할 것"이라고 말했다.