脫 엔비디아 속도…구글, 추론 특화 AI칩으로 '승부수'

구글 AI칩 '트릴리움' 출시…제미나이2·카카오 LLM에 활용

[사진=로이터연합뉴스]

구글이 자체 개발한 고성능 인공지능(AI) 칩에 대한 수요가 늘면서 엔비디아 독점체제에 균열이 생기고 있다. 구글은 엔비디아보다 추론에 특화한 AI칩으로 초거대언어모델(LLM) 개발 수요에 맞대응하고 있다. 

16일 모한 피치카 구글 클라우드 그룹 프로덕트 매니저는 국내 매체와 진행한 화상 인터뷰에서 "LLM 학습을 위해 회사가 지난달 출시한 텐서처리장치(TPU)의 6세대 제품 트릴리움의 수요가 크게 늘고 있다"고 밝혔다.

정확한 수치는 공개하지 않았지만 빅테크 기업을 중심으로 트릴리움이 엔비디아의 그래픽처리장치(GPU)를 대체하고 있다는 주장이다. 대표적으로 구글의 최신 모델인 제미나이 2.0 학습에 쓰였고, 국내에선 카카오 AI 서비스 '카나나' 개발에 활용되고 있다. 

구글이 자체 개발한 TPU는 AI 모델 학습과 추론에 최적화한 맞춤형 AI 칩이다. 다양한 작업을 지원하는 엔비디아의 GPU와 달리, 추론 등 한 영역에 특화한 맞춤형 칩이다. GPU에 비해 전력 효율성과 저렴한 가격이 장점이다. 이번에 출시한 트릴리움은 이전 세대와 비교해 학습 성능은 최대 4.7배, 전력 효율은 67% 향상됐다고 회사 측은 전했다. 

구글은 앞으로 추론에 특화한 생성형 AI 개발을 위해 TPU의 시장 점유율도 확대될 것으로 전망했다. 

피치카 매니저는 "트릴리움은 AI 추론에 특화한 연산 처리와 계산 속도가 빠르다"면서 "추론에 특화한 학습이 점점 중요해지고 있는 상황에서 생성형 AI의 다단계 형태의 추론 프로세스에 적합하기 때문에 TPU 수요도 앞으로 늘어날 것"이라고 전했다.