인티그리트, 퀄컴 테크날러지 칩셋 탑재 '온 디바이스 AI 엣지 박스' 출시

[사진=인티그리트]

로보틱스 플랫폼 전문 인티그리트는 생성형 LLM과 멀티모달 AI를 내장한 고성능 온 디바이스 AI Edge 시스템, 에어패스 V3 Edge 제품을 오는 8월 출시한다.

에어패스 V3 Edge AI 시스템은 퀄컴 테크날러지의 퀄컴 QCS8550 프로세서를 탑재해 빠른 분석속도와 이전 세대 대비 최대 2배까지 늘어난 배터리 수명, 끊김 없는 와이파이와 5G간 원활한 전환 등을 통해 고속 저지연 데이터와 저전력 소모가 요구되는 모빌리티 환경에서 기기의 사용시간을 획기적으로 늘렸다. 고품질의 생성형 멀티모달 AI 서비스를 제공하는 AI 기기의 개발과 상용화를 지원한다. 

또한 온 디바이스 AI 환경에서 생성형 AI 서비스를 위한 라마(LLAMA) LLM기반의 경량화된 한국어 언어모델인 SLM(Small Language Model)과 실시간 영상 분석을 제공하는 비전 AI가 통합된 멀티모달 AI를 갖춰 다양한 AI 미션을 기기 내에서 처리할 수 있다. 즉각적으로 AI 분석 결과가 언어와 행동으로 제공되는 휴머노이드 로봇이나 고성능 하이퍼 로봇, AI 휴먼 키오스크 개발에 활용될 수 있다. 

온 디바이스 AI는 개인과 기업 정보를 외부 클라우드로 전송하지 않고 현장의 기기에 내장된 AI 모델을 통해 실시간 분석하고 즉각적으로 폐기되므로 높은 수준의 보안이 특징이다. 멀티 언어 지원이 요구되는 생성형 AI 통번역 서비스, 성별과 연령에 따라 대응이 요구되는 의료, 안전 서비스에서 빠르고 안전한 서비스를 제공 받을 수 있게 된다.

에어패스 V3 Edge AI 시스템은 △안드로이드와 리눅스, 우분투와 ROS2 최신 운영체계를 지원하고 △최신 온 디바이스 AI 기반의 내장된 생성형 언어모델과△비전 AI, 데이터 경량화를 포함하는 AI 풀 스택과 △광범위한 개방형 AI 프레임워크를 제공한다. 현장에서 발생하는 다양한 AI 애플리케이션 확장을 지원하는 개방된 개발환경을 통해 상이한 AI 모델 간의 활용도를 향상할 수 있다.

에어패스 V3 상품은 저전력 온 디바이스 AI가 요구되는 모바일 환경을 위해 특화된 엣지 AI 시스템으로, 퀄컴 테크날러지의 헥사곤 NPU를 통해 저전력 환경에서 48TOPS를 제공한다. MIPI, GMSL2, IP 규격 등 최대 5개 카메라를 통한 영상까지 동시에 실시간 AI 추론을 처리할 수 있고, 내장된 5G 특화망 모듈을 통해 WebRTC 기반의 초저지연 실시간 동영상을 원격 전송 가능하다. 

인티그리트는 지난 2월 5G 특화망 통신 모듈을 단일 AI 하드웨어 시스템으로 통합한 에어패스 시스템이며, 국내 5G 특화망 공인 인증기관으로 지정된 ETRI로부터 최초로 인증 받은 바 있다. 

에어패스 V3 Edge AI 시스템은 온 디바이스 AI와 5G, 클라우드 하이브리드를 효과적으로 대응, 실시간 생성형 AI와 지능형 영상분석까지 최대 32종의 데이터를 경량화된 AI 데이터셋으로 제공한다. 정교한 안전관리가 요구되는 산업현장에서 기존 인트라넷과 쉽게 연동하고 확장할 수 있어 신뢰할 수 있는 디지털 트윈 구축을 지원한다. 

또 고성능 및 저전력, 경량화된 AI가 요구되는 차세대 지능형 로봇과 스마트 모빌리티, AI 홈 컨시어지 기기에서부터 AI 전환이 요구되는 유통, 커머스, 의료 서비스, 교육, 보안과 안전관리, 스마트 팩토리와 산업용 애플리케이션에 이르기까지 저비용으로 빨리 첨단 엣지 AI 컴퓨팅 환경을 구축한다. 

이창석 인티그리트 대표이사는 "생성형 AI와 언어모델 확산 등 AI 혁신에 이미 익숙해진 사용자 경험을 수용하기 위한 AI 전환이 각 분야에서 급격히 요구되고 있다"면서 "퀄컴 테크날러지의 지원을 통해 새롭게 출시한 차세대 온 디바이스 AI 엣지 시스템은 저전력 온 디바이스 AI 환경이 요구되는 여러 AI 모델과 시스템을 위한 경쟁력 있는 대안을 제공할 수 있을 것으로 기대된다"고 말했다.