마음AI, CES에서 퀄컴과 온디바이스 AI 협력 성과 공개

마음AI가 세계 최대 정보기술(IT)·가전 전시회 CES 2025에서 퀄컴과 협력해 개발한 온디바이스 인공지능(AI) 성과를 공개한다. [사진=마음AI 제공]

마음AI가 세계 최대 정보기술(IT)·가전 전시회 'CES 2025'에서 퀄컴과 협력해 개발한 온디바이스 인공지능(AI) 성과를 공개한다.

마음AI는 새해 1월 7일부터 10일까지 나흘간 미국 라스베이거스에서 열리는 CES 2025에서 단독 부스를 마련해 거대언어모델(LLM) 기반 음성 대화 제품 '수다(SUDA)'를 공개한다.

'수다'는 퀄컴 QCS6490 프로세서 기반 퀄컴 RB3 2세대 플랫폼에 탑재됐다. QCS6490 프로세서는 스마트홈 , 운송, 창고 관리, POS 키오스크, 커넥티드 헬스케어, 물류 관리 등 산업용 사물인터넷(IoT) 애플리케이션(앱)에 최적화된 플랫폼이다.

마음AI는 퀄컴과 협력을 통해 QCS6490 프로세서에 자사 음성문자변환(STT), 문자음성변환(TTS), LLM을 탑재하는 데 성공했다. 이를 통해 기기에서 인터넷 연결 없이 LLM을 통해 원활한 음성 상호작용 서비스를 구현하고, 비전 AI를 포함한 다른 앱을 실행시킬 수 있다.

특히 LLM 추론 속도를 최대로 끌어올려 온디바이스 상에서 총 처리 지연시간을 1.5초 이내로 단축했다. AI 스피커나 가전제품에 탑재된 기존 음성 대화 모듈보다 높은 성능을 보인다고 회사 측은 설명했다.

이러한 성과를 바탕으로 마음AI는 CES 현장에서 온디바이스 AI '수다' 기반 홈 IoT 제어 시연을 공개한다.

수다는 언어모델과 외부도구를 연결하는 '펑션콜' 기능을 통해 응용프로그래밍 인터페이스(API)로 호출 가능한 모든 센서와 가전제품 등 홈 IoT 제품을 자연어로 쉽게 제어할 수 있다.

예컨대 수다에 “너무 눈부신데”라고 말하면 LLM이 사용자 의도를 파악해 블라인드를 내리도록 명령하는 방식이다.

마음AI는 홈 IoT 영역을 시작으로 온디바이스 AI 시장을 선도할 계획이다.

최홍섭 마음AI 기술총괄 대표는 “퀄컴과 기밀한 협력을 통해 온디바이스 AI 시장을 선도할 수 있을 것”이라고 말했다.

현대인 기자 modernman@etnews.com