퀄컴이 생성형 인공지능(AI) 업체 오픈AI와 협력한다. 클라우드AI와 온디바이스AI가 협력하는 '하이브리드 AI' 전략의 일환이다.
퀄컴은 21일(현지시간) 하와이 마우이에서 열린 '스냅드래곤 서밋 2024'를 통해 오픈AI와의 협력을 발표했다.
오픈AI가 개발한 챗GPT는 매주 5000만명이 사용하는 생성형 AI 서비스다. 사용자가 제공한 문맥 내의 데이터에 기반해 응답을 생성하나 개인의 구체적 정보와 과거 대화를 기억하지 않는다. 개인정보 보호와 사용자 프라이버시 보호를 위해서다.
오픈AI는 이번 협력을 통해 개인정보 기반의 서비스 제공을 모색한다. 퀄컴 스냅드래곤 기반의 온디바이스AI 기기를 통해 서비스를 제공하는 방식이다.
샘 알트만 오픈AI 최고경영자(CEO)는 “클라우드AI와 온디바이스AI는 서로 협력해 발전할 것”이라며 “클라우드는 GPT4나 01과 같은 대형언어모델(LLA)을 훈련하고 제공하는 데 유용하며, 온디바이스AI는 프라이버시 보장을 강화하고 AI 경험에서 더 높은 보안성과 신뢰성을 제공할 것”이라고 말했다.
양사가 구축할 하이브리드 AI는 지속가능한 AI 발전에 목적이 있다고 소개했다. 큰 데이터 처리나 복잡한 연산은 기존처럼 클라우드AI에서 처리하되 간단한 연산이나 실시간으로 필요한 작업은 기기 내에서 처리하는 방식이다.
이를 통해 AI 서비스 기업은 클라우드AI 투자비 부담 경감과 전력 사용량 감소에 따른 운영비 절감 효과를 누릴 수 있게 된다. 사용자 입장에서도 지연시간 단축뿐 아니라 보다 개인화되면서도 강력한 성능의 AI 서비스를 이용할 수 있는 이점이 있다.
특히 최근 AI 추론은 음성, 이미지, 영상, 텍스트 등 멀티 모달리티를 활요하기에 클라우드에서만 AI 추론을 수행한다면 비용 부담이 크다. 설비 투자뿐 아니라 데이터 전송, 전력 사용 등에 따른 운영비도 급증한다는 설명이다.
오픈AI도 이같은 점을 고려해 퀄컴과 전략적 동맹을 맺은 것으로 풀이된다. 알트만 CEO는 “AI는 한계를 계속해서 뛰어넘는 과정에 있다”며 “클라우드AI와 온디바이스AI 협업은 더 강력한 지능을 사용자들에게 제공하고, 기업에는 생산성을 높여주는 방향으로 발전해 나갈 것”이라고 강조했다.
마우이=
박진형 기자 jin@etnews.com
