“생성형 인공지능(AI) 서비스를 클라우드 기반으로 제공하면 그래픽처리장치(GPU)에서 실행되기 때문에 디바이스에서 지원하는 게 더 유리하다.”
지아드 아즈가 퀄컴테크놀로지 제품관리 수석부사장은 '스냅드래곤 서밋 2023' 인터뷰를 통해 “GPU는 많은 전력을 소모할 수밖에 없어 비용이 많이 든다”면서 이같이 밝혔다. 온디바이스 AI 기반 스마트폰 등 디바이스에서 생성형 AI 서비스를 제공하는 게 비용·접근성 측면에서 훨씬 유리하다는 판단이다. 전력뿐만 아니라 AI 서비스 구동에 적합한 GPU 가격도 수백억~수천억원 수준이다.
또 시간이 지날수록 쌓이는 데이터에 기반한 개인화 서비스도 디바이스가 클라우드보다 유리하다고 강조했다. 클라우드 기반 생성형 AI 서비스는 범용 서비스인 반면, 디바이스에 쌓이는 데이터는 특정 개인의 것으로 개인화 서비스 고도화에 강점이 될 수 있다는 의미다.
퀄컴은 언제 어디서나 사용할 수 있는 생성형 AI 제공을 목표로 신형 애플리케이션 프로세서(AP) 스냅드래곤 8 3세대에 인프라를 탑재했다. 네트워크 연결 없이도 생성형 AI를 이용할 수 있도록 AP 단에 거대언어모델(LLM) 등을 구현, 레이턴시까지 최소화한 서비스 기반을 제공한다. AP는 모바일 기기에서 소프트웨어와 하드웨어를 작동시키는 '두뇌'와 같은 역할을 하는 반도체다.
아즈가 수석부사장은 “디바이스에서 생성형 AI 서비스를 이용할 수 있다면 보다 많은 사람들이 사용하기 시작하고 더 많은 사용 사례가 들어와 서비스를 고도화할 수 있다”며 “거의 무료로 서비스를 제공해도 될 수준”이라고 말했다. 데이터 학습을 통한 추론이 생성형 AI 서비스 제공의 선결 과제인 만큼 이용자들이 학습 데이터를 제공, 일정 부분 무료 서비스가 가능할 것이라는 관측이다.
퀄컴은 온디바이스 AI를 실현할 수 있는 스냅드래곤 8 3세대를 기반으로 생성형 AI 서비스를 제공하면 비용 절감 효과가 확실하고 이용자 접근성도 강화될 것이라고 보고 있다. 개인 PC나 스마트TV 기반 생성형 AI 서비스는 한 자리에서 지속 이용해야 하는 반면, 스마트폰·태블릿PC 등에서 서비스 하면 이동 중에도 편리하게 사용할 수 있다. 인터넷 연결이 어려운 환경에서도 이용이 가능하다.
아즈가 부사장은 생성형 AI가 질의응답뿐만 아니라 사진과 동영상 등 콘텐츠를 만드는 데도 도움이 될 것으로 예상했다. 그는 “여러 장의 사진을 찍으면 사진을 바탕으로 동영상을 생성할 수 있을 것”이라며 “부동산 중개인이 집 사진을 20장 정도 찍었다고 가정하면 이를 동영상으로 만들어 활용하게 될 것”이라고 설명했다.
텍스트를 이미지로, 이미지를 비디오로, 텍스트를 3D 이미지로, 또는 그 반대로 이미지를 텍스트로 변환할 수 있는 시대가 도래할 것이라는 의미다. 퀄컴은 그러한 사용자환경(UI)과 사용자경험(UX) 제공을 위한 인프라를 지속 제공하고 고도화할 계획이다.
모바일 AP 스냅드래곤 8 3세대뿐만 아니라 PC용 컴퓨팅 프로세서 스냅드래곤 X 엘리트 플랫폼을 통해 PC에서도 온디바이스 AI를 지원한다. 네트워크 연결 없이도 데이터 수집·처리를 지원한다.
아즈가 부사장은 “스냅드래곤 X 엘리트나 스냅드래곤 8 3세대 모두 현재 다른 어떤 반도체보다 훨씬 더 많은 온디바이스 AI 기능을 갖추고 있다”며 “초당 토큰 수와 같은 지표에서 경쟁사 대비 분명히 앞서고 있고 하드웨어·소프트웨어·로직 측면에서 지속적인 연구로 차별화를 달성했다”고 강조했다.
이어 “퀄컴은 모든 사람이 온디바이스 AI를 활용할 수 있도록 만들어 진정한 기술 민주화를 이뤄낼 것”이라며 “이제 시작하는 단계로 매일 새로운 모델과 사용 사례가 나오고 있다”고 덧붙였다.
주요 제조 고객사의 스냅드래곤 8 3세대와 스냅드래곤 X 엘리트에 탑재된 생성형 AI 기능에 대한 기대감도 전했다. 아즈가 부사장은 “제조사가 온디바이스 AI 기반 다양한 생성형 AI 활용 방안을 제시하고 보다 개인화된 AI 서비스를 활용할 수 있게 될 것”이라고 전망했다. 샤오미 14 시리즈가 시작이다.
한편 생성형 AI 기능 탑재에 따른 신형 스마트폰 가격 인상 가능성은 예단할 수 없다고 단언했다. 차세대 스마트폰에는 스냅드래곤 8 3세대뿐 아니라 디스플레이, 부품 등 가격을 결정하는 다양한 구성 요소가 있어 퀄컴이 가격 인상 여부를 예상하기 어렵다는 이유다.
마우이(미국)=
박종진 기자 truth@etnews.com