생성형 인공지능(AI) 혁명은 이미 시작됐다. AI 기술은 전례 없는 속도로 혁신과 발전을 거듭하고 있으며, 다양한 영역에 빠르게 적용되고 있다. 생성형 AI 응용 프로그램이 여러 분야에서 필수적인 요소로 자리 잡은만큼 앞으로도 우리 생활에 더욱 많은 변화를 불러올 것으로 보인다. 글로벌 컨설팅 업체 맥킨지에 따르면 생성형 AI는 60개 이상의 사용 사례에서 매년 2조6000억달러에서 4조4000억달러에 달하는 경제적 이익을 창출할 것으로 전망되는 등 생성형 AI가 불러올 변화와 그 잠재력은 주목할 만하다.
지난 1월 미국 라스베이거스에서 열린 세계 가전 전시회(CES)에서도 화두는 단연 AI였다. AI와 관련된 많은 데모가 전시된 가운데 특히, 개개인이 사용하는 스마트폰, PC 등과 같은 엣지 단말기 자체에서 사용자의 패턴을 학습하고 AI 기능을 제공하는 '온디바이스 AI'가 눈길을 끌었다.
인터넷 연결 없이 자체적으로 AI 기능을 구현하는 온디바이스 AI는 쿼리(query)와 개인 정보가 기기에만 남아 사용자의 개인 정보 보호 및 보안이 향상된다. 또 기기에서 AI를 실행하면 클라우드 서비스 및 네트워킹 서비스 제공 업체에서 부담해야 하는 비용도 절감된다. AI 프로세싱과 데이터 전송까지 고려할 때 온디바이스 AI는 훨씬 더 적은 에너지로 생성형 AI 모델을 실행한다. 전력 효율성이 좋을 뿐만 아니라 데이터센터가 소비하는 에너지양까지 줄여 환경 및 지속 가능한 목표 달성을 돕는다.
향상된 개인 정보 보호와 보안, 탁월한 전력 효율성 등의 이점을 지원하는 온다이스 AI는 스마트폰의 AI 비서와 더불어 스마트 홈 허브를 통한 스마트홈 기기 제어 등 스마트폰을 넘어 컴퓨팅, 사물인터넷(IoT), 자동차 등 우리 일상으로 확대되고 있다. 예를 들어 최근 삼성전자가 출시한 '갤럭시 S24 울트라'는 인텔리전스의 대명사인 '갤럭시용 스냅드래곤 8 3세대'를 통해 갤럭시 AI를 최초로 선보였다. △서클 투 서치 △AI 줌 △텍스트 변환 어시스트 △나이토그래피 등의 AI 기능을 포함하며, 특히 언어의 장벽 없이 소통을 가능케 하는 △실시간 통역 △채팅 어시스트 기능은 편의성, 유의성 면에서 소비자로부터 호평을 받고 있다.
한편, 모바일 월드 콩그레스(MWC) 2024에서는 '퀄컴 AI 허브 (AI Hub)'가 공개되며 본격적으로 온디바이스 AI의 상용화 시대가 도래했음을 알렸다. 75개 이상의 최적화된 AI 모델을 지원해 개발자의 제품 개발 소요 시간을 단축하고 애플리케이션에서 온디바이스 AI의 장점을 극대화하는 AI 허브는 종합적인 AI 모델 라이브러리를 제공한다. 이를 통해 더욱 신속하고 신뢰도 높은 개인 맞춤형 경험이 가능해질 것이다.
앞으로 AI는 클라우드와 기기 두 환경에서 각기 다른 양상으로 발전될 전망이다. 현재 챗GPT와 여타의 생성형 AI 모델은 클라우드를 통해 이용할 수 있지만, 단말기 자체에서 구동되는 온디바이스 AI는 제약 없이 원활한 이용이 가능하다. 클라우드를 통해 작동하는 생성형 AI는 사용자의 위치나 습관 등과 같은 정보는 파악하지 못하는 반면, 스마트폰 자체에서 구현되는 AI는 더욱 정교하고 개인화된 경험을 제공할 수 있다. 사용자가 입력한 내용과 폰에 남아있는 사용자 데이터 등을 AI 쿼리로 제공하기 때문이다.
온디바이스 AI 기술의 확산은 개인과 기업, 나아가 국가 차원에서도 생성형 AI의 혜택을 누릴 중요한 기회다. 장소에 구애받지 않고 사용 가능한 지능형 컴퓨팅은 기술 발전의 획기적인 이정표이며 디지털 경제에 보다 적극적으로 참여할 수 있는 환경을 조성한다. 나아가 생산성 및 콘텐츠 제작, 교육, 연구 개발, 기업 애플리케이션 등 다양한 영역에서 새로운 경험을 제공하고 또 응용될 것으로 기대된다.
권오형 퀄컴 수석부사장 겸 아태지역 총괄 사장