HP가 클라우드에서 처리하던 사내 인공지능(AI) 작업 40~50%를 워크스테이션과 AI 스테이션으로 옮겨 관련 비용을 45% 줄였다. 장비 투자비는 12개월 만에 회수했다. 에이전틱 AI가 확산되면서 토큰 비용이 급증하자, 데이터가 생성되는 현장 가까이에서 AI를 운용하는 '로컬 AI'로 무게중심을 옮긴 것이다.
HP는 이같은 경험을 앞세워 반도체·의료·방송 등 국내 AI 시장을 공략한다.
짐 노팅엄 HP 어드밴스드 컴퓨트 솔루션(ACS) 부문 수석부사장은 “AI 어시스턴트 도입으로 업무 시간은 크게 줄었지만 토큰 소비가 계속 늘었다”며 “분석해보니 프런티어 모델 대신 보다 작은 모델로도 같은 품질을 낼 수 있었다”고 말했다.
HP에 따르면 워크스테이션급 소형 모델을 사내 장비에서 구동하자 추론 속도는 빨라지고 토큰 사용 제한도 사라졌다. 사내 개발 조직도 프라이빗 클라우드 요금이 토큰 종량제로 바뀌자 로컬 장비를 들였다. 덕분에 개발자 30~80명이 제약없이 AI에이전트를 쓰고 있다.
노팅엄 수석부사장은 기업이 AI를 클라우드 밖에서 운용하려는 이유로 △데이터 프라이버시·주권 △저지연 △데이터 중력 △비용을 꼽았다. 수요가 가장 뚜렷한 곳은 제조 현장이다.
일례로 글로벌 완성차 A는 생산 라인에 AI 추론 장비를 설치하려 했다. 하지만, 그래픽처리장치(GPU)를 대거 탑재한 대형 워크스테이션은 발열과 소음 탓에 라인에 설치가 어려웠다. HP는 워크스테이션 GPU를 여러 장비가 나눠 쓰는 'Z부스트'를 제안했다. 대형 장비는 백오피스에, 라인에는 소형 장비만 배치해 GPU를 빌려 쓰는 방식이다. A는 개념검증(PoC)을 거쳐 전사 도입을 진행 중이다.
또, 다른 완성차 B는 Z부스트로 대형 렌더링 모델을 매번 다시 불러오는 과정을 없앴다. 그 결과, 설계 생산성을 570% 높이고 총소유비용(TCO)은 23% 줄였다. 퇴근 이후 쉬고 있는 워크스테이션 300여대로 매일 밤 약 1000건 AI 모델 미세조정을 수행해 클라우드 비용을 낮춘 고객사도 있다.
노팅엄 수석부사장은 “로컬과 클라우드 중 하나를 고르는 문제가 아니라 둘을 적재적소에 통합하는 하이브리드가 핵심”이라며 “고객이 가장 큰 가치를 낼 수 있는 곳에 귀한 토큰을 쓰도록 돕겠다”고 말했다.
HP는 한국을 로컬 AI 수요가 빠르게 커질 시장으로 보고 있다. 반도체·자동차·조선처럼 설계·공정 데이터가 핵심 경쟁력인 산업이 많아, 데이터를 외부로 내보내지 않고 현장에서 AI를 처리하려는 수요가 클 수밖에 없다는 판단이다.
국내에서는 반도체 검사 장비, 반도체 공장 자동화·물류 시스템, 치과·의료용 메디컬 이미징 장비가 대표적인 AI 활용 시장으로 자리 잡았다. 적용 분야도 넓어지고 있다. 방송 분야에서는 증강현실(AR) 솔루션 도입이 늘고 있다. 올해 국내 전국동시지방선거 때 12시간 넘게 이어진 실시간 방송 솔루션에도 HP Z 워크스테이션이 사용됐다. HP는 건축가·엔지니어 등 고사양 작업을 하는 전문가 시장 지원도 강화할 계획이다.
HP 핵심 경영진 중 한명인 노팅엄 수석부사장은 HP 프린팅코리아 대표를 지내며 삼성전자 프린팅 사업 인수 이후 통합 작업을 이끌었다.
그는 “고객과 파트너를 만나 무엇을 원하는지 듣고 배우는 것이 방한의 가장 큰 목표”라며 “HP 코리아가 고객 성공을 도울 수 있도록 글로벌 차원에서도 지원하겠다”고 말했다.
김시소 기자 siso@etnews.com
