인공지능 전환(AX)은 뛰어난 인공지능(AI) 모델을 도입하는 것으로 끝나지 않는다. AI 모델 구동 비용을 줄여 효율성을 높이고, 실제 사용 환경에 맞도록 최적화해야 한다.
문제는 모든 기업이 AI 경량화·최적화 경험이 있는 엔지니어를 고용할 수는 없다는 것이다. 규모가 작은 기업은 여건이 되지 않고, 대기업은 거대한 시스템을 받치는 자원을 일부분에 집중시키기 어렵다.
스퀴즈비츠는 AI 모델 경량화·최적화 솔루션을 제공해 이같은 문제를 해결한다.
지난 3월 출시한 '아울라이트'는 서비스형 소프트웨어(SaaS) AI 경량화 툴킷이다. AI 추론 속도를 평균 3.6배, 메모리 사용량을 평균 4배 개선해 AI 서비스 비용을 효율적으로 절감할 수 있다는 게 회사측 설명이다.
아울라이트는 AI 기업들이 보유 모델 데이터셋을 외부에 공유하지 않고도 자체적으로 AI 경량화 기술을 도입할 수 있도록 개발된 것이 특징이다.
10월에는 거대언어모델(LLM) 서빙을 위한 맞춤형 솔루션 '핏츠온칩스'를 출시했다.
서빙은 AI 모델을 실제 운영 환경에 배포해 사용자가 실시간 요청할 수 있도록 응용프로그래밍 인터페이스(API) 형태로 제공하는 과정이다. 핏츠온칩스는 오픈소스 라이브러리와 연동해 다양한 LLM 모델을 손쉽게 통합하고 성능을 비교 평가함으로써 최적의 LLM 서빙 설정 값을 찾아 적용할 수 있도록 돕는다.
〈인터뷰〉김형준 스퀴즈비츠 대표, “내년 목표는 스케일업과 북미 시장 진출”
김형준 스퀴즈비츠 대표는 포항공대 박사 과정에서 AI 구동을 위한 하드웨어 설계를 연구했다.
그러나 빠르게 변화하는 AI에 맞춰 하드웨어를 개발하는 것은 어렵다고 판단, AI 알고리즘을 하드웨어에 맞추는 데 효율적인 경량화·최적화 기술에 집중하며 스퀴즈비츠 창업에 이르렀다.
김 대표는 “직원들의 하드웨어에 대한 역량이 상당히 높기 때문에 새로운 종류의 하드웨어가 주어져도 우수한 경량화·최적화 성과를 낼 수 있다”고 설명했다.
그러면서 “당장의 수익을 내는 것보다는 시장에서 기술력을 인정받고자 한다”며 “최대한 많은 기업을 고객사로 확보해 실제 비용 절감·성능 향상 가치를 전달한 뒤, SaaS 솔루션을 통해 스케일업하는 것을 기대하고 있다”고 부연했다.
김 대표는 국내를 넘어 북미 시장에도 진출해 사업을 확대할 계획이다.
그는 “인텔과의 협력을 통해 가치를 증명해내고 있다”며 “엔비디아 연례 개발자 행사 GTC에 참여하는 등 다양한 채널을 통해 북미 시장에 진출할 것”이라고 말했다.
현대인 기자 modernman@etnews.com
