리벨리온은 스퀴즈비츠와 신경망처리장치(NPU)에 최적화된 생성형 인공지능(AI) 모델 경량화 기술을 개발한다고 29일 밝혔다.
스퀴즈비츠는 정확도 손실을 최소화하면서도 AI 모델의 계산량을 압축해 경량화하는 전문성을 갖고 있다. 리벨리온은 국내에서 최초로 소형언어모델(SLM) 가속이 가능한 NPU를 양산 중이다.
양사는 다양한 SLM을 리벨리온의 NPU에 최적화해 경량화하는데 협력하기로 했다. 이를 통해 스퀴즈비츠는 현재 지원 중인 엔비디아 그래픽처리장치(GPU)뿐 아니라 리벨리온의 NPU용으로 생성형AI 모델을 경량화하는 기술적 기반을 확보할 계획이다. 리벨리온은 자사 하드웨어에 최적화된 경량화 언어모델을 활용해 생성형AI용 NPU의 판매 활로를 확장할 방침이다.
박진형 기자 jin@etnews.com
