업스테이지, '프라이빗 LLM'으로 GPT에 대항

업스테이지가 지난 8월 700억 매개변수 모델로 글로벌 머신러닝 플랫폼 '허깅페이스'에서 운영하는 '오픈 LLM 리더보드' 평가 순위에서 GPT-3.5 성능을 뛰어넘어 세계 1위를 차지했다.

추론과 상식 능력, 언어 이해 종합능력, 환각 현상 방지 등 4가지 지표 평균에서 빅테크 거대 모델을 능가한 것이다. 업스테이지는 자사 LLM 활용 시 GPT-3.5 대비 비용은 40% 절감하고, 처리 속도는 30% 빠른 것으로 추산했다.

업스테이지는 허깅페이스 모델을 기반으로 자체 LLM 'SOLAR'를 발표했다. 솔라는 도메인 특화와 최적화에 초점을 맞추고 기업 데이터를 학습, 정보 유출과 환각 현상을 방지할 수 있는 프라이빗 LLM을 지향한다.

업스테이지 '솔라' [사진제공=업스테이지]

롯데쇼핑도 업스테이지와 생성형 AI 활용 업무협약 체결을 맺었다. 서비스 운영 비용 절감은 물론 생산성 향상과 추가 수익 창출, 신규 사업 추진 등 청사진을 세웠다. 양사는 이미 지난 2년 간 협업으로 개발한 개인화된 AI 상품 추천 서비스를 지난 6월 롯데온에 도입해 구매전환율 30%가 증가한 효과를 입증했다.

이처럼 챗GPT의 등장으로 촉발된 생성형 AI 열풍이 한창이다. 글로벌 시장조사기관 포춘 비즈니스 인사이트에 따르면 글로벌 AI 시장 규모는 지난해 4280억달러(약 573조원)에서 오는 2030년에는 2조 251억달러(약 2713조원) 규모로 연평균 21.6%로 성장한다고 전망했다.

B2B 생성형 AI 시장은 크게 '퍼블릭(public) LLM'과 '프라이빗(private) LLM'으로 양분된다. 오픈AI, 구글 등 빅테크가 주도하는 퍼블릭 LLM은 생성형 AI 대중화를 이끌며 초기 시장을 선점했다. 하지만 데이터 유출 리스크와 잘못된 정보를 생성하는 환각 현상 문제가 있다. 실제 애플, 아마존, 삼성전자 등에서 내부 임직원들에게 '챗GPT 경계령'을 내리기도 했다.

대항마로 프라이빗 LLM이 등장하면서 기업용 시장을 파고들고 있다. 기업 내부 데이터만 활용해 보안성을 높이고 환각 현상 방지에 최적화됐다. 프라이빗 LLM의 핵심은 보안성이다. 기업 서버에 설치하는 구축형 '온프레미스' 방식이나 전용 프라이빗 클라우드로 도입, 기업 민감 데이터가 유출될 가능성을 차단한다. 또 작은 사이즈로 비용 대비 효과를 극대화한다.

업스테이지 관계자는 “외부 AI 기술 도입을 고려할 때 데이터 보안 문제와 환각 현상 등이 큰 허들이다”라며 “도메인 특화 프라이빗 LLM을 구축은 좋은 대안이 될 수 있으며 기업들은 어떤 LLM을 니즈에 맞게 도입해 경쟁 우위를 달성할 것인가를 고민할 때”라고 말했다.

박두호 기자 walnut_park@etnews.com