김승덕 야놀자 IAB (Innovate and Beyond) 실장은 27일 열리는 '기업의 LLM 도입 전략 및 사례 세미나'에 앞서 가진 인터뷰에서 야놀자의 LLM 도입 배경과 효과에 대해 소개했다. 김승덕 실장은 “LLM을 활용하는 대표적인 사례로 요약, 챗봇, 초안 작성 등이 있는데, 야놀자는 고객 가치 증대를 중시하는 플랫폼인 만큼, '후기요약기능'을 빠르게 적용하기로 했다”고 말했다.
야놀자는 초기 프로토타입 과정에서 이미 검증이 된 요약 기능을 적용시키려 노력했다. 그 중 후기 요약 기능이 가장 빠르게 적용 가능하다고 판단, 약 1개월 정도 개발기간을 거쳐 서비스에 적용했다. 이는 사용자가 남긴 후기 중 최근 6개월 이내에 작성된 후기를 약 300자 정도로 요약해 고객에게 보여주는 기능이다.
김승덕 실장은 LLM 기반의 이 기능에 대해 “정확한 측정수치는 공개가 어렵지만, 매우 많은 사용자가 이 기능에 반응한다는 점을 확인 할 수 있었다”고 말했다.
김 실장은 기업이 LLM을 도입/운영할 때 유의해야 점에 대해 설명했다. 야놀자의 LLM 도입과 운영을 총괄하면서 경험한 것이다. 첫 번째는 LLM이 잘하는 것과 못하는 것을 구분하는 것이 중요하다는 것이다. 예를 들어 LLM이 생성하는 정보의 정확도를 높이는 것은 매우 어렵고, 노력한 시간 대비 결과도 무조건 좋다고 할 수는 없다. 챗GPT에 새로 추가되는 기능들을 보고 있으면 LLM을 어떻게 활용해야 하는지 가늠할 수 있다.
두 번째는 LLM이 생성하는 결과물의 품질을 지속적으로 추적하고 관리할 수 있는 다양한 운영 툴을 함께 준비하는 것이 필요하다. LLM을 활용한 제품이 생각보다 많이 나오고 있지 않은데, 비용적인 문제도 있지만 결과물의 품질을 담보하기 어려운 것도 이유 중 하나라는 것이 김 실장의 설명이다.
김승덕 실장은 “이런 불안정함을 다 잡아서 제품을 출시하려 하기 보다는, 불안정한 결과물을 빠르게 찾아내고 수정할 수 있는 시스템을 구축해 빠르게 제품을 출시하는 것이 더 효율적이라고 생각한다”고 말했다.
김 실장은 야놀자의 향후 LLM 활용 전략과 관련해 일단 개별 제품을 빠르게 만들어 볼 수 있도록 인프라를 구축하고 있다고 말했다. 평가, 비용 등 여러 요소에 관련된 것들인데, 이런 인프라를 기반으로 LLM을 활용해 사용자에게 큰 가치를 줄 수 있는 다양한 제품을 실험해보고 출시할 계획이다. 또한 여행에 특화된 자체 모델 출시도 검토 중이다.
한편 김승덕 야놀자 실장은 이달 27일 역삼동 포스코타워에서 열리는 '기업의 LLM 도입 전략 및 사례 세미나'에서 '야놀자 LLM 사용기 : 야놀자 LLM을 만나다'라는 주제로 발표한다. 이번 행사는 빅테크 LLM, 오픈소스 LLM에서 sLLM 활용까지 기업 개별 LLM 구축방안에 대해 집중적으로 소개된다. 자세한 정보는 세미나 홈페이지 (https://conference.etnews.com/conf_info.html?uid=279)를 통해 확인할 수 있다.
전자신문인터넷 유은정 기자 judy6956@etnews.com