망고클라우드는 생성형 인공지능(AI) 기술로 조직 내 방대한 양의 정형·비정형 데이터를 자동 수집·학습해 사용자의 질문에 답변하는 챗봇 서비스 '헤이망고'를 출품했다.
헤이망고는 방대한 양의 정형 데이터와 비정형 문서의 정보를 바탕으로 거대언어모델(LLM)이 학습할 수 있는 형태의 지식 데이터를 생성한다. 또한 복잡한 자연어처리(NLP) 기술을 통해 사용자 의도를 정확하게 파악하고, 어떠한 문맥에서도 매끄러운 대화 흐름을 이어준다. 이를 통해 전문지식이 없는 이용자도 업무 중 필요한 정보나 민원 응대 과정의 정보 등을 일상 언어로 질문해 답변받을 수 있다.
만족도 평가 기능을 제공해 사용자 개별 피드백을 수집하고 초개인화된 보완 학습을 자동으로 진행한다. 불만족 답변 피드백 정보를 바탕으로 재학습과 지식 데이터 개선을 진행, 더욱 정교한 답변을 제공하도록 한다.
답변 정확도를 높이는 기술도 적용했다. 답변 제공 전 지식 데이터에서 관련된 정보를 자동 탐색하는 검색증강생성(RAG) 기술과 여러 개 후보 답변을 유사도 기반으로 정렬해 적절한 정보를 찾아주는 '재순위화(Re-Ranking)' 기술을 활용했다.
민감정보 유출 문제도 해소했다. 내부 데이터 중 특정한 개인이나 법인을 특정하거나 유추할 수 있는 정보를 비식별화 처리해 지원한다. 이를 통해 개인정보를 보호하고 데이터 활용성을 높일 수 있다.
헤이망고는 고성능 그래픽처리장치(GPU)와 같은 인프라 없이도 이용할 수 있도록 서비스형 소프트웨어(SaaS) 형태로 제공한다. 이에 따라 하드웨어 도입에 별도의 재원을 투입하지 않아도 내부 업무 지원이나 외부 민원 응대 등 다양한 목적으로 챗봇 서비스를 이용할 수 있다.
망고클라우드는 헤이망고를 다양한 산업 분야에서 활용할 수 있도록 생성형 AI 기반 업무 지원 및 민원 상담 서비스를 제공할 계획이다.
백진성 망고클라우드 대표는 “현재 교육, 행정, 공공기관 등에서 헤이망고에 대한 개념검증(PoC)을 진행하고 있다”며 “데이터 시각화, AI 검색 기능 등 서비스 고도화를 위한 원천 기술을 지속 확보하고 있기 때문에 헤이망고 서비스는 다양한 분야의 기관이나 기업의 실질적 업무 지원에 큰 도움이 될 것으로 기대한다”고 말했다.
현대인 기자 modernman@etnews.com
