디지털 전환 전문 기업 인스웨이브시스템즈(대표 어세룡)가 생성형 인공지능(AI) 모바일 애플리케이션 'W-Talk'를 온디바이스 AI 방식으로 출시했다고 27일 밝혔다. 온디바이스 AI는 서버를 거치지 않고 스마트폰과 개인용컴퓨터(PC) 등 단말기 내부에서 대형언어모델(LLM)을 실행하는 방식이다.
온디바이스 AI 방식은 멀리 떨어진 서버를 활용하지 않는 만큼 개인 스마트폰에서 맞춤형 기능을 활용할 수 있는 게 특징이다. 또한 단말 기기 내부에서 정보를 처리하기 때문에 빠른 작업이 가능하다. 중앙 서버를 통하지 않기 때문에 클라우드 기반 AI의 문제점으로 대두되었던 보안 문제도 해결할 수 있다.
W-Talk 앱은 웹스퀘어에 대한 전문가 수준의 답변, 관련 코드 예제 생성 기능과 함께 저성능 기기를 위한 서버 기반 LLM 챗봇 서비스이다. 앱을 통해 인스웨이브 제품군 문의에 대한 답변을 자연스러운 대화 형태로 지원해 사용자 만족도를 향상할 전망이다.
W-Talk 앱은 사용자가 질문한 맥락을 정확하게 파악하고 관련 정보를 개발 가이드, API, 예제, 지식DB 등의 자료 기반으로 답변하도록 구현했다. 기존 단순 검색 방식에서 맥락 파악과 문의와 답변 형태의 정보 전달로 보다 쉽고 효율적인 차세대 검색 기술을 지원한다.
또한, W-Talk 앱 개발에 활용된 LLM, 유사도 검색, 임베딩 기술은 'W-Matrix for Mobile' 플랫폼에 통합되어 자체 온디바이스 LLM 애플리케이션을 개발하고자 하는 기업에 판매될 예정이다.
인스웨이브 관계자는 “인스웨이브의 다양한 솔루션들이 국내외에서 활용되고 있다”라며, “이번 W-토크 앱 출시를 통해 개발자들이 필요한 정보를 더욱 빠르고 정확하게 얻을 수 있도록 지원하고자 했다”라고 전했다.
이어 “개발자들이 개발 과정에서 큰 도움을 받을 수 있을 것으로 기대한다”라며, “제품 판매뿐만 아니라 사용자 서비스 품질 향상을 위한 다양한 기술지원 콘텐츠 제공에도 집중할 예정”이라고 밝혔다.
안수민 기자 smahn@etnews.com
