2022년 11월에 출시된 챗GPT가 전 세계를 강타했다. 개인 사용자들은 개인의 삶을 더 쉽게 만들어준다는 점에 많은 흥미를 보이고 있다. 기업들도 그 활용성에 대해 주목하고 있고 실제 업무에 적용해 사용하고 있는 실정이다. 실제 기업 내에서 고객 상담, 자료 제작, 번역, 개발 코드 생성 등 다양한 업무 분야에서 활용되고 있다. 하지만, 기업 정보 유출 등에 대한 이유로 기업 내 사용에 한계가 있다는 지적도 여전히 있다.
장밋빛 미래와 우려가 공존하고 있는 지금의 챗GPT 시대에 엔터프라이즈 대화형 AI 플랫폼 선도 기업 코어에이아이 코리아 전상호 지사장을 만나 자세한 이야기를 나눴다.
지난해부터 챗GPT와 생성형 AI가 IT 업계의 핵심 이슈로 부상함에 따라, 기업의 업무에 폭넓게 적용돼 디지털 혁신을 이루는 데 크게 한몫을 할 것이라는 기대감이 높아진 것은 사실이다. 하지만 현재로서 챗GPT는 분명한 한계를 가지고 있다. 챗GPT는 특정 머신러닝 모델로, 주어진 프롬프트나 문맥에 따라 사람과 유사한 텍스트를 생성하도록 설계되어 있는 것이 특징이다. 사전 학습한 일반정보를 바탕으로 질문에 답할 수는 있지만, 기업의 업무를 보조하는 일은 훨씬 복잡하고 어려운 문제이다. 그 이유는 기업 내 데이터·시스템을 통합해 필요한 데이터를 불러오고, 협업을 연결하며, 다음 단계 일처리를 지원하는 역할까지 모두 수행해야 하기 때문이다.
코어에이아이와 같은 대화형 AI 플랫폼은 사용자가 자연어 대화를 통해 가상 비서와 상호 작용하여 솔루션을 제공할 수 있는 가상 비서를 구축하고 구현한다. 이러한 플랫폼에는 봇의 구축, 설계, 배포부터 봇 수명 주기 관리, 자연어 처리(NLP) 알고리즘, 머신 러닝 모델, 기업 통합에 이르기까지 모든 가상 비서가 효과적으로 작동하는 데 필요한 다양한 도구와 기능이 모두 포함되어 있다. 현재 형태의 챗GPT는 챗봇의 역할에 한정되어 있지만, 대화형 AI 플랫폼은 한 단계 더 나아간다.
현재 상황에서 챗GPT는 대기업 등 엔터프라이즈 환경 사용자에게 필요한 기능을 제공하는 데 있어서는 부족하다. 대화형 AI 플랫폼을 통해 기업과 조직은 고객 및 사용자와 진정으로 사람과 같은 방식으로 상호작용할 수 있는 통합 가상 비서의 설계, 교육, 테스트 및 배포를 포함한 엔드투엔드 라이프사이클을 유지할 수 있다. 따라서 고객 경험에 도움이 되는 인간과 같은 상호작용의 이점을 누리기 위해서는 챗GPT를 대화형 AI 플랫폼 내에서 사용하고 통합해야 한다. 그리고 앞으로 챗GPT가 발전함에 따라 저장하고 학습하는 데이터도 늘어날 것이다. 따라서 코어에이아이는 챗GPT를 기업 내에서 성공적인 대화형 AI 플랫폼 구축 및 배포를 위한 퍼즐의 한 조각으로 보고 있다.
방대한 양의 지식을 학습한 챗GPT는 상황에 대한 이해도가 매우 높다. 이러한 챗GPT가 비즈니스의 백엔드에 있는 대화형 AI 플랫폼에 내장되면, 과거 데이터를 기반으로 해당 조직에 대한 이해도를 높일 수 있고 신뢰할 수 있는 가상 비서를 구축할 수 있다. 예를 들어, 신입 사원은 일반적으로 인사팀이나 일선 관리자를 거쳐야 하는 자신의 역할에 대한 질문을 가상 비서에게 물어볼 수 있다. 이렇게 하면 양쪽 모두의 시간을 절약할 수 있고 조직은 정확한 정보를 제공해줄 수 있다.
국내 건설 대기업 포스코이앤씨에 차세대 AI비서 '포박사'를 구축한 사례가 있다. 포박사는 포스코이앤씨 IT 헬프데스크 및 해외 근무직원의 노무 관련 업무를 맡는 AI비서다. 해외 건설현장에 근무하는 직원들은 IT 관련 문의나 원격지원 요구사항이 있더라도 시차로 인해 국내 IT 헬프데스크 인력들의 지원을 받는데 어려움이 있었으나, 이를 AI비서로 해결해 24x365 서비스가 가능해졌다.
포박사에는 오픈소스 LLM(대규모 언어 모델)이 적용되었다. 코어에이아이는 XO 플랫폼 내에 임베드된 오픈소스 LLM을 활용함으로써 포스코이앤씨가 보유한 내부 정보 유출에 대한 우려가 없고, 소량의 데이터로 충분한 AI비서를 학습시킬 수 있도록 지원한다. 코어에이아이 클라우드 내부에 포스코이앤씨만을 위한 생성형 AI가 구축된 셈이다.
포박사에는 네이버가 개발한 생성형 AI '하이퍼클로바X'도 연동되었다. AI비서와 대화 중 회사 업무(IT 지원 및 노무) 이외의 문의가 있을 경우 범용 생성형 AI에게 직접 질문할 수 있게 함으로써 다양한 최신 정보들을 빠르게 확인할 수 있도록 한 것이다. 코어에이아이는 향후에 포스코이앤씨와 협력해 포박사를 HR 업무, 구매 포털 등으로 확산시켜 나갈 예정이다.
유은정 기자 judy6956@etnews.com