SK텔레콤은 '텔코LLM'을 통신에 있어서만큼은 범용AI인 챗GPT, 코파일럿 등 성능을 능가하는 전문성을 확보하는데 집중한다. 범용 자체 초거대 모델을 고집하지 않고 오픈AI, 엔트로픽 등 일류 기업 AI를 튜닝해 성능을 극대화하는 것이다. 글로벌텔코AI얼라이언스 등 협력체를 통해 글로벌 시장 진출도 용이할 것으로 기대했다.
SK텔레콤의 텔코LLM은 에이닷엑스, GPT-4, 클로드의 성능을 조합해 통신서비스와 사업, 내부 관리에 특화한 다양하고 정확한 기능을 제공한다. 검색증강생성 기능이 대표적이다. 기존 AI 또는 검색 시스템은 'VIP 영화혜택이 달라진 점이 있나'라고 물었을 때 2024년 A영화관 티켓 1+1을 제공한다고 답한다. 반면 텔코LLM 생성AI를 적용하면 “2023년에는 B영화관과 제휴했지만 2024년부터는 A영화관 서비스를 제공하며 혜택도 어떤 부분이 확대됐다”고 정확하고 입체적으로 응답한다. 이같은 기능은 고객의 요금제 추천, 부가서비스 변경 등에도 효과적으로 활용 가능하다.
텔코LLM은 고객센터 응대시간도 획기적으로 줄일 것으로 예상했다. 현재 고객센터 평균 상담시간은 3분, 업무처리는 30초 가량이 걸린다. 텔코LLM은 검색증강생성을 통해 해결책을 보다 빠르게 상담사에 제공하고, AI가 상담 요약까지 전달한다. 소요시간을 획기적으로 줄일 것으로 기대했다. 텔코LLM 중 통신 관련 데이터에는 클로드를 적용했다. 클로드 버전은 AI 윤리를 적용하고 욕설, 비속어 등을 걸러낼 수 있다.
텔코LLM은 통신사 사내 업무를 위한 다양한 기능도 제공한다. 통신관련 보도자료, 보고서 등 산업에 특화한 문서를 학습하다보니, 초안을 작성해줄 수 있다. 계약서 오류 여부 등도 검토한다. 인프라 운용자가 네트워크 모니터링 중 문제가 발생하면, 실시간으로 텔코LLM에 질문을 입력해 해결 방안을 받는 방식으로 대응 시간을 줄인다.
SK텔레콤은 각 생성AI를 조합한 멀티LLM과 검색증강생성, 관리기능 등을 패키지화한 '인텔리전스 플랫폼'을 상품화해 글로벌 시장 문을 두드린다. 통신업에 특화한 소프트웨어(SW)·인프라 패키지를 제공해 다른 글로벌 통신사도 고객센터 콜봇, 챗봇, 유통 채널 어시스턴트, 인프라 어시스턴트, 사내 업무 혁신 등에 활용하도록 하는 것이다. 이를 위해 현재 한국어를 중심으로 언어모델을 학습한데 이어 외국어 학습도 진행할 계획이다.
정민영 SK텔레콤 담당은 “고객센터, 인프라, 마케팅·유통망 등 고객 접점이나 법무, HR와 같은 사내 업무까지 통신사 운영의 다양한 영역에서 텔코LLM이 업무 효율성을 높일 것”이라며 “지속적으로 텔코LLM을 활용한 유즈케이스를 늘려가고, 해외진출까지 모색하겠다”고 말했다.
박지성 기자 jisung@etnews.com
