2023년은 글로벌 경기 침체에 대한 우려가 있지만 기업들은 기술에 대한 투자는 늦추지 않을 전망이다. 특히 클라우드와 인공지능 기술에 대한 투자는 기업의 미래를 담보할 수 있기에 이 부분은 투자 우선순위가 되고 있다. 클라우드 컴퓨팅은 IT 기업 뿐만 아니라 금융, 공공, 제조 등 전 산업에서 도입이 가속되면서 한국 IDC는 2023년 국내 퍼블릭 클라우드 시장이 전년대비 20.8% 성장을 전망했다.
한편, 오픈AI의 챗GPT로 촉발된 생성형 AI 기술의 확산으로 많은 기업들이 생성형 AI 도입에 적극적이다. 글로벌 정보 연구 기업 MVI(Market Value Insight)가 발표한 “한국 인공지능(AI) 시장 가치” 보고서에 따르면 2022년 국내 AI 시장 규모는 20억 7천만 달러를 넘어섰고, 연평균 25.44% 이상의 성장률로 2032년에는 약 199억 7천만 달러에 이를 전망이다.
이처럼 AI가 점차 생활과 산업에 빠르게 확산되면서 기업들은 고객의 요구에 부응하기 위해 AI 기술과 서비스 도입을 서두르고 있다. 하지만 기업 단독으로는 경험과 기술과 인력 부족으로 인해 AI 기술과 기업에 맞는 인프라 환경 도입을 결정하기란 쉽지 않다. 이에 국내외 주요 클라우드 공급업체(CSP, MSP)들도 다변화되고 급변하는 고객의 요구사항에 대응하기 위해 AI 및 ML 기능을 지원하는 서비스를 출시하며 적극 나서고 있다.
2005년 창립이래 오랜 기간 제조 공공 금융 유통, 리테일 등 다양한 분야에 클라우드 여정의 신뢰 높은 파트너로 실력을 쌓아온 클라우드 전문 MSP 기업 '디딤365'도 AI 기술과 서비스를 고려하는 기업들에게 편의성과 비용, 그리고 비즈니스 기회까지 지원하는 AI 서비스에 최적화된 클라우드 매니지드 서비스를 제공하고 있다.
모든 단계마다 고객 중심의 클라우드 서비스를 설계하고 개발 및 서비스를 하고 있는 디딤365의 장민호 대표를 만나 신기술 등장과 급변하는 고객 요구 사항에 따른 MSP의 현황 및 고객이 처한 문제와 이를 해결하려는 디딤365의 AI 도입 성공을 위한 기업 맞춤형 클라우드 매니지드 서비스 '디딤 AI MSP'에 대해서 들어봤다.
클라우드는 더 이상 신기술이 아닌 기본 IT 인프라가 되고 있다. 클라우드 네이티브, MSA(MicroService Architecture), SaaS(Software as a Service)는 물론 AI/ML이나 데이터 분석처럼 신기술과 서비스가 클라우드를 기반으로 끊임없이 등장하고 있다. 때문에 고객들은 기존에는 인프라 차원에서 클라우드의 전환이 중요한 관심사였다면 이제는 자신들의 인프라가 클라우드 환경으로 전환된 뒤 성능 및 비용에 대한 최적화에 비중이 높아졌다. 이에 빅데이터와 AI 기술 등을 도입해 생산성 향상과 새로운 가치를 창출하는 것을 더 중요시하고 있다.
이런 상황에서 클라우드 매니지드 서비스 기업(Managed Service Provider, MSP)은 고객의 요구에 대응하려면 민첩성과 확장성을 제공할 수 있어야 한다. 특히 고객이 보유한 데이터 및 비즈니스 노하우를 활용해 디지털 전환을 신속히 달성하고, 더 빠르게 고객이 원하는 서비스 개발이 가능한 방법을 제공할 수 있어야 한다.
MSP는 기본적으로 클라우드 도입을 위한 컨설팅부터 마이그레이션, 운영, 모니터링까지 클라우드 운영 환경 전반을 관리하는 사업자로 고객의 클라우드 전환에 있어서 중요한 역할을 수행하고 있다.
최근 공공 및 기업의 디지털 전환 가속화로 IT 인프라 환경이 클라우드로 전환되며 최신 기술과 서비스를 도입함에 따라 클라우드 도입 및 운영에 대한 복잡도가 증가하고 있다. MSP는 단순한 클라우드 운영을 넘어 고객이 도입하려는 기술에 대한 컨설팅, 설계 및 개발까지 폭 넓은 기술지원이 가능해야 한다. 특히 클라우드 환경은 개발과 운영의 분리보다 통합 운영이 더 생산적이므로 데브옵스(DevOps) 등 소프트웨어 개발과 운영을 통합해 효율성, 협력, 속도, 안정성을 개선하는 개발 및 운영 방법론 도입이 확대되고 있다.
최근 많은 기업들이 고려하고 있는 AI/ML 기술도 대부분 클라우드 환경에서 운영되거나 클라우드 공급 기업의 솔루션을 기반으로 하고 있어서 이에 대한 기술 지원도 MSP에 기대하고 있는 상황이다. 이제 MSP는 빅데이터, AI 등 고객이 보유한 데이터 활용을 지원할 수 있는 데이터 전문기업으로의 역량 확보가 필요해졌다.
우선 신기술 적응력이 부족하다. 클라우드 기술 환경은 급격하게 변화하고 있지만 대부분의 MSP 기업이 IaaS 수준에서의 인프라 운영만 가능한 수준이다. 클라우드 네이티브 및 MSA 기반 서비스 개발 기술 지원은 물론 AI/ML 도입 기술 지원 역량이 부족한 상황이다. 특히 최근 서비스 개발은 데브옵스와 같이 개발과 운영의 경계가 허물어지는 추세에 있어 운영 외에도 개발 역량이 요구되고 있다. AI 도입을 검토하는 기업의 경우 데이터 처리, ML 모델 구축, 모델 서빙 등 AI 서비스에 대한 워크플로 구축을 위한 지원이 필요한데, 대부분의 MSP는 충분한 준비를 갖추지 못하고 있는 상황이다.
그리고 신기술 적응력의 부족은 사실은 인력의 부족에서 비롯된다. 기업의 디지털 전환을 위해 관련 역량을 보유한 인력이 필요하지만 현실은 그렇지 못하다. 고용노동부가 지난 9월 31일 발표한 조사보고서에 따르면 향후 5년간('23~'27) 인공지능(AI)분야에서 1만2800명이 부족하다. 특히 MSP 기업은 IaaS 기반 운영 인력 위주로 인력을 보유하고 있는 상황에서 MSA나 AI/ML 등 새로운 기술 분야에 대한 인력 확충은 어려운 상황이다.
이외에도 SI 기업들의 사업 영역 확대도 MSP 사업에 어려움을 더하고 있다. 기술의 발전으로 서비스가 컨설팅, 개발, 구축, 운영 전반으로 확대되다 보니 기존 SI 기업들이 MSP 영역까지 사업 확대를 추진하고 있다. MSP 기업은 동종 업계와의 경쟁 뿐만 아니라 SI 기업과의 경쟁도 피할 수 없어 컨설팅, 개발, 운영 전반에 대한 지원이 가능할 수 있도록 역량 확보가 절실한 상황이 됐다.
전 산업 영역에서 챗GPT로 촉발된 LLM(Large Language Model) 기반의 '생성형 AI'가 초기 인터넷이나 스마트폰의 출현 보다 더 큰 충격파로 다가 왔다. 기존 기술은 사업 분야나 시장 영역에 따라 선별적으로 영향을 주었지만, AI 기술의 경우 산업 분야를 가리지 않는다. 최근 국내에서도 자연어처리, 컴퓨터비전, 머신러닝 등의 AI 기술을 도입하고 있는데, 기업의 제품과 서비스 개발 외에도 마케팅과 판매, 고객 대응의 효율성을 높이고 있다. 특히 클라우드 컴퓨팅을 적극 활용할수록 더 높은 비즈니스 성과를 가져올 수 있다.
AI 도입을 성공적으로 진행한 기업과 그렇지 않은 기업간 격차가 크게 벌어질 것으로 예상되는 가운데 기업 비즈니스에서 AI 기술 기반의 디지털 전환은 선택이 아니라 필수가 되었다.
다수의 기업들이 AI를 비즈니스에 활용하고자 다양한 프로젝트를 추진 중이지만, 예상과 달리 시행착오를 많이 겪고 있다. AI를 비즈니스에 도입하려면 AI 모델확보 뿐만 아니라 데이터 구축, 서비스 개발 및 운영 등 복합적인 역량이 필요하다. AI를 도입해 해결하려는 명확한 문제 정의와 성공 기준 수립이 필요한데 막연한 기대감으로는 실패하기 쉽다.
AI를 도입해 특정 문제를 해결하더라도 관련 기술이 빠르게 발전하고 있어 기 구축한 AI 서비스에 대해 대한 지속적인 업데이트가 필요하다. 대체로 일부 파편화된 상태로 AI 솔루션을 구축하는 경우가 많아 개발과 관리에 드는 자원 및 비용이 증가할 수 있어 다양한 측면에서 고려가 필요하다.
이런 이유로 기업이 AI 전환에 성공하려면 다양한 경험을 축적하고 고객 비즈니스를 충분히 이해하고 문제를 정의하고, 데이터 구축·AI 모델 개발·인프라 설계·구축·운영 및 관제 전반이 가능한 AI MSP 파트너가 필요하다. 기업은 실력을 갖춘 파트너의 AI MSP를 활용해 각종 인프라 구축에 대한 부담에서 벗어나 본연의 비즈니스에만 집중할 수 있다.
디딤365의 AI MSP는 기업의 성공적인 AI 도입 및 전환을 위해 해당 비즈니스 도메인의 이해를 기반으로 문제 정의, 데이터 구축, 모델 배포, 모니터링, 운영 등 AI 서비스 구축 전 과정을 지원하는 서비스이다. 디딤365는 고객의 AI 전환을 위한 각 단계별 기술 지원과 솔루션을 제공하고 있으며, AI MSP 서비스는 크게 4개 영역으로 이루어진다.
우선 AI 도입 컨설팅 단계에서는 AI 도입 및 전환을 위한 최적의 방법과 전략과 고객 비즈니스 요구에 적합한 생성형 AI 및 분석형 AI 도입이 가능하도록 단계별 방법과 프로세스를 제시한다. 데이터 구축 단계에서는 AI 도입 시 가장 많은 시간이 소요되고 중요한 단계로 디딤365는 고객이 보유하고 있는 다양한 데이터에 대한 수집, 가공, 저장을 위한 데이터 구축 솔루션 제공 및 기술 지원을 제공한다. 대용량 데이터 구축을 위한 데이터레이크 구축, ETL 프로세스 구축, 데이터 분석 및 시각화 툴을 제공한다.
AI 서비스 개발 단계에서는 생성형 AI 및 분석형 AI 모델 별 개발, 배포 및 운영 전과정을 위한 도구와 서비스를 제공한다. 최적의 ML 모델 구축을 위한 ML 파이프라인 구성과 모델 서빙 자동화 등 MLOps 구축 및 기술 지원, 챗GPT, 하이퍼클로버X를 포함하려는 고객 요구에 맞는 생성형 AI 도입 프로세스를 제안한다. 운영 및 모니터링 단계에서는 AI 적용 서비스에 대한 안정적인 운영과 지속적인 모니터링 통한 업데이트 지원, AI 서비스 인프라 운영이 고려 필요한 비용 최적화 방안을 제시한다.
고객은 AI 서비스 개발을 위해 필요한 데이터 처리, 모델 학습, 클라우드 인프라 설계, 운영 등은 디딤365에게 맡기고 핵심 비즈니스에서 집중할 수 있어서 빠른 서비스 개발이 가능하다.
디딤365가 내세우는 서비스 차별점은 우선 공공기관 및 다수의 기업 대상의 SaaS 및 MSA 관련 다양한 경험과 노하우로 다져진 기술력으로 AI 도입을 고려하는 기업과 조직에 MSA 기반 서비스 개발 시 전문 컨설팅 및 안정적인 기술 지원이 가능하다는 것이다.
여기에 클라우드 서비스 보안인증(CSAP)이 필수로 표준등급 기준 13개 분야 79개 통제항목을 충족시켜야 하는 공공기관의 SaaS 서비스 면에서도 디딤365는 다수의 CSAP 컨설팅 경험을 보유하고 있다. MSP로 인증을 위한 증적자료 외에도 정보시스템 취약점 진단 및 조치를 위해 전담 컨설턴트와 엔지니어, 전문 솔루션을 체계적으로 지원하고 있다.
디딤365는 △NIPA 고성능 컴퓨팅 지원 사업의 운영 주관사로 참여하면서 AI 전문기업에게 효율적인 HPC(High Performance Computing) 자원을 성공적으로 지원한 AI MSP로 AIaaS 노하우△올 해 민간·공공 데이터와 서비스를 연결해 융합·활용할 수 있는 통합 플랫폼인 디지털플랫폼정부(DPG)의 '데이터레이크 운영' 사업 수주를 포함한 다양한 대용량 데이터 파이프라인 구축 및 ETL(extract, transform, load) 역량 △한국지능정보사회진흥원(NIA)의 지능정보산업 인프라 조성사업으로 추진되고 있는 AI 허브 사업의 인프라 운영을 통한 대용량 데이터 관리 및 AI 학습을 위한 컴퓨팅 자원 제공을 위한 노하우를 보유하고 있다.
하이퍼클로버X MSP 파트너로도 참여해 LLM 기반의 AI 챗봇 서비스 및 파인 튜닝과 RAG(Retrieval-Augmented Generation)를 적용하여 지식 관리 시스템을 구축한 경험도 갖추고 있다. 이 기술은 AI 환각문제 해결에도 필요한 기술이다.
기본적으로 업무 효율성을 높이려는 서비스, 제조 분야 기업과 AI를 활용해 새로운 서비스를 개발하려는 교육, 헬스케어, 유통 분야 기업 중심으로 고객을 확대해갈 방침이다. 기업별 비즈니스 목표에 따라 AI 도입 필요성이 각기 다르므로 고객 요구에 맞는 최적의 AI 도입 방법론을 제시해 고객 비즈니스를 성공으로 이끄는 파트너가 되겠다. 특히 교육 부문에서 AI 디지털교과서가 2025년부터 도입됨에 따라 디지털교과서 구축에 클라우드 전환 및 AI 도입이 필요한 상황이다. 현재 다수의 출판사와 CSAP 인증 컨설팅을 진행중이며, 주요 생성형 AI 기반으로 교육분야에서의 AI MSP 고객을 빠르게 확보해 갈 것이다.
또한 기업이 쉽게 업무에 LLM 모델을 도입할 수 있게 SaaS 형태의 솔루션도 제공할 것이다. 개별 기업이 별도 솔루션 구축 없이 보유하고 있는 주요 지식 문서를 온라인으로 업로드하면 챗봇 등 LLM 서비스를 사용할 수 있게 하는 서비스다. 중소기업의 경우 부담 없이 LLM 모델을 사용할 수 있을 것이다. 분석형 AI 도입이 필요한 기업에는 대용량 데이터의 수집, 변환, 적재를 위한 솔루션을 제공하고 모델 학습 및 배포를 쉽게 할 수 있는 MLOps 인프라를 제공해 빠른 AI 전환을 지원할 예정이다. 디딤365의 실시간 캠페인 솔루션을 활용해 개인화 마케팅이 필요한 고객을 대상으로 CSaaS(Campaign Solution-as-a-Service) 형태의 솔루션 공급도 확대할 것이다.
이외에도 기존 디딤365가 제공하는 CMP(Cloud Managed Platform)에 생성형 AI 기술을 접목해 24시간 고객 대응 서비스 고도화를 추진하면서 고객 문의 및 요청을 분석해 최적의 매니지드 서비스를 제공할 것이다. 고객 인프라 사용 패턴을 AI로 분석해서 필요 시 사전에 인프라를 유연하게 조절해 비용 최적화를 지원할 것이다. AI 시대 가장 효과적이고 효율적인 클라우드 컴퓨팅 활용에 있어서 모든 단계에 실력과 신뢰로 고객의 비즈니스 성공 파트너가 되겠다.
전자신문인터넷 유은정 기자 judy6956@etnews.com