“생성형 AI 열풍으로 다양한 분야에서 AI 도입이 빠르게 증가하고 있습니다. 하지만 AI 솔루션사는 AI 구축 전에는 투자 비용, AI 구축 이후에는 인프라 확장과 운영 비용으로 진입 장벽에 어려움을 겪고 있습니다.”
이태경 KT클라우드 팀장은 제3회 C-클라우드 2024에서 'AX시대, 비즈니스 혁신을 위한 KT클라우드의 AI추진 방향'을 주제로 한 기조 강연에서 AI 도입 방향성을 제시했다.
이 팀장은 “KT클라우드는 20년간 클라우드와 데이터센터 사업을 주도해오며 AI 기술 기반의 시장을 만들고 있다”며 “KT클라우드는 AI 컨설팅, PaaS, IaaS 서비스 등 AI 서비스 개발 전체 과정을 지원하고 있다”고 말했다.
KT클라우드는 AI 풀스택 전략을 추진하고 있다. KT클라우드는 지난 5월과 6월에 국내외 AI반도체 기업과 손잡고 AI 기술 개발에 필요한 AI 인프라 AI Train과 AI SERV NPU를 출시했다.
AI Train은 대규모 GPU 클러스터링을 제공하는 엔비디아 GPU 기반의 학습 전용 인프라다. H100, A100, V100 등 고객 니즈에 따라 맞춤형 서비스를 제공한다.
AI SERV NPU는 리벨리온과 협업한 추론 전용 인프라다. 기존 GPU 기반 추론용 인프라보다 가성비를 높이고, 자동화 유지보수, 스케일링 기능을 갖춘 서비스다.
국내 AI 반도체(NPU)는 시장 초기 단계로 매출 확대가 아닌 기전 범용 GPU를 NPU로 전환하는 사례를 만드는 게 중요하다.
KT클라우드는 공공에서는 고성능컴퓨팅사업, AI바우처 사업 등을 진행 중이며, 민간에서도 스타트업, 엔터프라이즈 기업, 금융권, 글로벌 기업 등에 AI 솔루션을 지원하고 있다.
이 팀장은 “KT클라우드가 국내외 유수의 AI 파트너사들과 전략적 파트너십 체결을 통해 국내 AI 생태계 혁신을 리드하며 AI 전략을 본격화하고 있다”고 전했다.
박두호 기자 walnut_park@etnews.com
