“인공지능(AI) 시대의 클라우드는 AI를 위한, AI에 의한, AI의 클라우드가 될 것입니다. 새로운 패러다임이 등장하면 기존 서비스의 가치는 떨어질 수밖에 없습니다. AI 시대에 맞는 새로운 경쟁력을 확보해야하는 것이 클라우드 업계의 당면 과제 입니다.”
오종훈 디지털플랫폼정부위원회 인프라분과 위원장은 26일 전자신문이 한국클라우드산업협회와 공동 주최한 'C-Cloud 2024' 컨퍼런스 특별강연에서 이 같이 강조했다.
오 위원장은 “앞으로 1인 1 AI 시대를 넘어 여러개의 AI를 소유하는 세상이 열릴 것”이라면서 “AI 시대에 무엇을 해야할 지 심각하게 고민해야할 때”라고 진단했다.
그는 “정보기술(IT) 인프라가 전혀 없던 아프리카에 220여개가 넘는 AI 스타트업이 생겨나고 인도네시아에서 하버드대학의 AI 기반 강의를 수강하는 세상”이라면서 “우리나라도 AI시대 일어나는 세상의 변화에 뒤처지지 않기 위해 정부와 기업 모두 경쟁력 확보에 주력해야한다”고 강조했다.
오 위원장은 AI시대 클라우드 경쟁력 확보를 위해 △거대언어모델(LLM) △데이터 및 융합도구 △에코시스템 △성공사례 등을 다각도로 준비하고 대응해야 한다고 제언했다.
그는 “클라우드, LLM 등 AI 서비스를 개발할 수 있는 기본적 환경만 제공된다면 대학생도 몇 주 만에 AI 서비스를 만들어낸다”면서 “AI를 위한 개발환경 제공뿐만 아니라 이를 잘 사용할 수 있는 수요 기업을 적극 유치하고 다양한 분야의 성공사례를 만들어내는 것이 클라우드 기업이 경쟁력을 확보하는 지름길”이라고 덧붙였다.
학습에서 추론으로 빠르게 전환되고 있는 생성형 AI 수요를 각 산업분야에서 비용 효율적으로 적극 활용하기 위해 엣지의 역할이 중요하다는 의견도 제기됐다.
김진용 지코어코리아 프리세일즈 팀장은 기조연설에서 “AI 학습을 위해서는 A100, H100, GB200과 같은 서버를 대규모 클러스터로 구성한 강력한 컴퓨팅 파워의 AI인프라가 중요했다”면서 “이제 산업과 연결돼 실질적인 성과를 내야하는 AI추론에 있어서는 짧은 지연시간, 높은 대역폭, 높은 데이터 주권과 보안이 중요시된다”고 말했다.
이어 김 팀장은 “AI구축과 배포에 드는 막대한 비용을 효율화하고 현장에서 AI를 빠르게 적용해 혁신을 이끌 엣지를 주목해야 한다”고 강조했다.
실시간 추론서비스에 있어 응답시간이 매우 중요하다. 지코어를 이를 지원하기 위한 솔루션을 보유했다.
김 팀장은 “지코어 인퍼런스 앳더 엣지는 180개 이상의 엣지 노드로 구성된 지코어의 광범위한 글로벌 네트워크(PoP)에서 사용자가 요청을 보내면 지연 시간이 가장 짧은, 가장 가까운 엣지 추론 노드로 경로를 설정한다”면서 “일반적으로 30밀리초(ms, 1000분의 1초) 미만의 응답 시간을 보장한다”고 소개했다.
이어 그는 “무엇보다 지코어 각 엣지에서의 AI 추론은 이를 위해 특별히 설계된 업계 내 최고의 칩인 엔비디아(NVIDIA) L40S GPU에서 실행된다”면서 “네트워크 간 최대 대역폭도 200Tbps로 최고 수준의 학습과 추론이 가능하며 초저지연 리얼타임으로 AI추론 서비스를 구현할 수 있다”고 덧붙였다.
김 팀장에 따르면 엣지에서의 AI추론은 단일 엔드포인트에서 서버레스 기능을 통해 단 몇 분 만에 전세계에 추론 서비스를 손쉽게 개시할 수 있게 해준다. 여러 형식 또는 여러 소스로부터 데이터를 수신, 모델을 사용 사례에 맞게 선택하고 학습한 후 세계 곳곳에 위치한 인퍼런스 앳더 엣지 노드를 통해 비용 효율적 배포가 가능하다는 것이 회사측 설명이다.
김 팀장은 “현재 지코어 글로벌 CDN 기반의 아키텍처에서 더 나아가 가까운 시일 내에 CDN, DNS, VP, 인퍼런스, 컨테이너, 데이터베이스, 쿠버네티 등 엣지 네트워크를 위한 통합 노드 플랫폼을 선보일 것”이라며 “이를 기반으로 오는 2026년까지15밀리초(ms, 1000분의 1초) 미만의 응답 시간을 보장할 계획”이라고 전했다.
이어 김 팀장은 “이러한 강점을 통해 지코어 인퍼런스 앳더 엣지는 자동차, 제조업, 유통, 테크놀로지 등 다양한 산업 분야 기업이 비용 효율적이고 확장 가능하며 안전한 AI 모델 배포를 통해 역량을 강화하도록 지원한다”면서 “기업은 생성형 AI, 객체 인식, 실시간 행동 분석, 가상 비서, 생산 모니터링과 같은 사용 사례를 글로벌 규모로 빠르게 실현할 수 있다”고 강조했다.
한편 이날 행사에는 KT클라우드, 클라이온을 비롯해 오케스트로, 안랩, 나무기술, 아콘소프트, 이데아텍, 로그프레소 등 국내 클라우드 대표 주요 기업이 참여해 기술과 구축 사례 등 정보를 공유했다. 이밖에 빔소프트웨어, 영림원소프트랩, STEG 등 기업이 부스를 마련해 기술을 알렸다.
김지선 기자 river@etnews.com
