슈퍼마이크로가 데이터 수집에서 고성능 데이터 전송에 이르기까지 AI 및 ML 데이터 파이프라인을 위한 풀 스택 최적화 스토리지 솔루션을 출시한다고 30일 밝혔다.
해당 솔루션은 GPU 데이터 파이프라인을 완전히 포화 상태로 유지함으로써 AI의 가치 실현 시간을 극대화한다.
또한 AI 교육을 위해 페타스케일 용량의 대량의 원시 데이터를 수집, 변환 및 조직의 AI 워크플로우 파이프라인에 로드할 수 있다. 이 다중 계층 슈퍼마이크로 솔루션은 운영 환경에서 AIOps 및 MLOps용 멀티 페타바이트 데이터를 제공하는 것으로 입증됐다.
슈퍼마이크로의 전체 멀티 랙 스케일 솔루션은 구현 위험을 줄이고 조직이 모델을 더 빨리 훈련할 수 있도록 하며 결과 데이터를 AI 추론에 빠르게 사용하도록 설계됐다.
아울러 4개의 애플리케이션에 최적화된 NVIDIA HGX H100 8-GPU 기반 공랭식 서버 또는 8개의 NVIDIA HGX H100 8-GPU 기반 수냉식 서버를 구동하는 랙당 20PB의 고성능 플래시 스토리지를 통해 고객은 AI 및 ML 애플리케이션을 가속화할 수 있다.
이에 더해 최소 구축으로 스토리지 클러스터당 270GB/s의 읽기 처리량과 390만 IOPS를 제공할 수 있으며 최대 수백 페타바이트까지 쉽게 확장할 수 있다. PCIe 5.0 및 E3.S 스토리지 디바이스가 포함된 최신 Supermicro 시스템과 WEKA Data Platform 소프트웨어를 사용하면 현장에서 테스트한 이 랙 스케일 솔루션으로 AI 애플리케이션의 성능이 크게 향상된다.
GPU의 생산성을 유지하기 위해서는 지연 시간이 적고 대역폭이 큰 GPU 서버가 대규모 AI 트레이닝 프로세싱에 사용되는 페타바이트의 비정형 데이터를 사용할 수 있어야 한다.
인텔과 AMD 기반의 스토리지 서버로 구성된 슈퍼마이크로의 광범위한 포트폴리오는 AI 파이프라인의 중요한 요소다. 여기에는 NVMe 5세대 플래시 용량의 서버당 983.04TB의 용량을 가지며 최대 230GB/s의 읽기 대역폭과 3천만 IOPS를 제공하는 슈퍼마이크로 페타스케일 올 플래시 스토리지 서버가 포함되고 용량 객체 계층을 위한 슈퍼마이크로 슈퍼서버 90 드라이브 베이 스토리지 서버가 추가된다. ML, GenAI 및 기타 계산이 복잡한 워크로드의 고객들은 정밀하게 테스트된 해당 솔루션을 사용할 수 있다.
슈퍼마이크로 한국총판 슈퍼솔루션 관계자는 “고객들은 AI 교육을 위한 새로운 스토리지 솔루션을 통해 당사의 가장 진보된 GPU 서버 랙 스케일 솔루션의 사용률을 극대화하여 TCO를 절감하고 AI 성능을 향상시킬 수 있는 좋은 기회가 될 것”이라고 전했다.
전자신문인터넷 구교현 기자 kyo@etnews.com