'많은 그랙픽처리장치(GPU)·고성능컴퓨팅(HPC)·인공지능(AI) 스케줄링 시스템과 비교했을 때 쿠버네티스(Kubernetes) 컨테이너 엔진을 기반으로 한 AI 스테이션(Station)은 사용자인터페이스(UI) 디자인 방면에서 기존 존재하는 시스템보다 압도적이다.'
중국 서버기업 인스퍼(Inspur)는 최근 해외 전문 평가 기관인 STH(ServeTheHome)가 엔터프라이즈급 인공지능(AI) 개발 플랫폼 'AI 스테이션' 성능을 시험한 결과, 이같은 호평을 받았다고 8일 밝혔다.
STH는 관리자와 사용자 두 가지 점에서 AI 스테이션 성능을 시험했다. 관리자 모드에선 클러스터 관리, 유저 생성, 리소스 할당, 리소스 모니터링 등 기능을 시험했다. 사용자 모드에선 트레이닝, 태스크 생성, 태스크 시작 및 완료까지 모든 프로세스를 평가했다.
STH는 이번 시험 평가에서 AI 클러스터 운영을 잘하는 것이 딥 러닝 문제를 해결하는 새로운 방법을 찾는 것만큼 중요하지는 않지만 그룹 내에서의 공유 리소스를 확장하는 것이 필수적”이라고 지적했다.
STH는 AI 스테이션이 백그라운드에서 실행되면 대부분의 일상적인 관리 작업은 스크립트 또는 웹 GUI를 통해 수행할 수 있기 때문에 관리자는 각 노드의 부하와 하드웨어 구성을 체크할 수 있을뿐 아니라 사용자 모드에서 컨테이너, 하드웨어·단일 GPU까지 전체 프로세스 추적도 가능한 것으로 평가했다.
시험평가기관은 관리자는 권한에 따라 전체 클러스터에 액세스할 수도 있는 것으로 평가했다. 예를 들어, 느린 태스크의 경우 관리자는 모니터링 도구를 사용해 태스크 및 문제를 발생시키는 컨테이너를 찾고 하드웨어 방면으로 직접 액세스해 잠재적인 하드웨어 문제를 확인할 수 있었다는 것이다.
이외 AI 스테이션에는 클러스터를 모니터링 하기 위한 전체적인 가시화 인터페이스가 있고 인터페이스에서 CPU, GPU, 메모리 사용량과 같은 정보를 볼 수 있기 때문에 클러스터 라이프사이클 관리 유형의 데이터에서는 관리자가 리소스 할당과 시스템 용량을 보는 데 도움이 되는 것으로 평가했다.
안수민기자 smahn@etnews.com
