KT클라우드, 초거대 AI 학습용 GPU 인프라 구축

KT클라우드, 초거대 AI 학습용 GPU 인프라 구축

KT클라우드가 12월까지 KT 대덕2연구센터에 초거대 인공지능(AI) 학습용 그래픽처리장치(GPU) 인프라를 구축한다.

초거대 AI는 대용량 연산이 가능한 GPU 인프라를 바탕으로 대규모 데이터를 학습해 사람처럼 스스로 사고할 수 있도록 설계된 AI다.

KT클라우드는 HAC(Hyperscale AI Computing)와 엔비디아의 GPU 어플라이언스를 병행 도입한다. KT클라우드의 HAC는 세계 최초 종량제 GPU 서비스다. HAC의 GPU로는 AMD 제품을 사용했다.

KT클라우드가 초거대 AI 언어모델 학습 테스트를 진행한 결과, HAC는 동등한 조건의 기존 구축형 서비스 대비 30~50% 비용 절감 효과를 낼 수 있는 것으로 나타났다. KT클라우드는 서버 팜을 지속적으로 증설할 계획으로 향후 최대 10분의 1 수준 효율적 비용으로 동급 연산 자원을 제공할 수 있을 전망이다.

KT클라우드, 초거대 AI 학습용 GPU 인프라 구축

KT클라우드는 초거대 AI 학습 성능개선과 재학습결과 등을 검토·보완해 글로벌 톱티어 수준까지 기술력을 끌어올린다는 계획이다. 국내 기업인 '모레(Moreh)'와 협력해 최적화된 AI 프레임워크를 개발하는 한편, '리벨리온(Rebellions)'과 국산 AI 클라우드 반도체 칩 개발도 추진 중이다.

윤동식 KT클라우드 대표는 “HAC는 초거대 AI 연구와 서비스 개발에 필수적인 대규모 인프라를 제공한다”며 “초거대 AI 산업의 문턱을 낮춰 대규모 GPU 인프라가 필요한 AI 전문기업·스타트업 등과 성공 사례를 만들겠다”고 말했다.

권혜미기자 hyeming@etnews.com