“AI 도입으로 그래픽처리장치(GPU), 중앙처리장치(CPU) 등 인프라 비용가 가장 큰 문제입니다. IBM 인프라 '파워10'은 경쟁사 대비 초거대언어모델(LLM)을 사용할 때 초당 42% 더 많은 질의를 처리하고 있습니다”
유부선 한국IBM 상무가 26일 서울 강남구 그랜드 인터컨티넨탈호텔에서 전자신문 주최로 열린 최고정보책임자(CIO)·최고정보보호책임자(CISO) 조찬 세미나에서 'AI 기반 비즈니스를 위한 서버 인프라 전략'을 주제로 발표하며 이 같이 강조했다.
IBM 파워10은 엔터프라이즈급 서버와 메인프레임 시스템에 사용된다. AI 워크로드 처리 능력이 뛰어난 인프라다. 이전 세대보다 에너지 소비가 낮고, 클라우드 환경에서 데이터 보안은 더 강화됐다.
유 상무는 “IBM의 파워10은 GPU 메모리 크기에 따르는 모델 사이즈의 제약이 없고, 추론을 위한 데이터를 CPU에서 GPU로 옮겨갈 필요도 없다”며 “GPU와 달리 가상화 방식에 적합하며, 다수의 동시 접속자 질의를 처리할 때는 엔비디아 V100보다 뛰어난 성능을 보인다”고 말했다.
IBM의 파워10은 엔터프라이즈 기업에서 주요 사용하고 있다. 아시아태평양 대형 병원, 유럽 금융기관, 북미 소매업체 등에서 IBM 인프라를 기반으로 AI 솔루션을 고객에게 제공하고 있다.
IBM은 같은 날 열린 'AI 이노베이션 컨퍼런스'에서도 생성형 AI 시대의 전략을 공유했다.
IBM은 AI와 데이터를 위한 플랫폼으로 왓슨x.ai, 왓슨x.데이터, 왓슨x.거버넌스 솔루션을 제공하고 있다.
이설화 한국IBM 실장은 “AI 도입에는 고비용, 데이터의 복잡성, 통합과 확장의 어려움, 기술 미흡 등 진입 장벽이 있다”며 “IBM 왓슨x AI 플랫폼은 하이브리드 멀티 클라우드에서 AI 서비스를 확장성있게 제공한다”고 설명했다.
이어 “IBM은 자원 사용 부담이 큰 생성형 AI 모델을 안정적으로 제공할 수 있는 환경을 제공하고 있다”며 “왓슨x는 서비스형 소프트웨어(SaaS), 온프레미스 모두 제약없이 설치할 수 있고, 검증된 오픈쉬프트 컨테이너 플랫폼을 기반으로 안정적으로 AI 서비스를 확장한다”고 덧붙였다.
한국IBM의 파트너사인 콤텍시스템은 IBM의 기술 지원을 담당하고 있다.
콤텍시스템은 아이티센 그룹 자회사로 금융·기업·공공 시스템구축(SI), 네트워크통합(NI), 컨설팅을 전문 기업이다.
황호현 콤텍시스템 상무는 이날 컨퍼런스에서 IBM 지원 전략으로 총판사 협력과 기술 지원을 꼽았다.
그는 “그룹사에 IBM 총판을 맡고 있는 씨플랫폼이 총판 제품을 제공하고, 콤텍시스템이 해당 제품을 분석, 설계, 장비 구축, 유지관리 업무를 진행한다”며 “그룹사 협력으로 고객사는 시스템 도입 비용을 절감할 수 있다”고 말했다.
이어 “콤텍시스템에는 IBM, 레드햇, VM웨어 등 특화된 전문 자격증을 보유한 엔지니어, 개발자, 컨설팅 전문 인력으로 높은 차원의 기술 지원이 가능하다”고 강조했다.
박두호 기자 walnut_park@etnews.com
