[기고]비즈니스 체질 개선을 위한 AI 인프라 전략

인공지능(AI)은 기업 혁신과 고객 서비스 방식의 근본에 변화를 가져온다. 기계학습과 딥러닝 기술, 클라우드 발달로 AI에 대한 기대감은 더욱 높아졌다.

한 연구에 따르면 AI 성숙도가 높은 선두 그룹은 AI를 통해 매출, 고객, 의사결정, 품질, 정보기술(IT) 다운타임, 비용 등 모든 항목에서 비즈니스 가치를 경험했다. AI 선두그룹 59%는 AI로 매출이 증가했으며, AI를 고객 경험에 적용했을 때 고객이 평균 19% 증가했다.

AI 성숙도가 높은 기업에는 몇 가지 공통점이 있다. 먼저 AI 워크로드 대응 전략이다. 대부분 AI 워크로드는 컴퓨팅 집약형이다. 시간 흐름에 따라 점점 더 크고 다양한 데이터셋을 수용하도록 쉽게 확장할 수 있어야 한다. 여기에는 연산과 저장이라는 두 가지 고려 사항이 있다.

연산 측면에서 보면 최적의 서버 자원 활용 효율이 가장 높다. 한 사례로 가속기 기술을 제대로 적용할 수 있는 인프라를 갖추는 것을 들 수 있다. AI 선두그룹 51%는 AI 워크로드에 가속기를 광범위하게 활용한다. 분석부터 학습, 추론에 이르기까지 AI 워크로드에 맞춰 가속기 옵션을 선택하는 것이 중요하다. 예를 들어 AI 학습을 위한 인프라와 AI 추론을 위한 인프라는 특성을 고려해 각기 다르게 구성할 수 있다. 에지 디바이스와 에지 컴퓨터를 이용해서 현장을 즉각 처리하는 것을 비롯해 에지와 클라우드를 연결하는 과정도 고려해야 한다.

데이터 저장과 관리도 필수다. AI 워크로드를 고려, 데이터 저장소 인프라를 선택해야 한다. 학습을 위한 스토리지, 추론을 위한 스토리지, 분석을 위한 스토리지가 제각각 있는 것이 아닌 한 데이터 레이크에 위치하면서 필요한 데이터 서비스 수준에 맞게 데이터가 제공돼야 한다. AI 데이터 저장소가 비즈니스 요구에 따라 확장돼야 하며, 성능과 비용 효율이 높아야 한다.

이로써 데이터 중복 저장을 피하고 데이터 이동에 따른 시스템 자원, 시간, 비용 등 낭비를 제거할 수 있다. AI 개발에 따른 데이터 대기 시간을 줄이고, 알고리즘을 좀 더 정교하고 빠르게 해서 비즈니스 시간을 단축시키면 이를 기업 경쟁력으로 연결할 수 있다.

데이터가 오래되고 점점 더 많은 활성 데이터가 AI 워크플로에 유입되면 백업과 보관을 위해 데이터를 계층화하는 솔루션이 유용하다. 오래된 비활성 데이터를 저비용 스토리지 계층으로 이전하면 메인 스토리지 용량을 대폭 늘릴 수 있다.

AI 모델에 사용되는 모든 데이터는 조직 자산이자 자본이기 때문에 체계를 갖춘 데이터 보호 전략이 필요하다. 에지, 프라이빗, 퍼블릭 등 클라우드 전체 수명 주기 기반의 데이터 보호 전략을 수립해야 한다. 투명성과 자동화를 바탕으로 지능형 정책 관리와 오케스트레이션을 적용하면 효율성을 확보할 수 있다. 예컨대 멀웨어 침투 시 AI 인프라를 보호하기 위해 격리 정책과 자동 복구 체계를 가동하는 것이다. 그 이전에 각종 사고나 피해로부터 보호 레이어를 만들어서 데이터 무결성을 보장하는 것도 중요하다.

과감한 결정과 새로운 기회 발굴은 준비된 조직에만 주어지는 AI 혜택이다. '데이터 퍼스트' 접근법으로 비즈니스에 최적화한 AI 전략을 수립해야 한다. 이때 기업은 AI를 경쟁 우위 선점을 위한 무기로 활용할 수 있을 것이다.

백영진 한국델테크놀로지스 상무 Youngjin.Paik@dell.com