집단지성으로 만들어진 오픈소스는 늘 빠르게 최신기술을 받아 들인다. 이 특성 덕분에 리눅스는 혁신을 도모하는 대표적인 운용체계(OS)로 자리잡았다. 리눅스는 오픈소스에서 볼 수 있는 모든 혁신의 기반이라고 볼 수 있다.
이 같은 추세에 발맞춰 레드햇 엔터프라이즈 리눅스(RHEL) 역시 오픈 하이브리드 클라우드 근간으로 자리잡고 있다.
RHEL은 여기서 멈추지 않고 인공지능(AI) 시대에 맞춰 새로운 혁신을 시작한다. 생성형 AI를 지원하는 기반 모델부터 RHEL 자체 기능을 향상시키기 위해 생성형AI 기능을 추가하는 등 AI 접목을 가속화한다. AI나 엣지 컴퓨팅 등 대용량·대규모 배포에 적합한 기능도 추가하며 AI 역량 강화에 주력할 방침이다.
레드햇은 최근 미국 콜로라도주 덴버에서 열린 '레드햇 서밋 2024'에서 이 같은 전략과 계획을 공유했다.
◇레드햇이 추구하는 엔터프라이즈 AI 전략
레드햇 서밋은 2005년부터 열린 글로벌 최대규모 오픈소스 연례행사다. 올해 서밋 주테마는 AI다.
레드햇은 회사가 추구하는 엔터프라이즈 AI 전략을 공개했다.
레드햇은 AI도 클라우드처럼 하이브리드로 제공한다는 점을 강조했다.
데이터가 하나의 인프라 또는 환경에서 운용할 수 없듯 AI도 마찬가지라는 것이 레드햇 판단이다. 하이브리드 클라우드는 데이터·워크로드의 유연성·확장성·신속성 등 이점을 보유했다. AI도 하이브리드 방식으로 구축하면 이 같은 이점을 누릴 수 있다.
레드햇은 AI를 통해 오픈소스 생태계가 더 확장할 것으로 기대한다.
모두 만족시킬 하나의 AI 모델은 존재하지 않는다. 사용할 수 있는 오픈소스 모델이 다수 존재하지만 대부분 사용에 제약이 있다. 레드햇은 '기여'라는 오픈소스 가치를 갖춘 AI 모델은 많지 않다고 분석한다. 레드햇은 RHEL AI와 누구나 모델 학습에 참여가능한 커뮤니티 프로젝트인 인스트럭트랩을 통해 이를 바꿀 계획이다.
◇생성형 AI 개발 플랫폼, RHEL에서 제공
레드햇이 이번에 공개한 RHEL AI는 거대언어모델(LLM) 오픈소스 그래니트(Granite)를 활용한 생성형 AI 모델을 원활하게 개발·테스트·실행하기 위한 파운데이션 모델 플랫폼이다.
RHEL AI는 인스트럭트랩(InstructLab) 오픈소스 프로젝트와 IBM 리서치의 오픈 소스 라이선스 그래니트 대규모 언어 모델, LAB(Large-scale Alignment for chatBots) 방법론을 기반으로 한다.
RHEL AI와 인스트럭트랩 프로젝트 주요 목표는 전문가가 지식과 기술로 LLM에 직접 기여하도록 역량을 부여하는 것이다. 이를 통해 AI 기반 애플리케이션(챗봇 등)을 보다 효율적으로 구축할 수 있다.
RHEL AI는 △개방형 Granite 모델 △인스트럭스랩 모델 정렬 △최적화된 부팅 가능 모델 런타임 인스턴스 △기업 지원, 라이프사이클 및 면책 등으로 구성됐다.
레드햇은 RHEL AI 기반 오픈소스 생성형AI 커뮤니티 프로젝트 인스트럭트랩도 지원한다.
현재 사용할 수 있는 개방형 AI 모델은 나날이 빠르게 발전되지만 진입장벽이 높다. 다른 오픈소스 프로젝트와 달리 이를 중심으로 한 커뮤니티도 없다.
인스트럭트랩은 생성형AI를 위한 커뮤니티다. LAB를 통해 AI 모델 학습을 시킬 수 있고 학습 정보를 커뮤니티에 공유할 수 있다.
기업이나 조직은 RHEL AI에 포함된 인스트럭트랩 프로젝트를 활용할 수 있다. RHEL AI를 통해 기업에서 필요로 하는 정보를 직접 학습시키며 개발이 가능하다. 인스트럭트랩은 노트북에서도 사용 가능할 정도로 가벼운 프로그램이다. 레드햇이 제시하는 하이브리드 접근 방식에 맞게 노트북이나 엣지단, 데이터센터 등에서 학습을 시키면 이 정보를 취합·처리할 수 있다.
◇RHEL AI, AI 신속 개발·테스트 유용
RHEL을 활용하면 많은 장점을 누릴 수 있다.
기업 혹은 조직별로 사용 목적에 맞게 AI 모델을 빠르게 개발하고 테스트 할때 유용하다. OS를 포함해 필요한 AI 모델·관련된 도구가 포함된 패키지가 모두 컨테이너 기반으로 구성된다. 이를 활용해 한번에 배포 가능한 이미지를 생성할 수 있다. 생성된 이미지는 부팅하면 설치가 완료된다.
RHEL AI가 설치되면 바로 모델 개발·학습이 가능하다. 레드햇이 제공하는 오픈소스 장점과 엔터프라이즈 환경에서 요구하는 안정성·성능·보안 등 주요 기능이 제공된다. 주기적인 업데이트와 패치 등도 지원한다.
RHEL 기반 성능 최적화와 프로파일을 제공한다. 오픈시프트 AI와 연동해 대규모 AI 모델과 환경을 조성할 수 있다.
주요 LLM 형태 AI 모델의 경우 규모가 크고 만족스러운 결과를 얻기 위해 많은 시간과 노력이 필요하다. RHEL AI는 특정 목적에 맞게 훈련 시켜 사용 가능하다.
이밖에도 오픈시프트 AI와 연결을 비롯해 서비스형소프트웨어(SaaS) 형태 여러 모델과 연동도 가능하다.
레드햇은 레드햇 서밋 키노트에서 주요 활용 예시를 공유했다.
한 보험사가 고객 클레임을 대처할 수 있는 챗봇을 만들려고 한다고 가정해보자. 채팅창에 사고 대처를 요구하는 클레임을 올리면 챗봇이 답을 제시하는 방식이다. 이를 위해 사용자는 RHEL AI 학습 시작, 클레임 대처하는 방법을 학습시키기 위해 고객의 FAQ를 입력하고 이에 맞는 답변을 제시한다.
RHEL AI상에 예를 들어 10개 질의응답을 했을 경우 RHEL AI는 이를 가지고 수백에서 수천 가지 다른 질문을 만들어내고 답변을 생각해낸다. 이를 계속 반복하면서 수많은 클레임을 처리할 수 있는 노하우를 학습한다.
이 학습 과정은 노트북이든 사내 데이터센터든 어디서는 가능하다. 사용자는 장소나 장비 등에 구애받지 않고 AI모델을 만들어갈 수 있다.
◇RHEL 이미지 모드…RHEL를 컨테이너처럼
레드햇은 이번 레드햇 서밋에서 RHEL 이미지 모드도 공개했다.
AI 워크로드를 원활하게 지원하기 위해서는 리눅스 환경을 신속하게 구축, 업데이트·조정해야 한다
RHEL용 이미지 모드는 RHEL 이미지를 리눅스 컨테이너로 제공함으로써 이 문제를 해결한다. 이미지 모드를 사용하면 OS에서 컨테이너화된 애플리케이션과 동일한 도구와 기술·패턴을 사용할 수 있다.
이는 RHEL 배포를 쉽게 만들기 위한 기능이다. OS를 일일이 설치해야 하는 대신 컨테이너와 같이 이미지로 만들어 바로 배포할 수 있다. 대규모 배포에 특히 유용하다.
레드햇 관계자는 “통신 기지국과 같은 엣지 환경에서는 기지국마다 리눅스를 설치하고 업데이트가 있을 때 마다 일일이 업데이트를 해야 한다”면서 “이미지 모드는 컨테이너와 같이 이미지를 그대로 옮기면 되기 때문에 불편함과 복잡성이 줄고 보안과 같은 주요 요소도 일관된 이미지로 반영할 수 있어 효율적”이라고 설명했다.
김지선 기자 river@etnews.com
