기존 10시간이 걸리던 인공지능(AI) 추가 학습을 단 3시간으로 단축할 수 있도록 한 기술이 개발됐다. 학습 효과가 비슷한 자료는 추려내고 다양한 자료를 여러 그래픽 처리장치(GPU)에 고르게 나눠주는 식이다.
한국과학기술원(KAIST·총장 배충식)은 이재길 전산학부 교수팀이 이와같은 대규모 언어모델 미세조정 기술 '클러스터(CluSTER)'를 개발했다고 2일 밝혔다.
대규모 언어모델을 코딩·의료 등 특정 분야에 활용기 위해 관련 자료를 추가 학습시키는 것을 '미세조정'이라고 한다. 이 과정에 많은 계산이 필요해 여러 GPU가 데이터를 나눠 처리하고 결과를 합쳐 AI 모델을 개선한다.
그러나 자료를 무작위로 나누면 학습 효과가 비슷한 데이터를 여러 GPU가 반복해서 처리할 수 있다. 학습 효과가 작아질 수 있다.
CluSTER는 먼저 각 데이터가 AI 학습에 미치는 영향을 분석, 비슷한 데이터끼리 묶는다. 이후 각 묶음에서 데이터를 선별하고, 여러 GPU가 다양한 학습 정보를 골고루 처리하도록 배분했다.
연구팀은 코딩·의료 분야 학습 데이터 3종을 활용해 약 70억개와 130억개 매개변수를 가진 대규모 언어모델을 미세조정했다. 실험에서는 전체 데이터의 약 31%만 선별해 학습해도 모델 성능을 거의 유지했으며, 학습 시간을 최대 69.6% 단축했다.
연구팀은 GPU 4개를 사용하는 환경을 중심으로 실험했으며, GPU 8개 환경에서도 기존 방식보다 우수한 성능을 확인했다. 이번 연구는 GPU를 더 많이 투입하지 않아도 학습 자료를 잘 고르고 배분하면 AI 학습의 효율을 높일 수 있음을 보여준다. 추가 학습에 드는 시간과 GPU 사용 비용을 줄이는 데 도움이 될 것으로 기대된다.
이재길 교수는 “이번 연구는 기존 GPU 자원을 더 효율적으로 활용해 대규모 AI 모델의 학습 부담을 줄일 수 있다는 점에서 의미가 있다”고 말했다.
이번 연구에는 김현진 KAIST 전산학부 박사과정 학생이 제1저자로, 이재길 교수가 교신저자로 참여했다. 남영은 토론토대 박사후연구원, 한재민·최원혁 KAIST 데이터사이언스대학원 석사과정이 공동저자로 참여했다. 연구 결과는 '자연어처리의 경험적 방법론 학술대회(EMNLP 2026)'에서 지난달 발표됐다.
김영준 기자 kyj85@etnews.com
