한국과학기술정보연구원(KISTI·원장 김재수)은 과학기술 특화 생성형 거대 언어 모델(LLM) '고니(KONI)' 새로운 버전을 공개한다고 31일 밝혔다. 과학기술 관련 업무를 수행하는 누구나 사용할 수 있다.
KISTI는 다양한 국가 과학기술 빅데이터를 지속 수집·분석해 과학기술에 특화된 LLM 개발을 선도하고 있다. 이번에 공개한 새 버전은 사전학습 LLM인 'KONI-Llama3-8B', 챗(Chat) 모델인 'KONI-Llama3-8B-Instruct' 두 버전이다.
이번 모델들은 기존 대비 2배 이상 과학기술정보를 포함하는 데이터를 학습해 추론, 글쓰기, 이해 등 다양한 작업에서 성능이 크게 향상됐다.
한국어 LLM 종합 사고력을 측정하는 'LogicKor' 벤치마크 리더보드에서 동일 크기 LLM 중 1위를 달성했다. 특히 8B 모델 크기의 고니가 70B 이하 LLM 중 처음으로 LogicKor 점수 8점을 넘는 8.21점을 기록했다. 한국어 LLM 개발에 새로운 이정표를 제시했다.
또 KISTI는 LLM에서 흔히 발생하는 '환각 현상'을 최소화하기 위한 검색 증강 생성 기술(RAG)을 보유하고 있다. RAG 기술을 고니와 연계해 향상된 신뢰성의 질의응답 시스템을 개발했고, 과학기술 관련 법령, 규정, 지침을 대상으로 해 KISTI 내부에서 성능을 검증했다.연구원들의 다양한 피드백을 수집해 추가 학습함으로써 성능을 더욱 향상시켰다.
KISTI는 앞으로도 국가 과학기술 정보를 지속적으로 수집하고 이를 기반으로 성능이 향상된 새로운 버전의 다양한 모델 크기 고니를 주기적으로 공개할 계획이다.
과학기술 정부출연연구기관(출연연)뿐 아니라, KISTI와 협력 중인 국방, 전력, 정책 등 여러 공공기관의 수요를 반영한 도메인 특화 LLM 또한 개발·보급할 계획이다.
김재수 원장은 “새로운 버전의 KONI를 통해 과학기술 및 산업 분야를 포함하는 다양한 분야에서 과학기술정보 유통과 분석 체계를 혁신적으로 개선하고, 더 나아가 연구자의 과학적 발견을 지원할 수 있는 에이전트 체계인 고니 기반 자율 연구자 AI를 구축할 계획”이라고 밝혔다.
김영준 기자 kyj85@etnews.com
