생성형 인공지능(AI)은 우리의 일상에 다양한 방식으로 자리잡고 있다. 자동으로 이메일을 작성하고, 문서를 빠르게 요약하며, 실시간 음성번역도 가능하다.
챗GPT를 비롯한 다양한 AI 도구들이 등장하면서 이제는 단순히 정보를 검색하는 것을 넘어 짧은 명령어만으로도 창의적 아이디어를 얻고 복잡한 문제를 해결하는 경험을 하고 있다.
AI는 이렇게 연구, 업무, 예술 등 여러 분야에서 혁신을 일으키며 빠르게 확산되고 있으나, 그에 따른 부작용 역시 무시할 수 없다. 종종 잘못된 정보나 허위 결과를 생성하는 문제가 발생하기 때문이다.
예를 들어 미국 대통령 선거를 앞두고 딥페이크 영상이 가짜뉴스로 유포됐고, 한 변호사는 AI가 만들어낸 가짜 판례를 법원에 제출해 변호사 자격이 정지되기도 했다. 학술지에 실린 AI가 만든 쥐 해부학 그림은 엉터리로 잘못된 설명까지 포함돼 논란을 일으켰다.
이런 문제는 특히 학술연구 등 전문 분야에서 심각한 결과를 초래할 수 있어 우려를 낳고 있다.
이런 부작용을 해결하고 신뢰할 수 있는 AI 시대를 실현하기 위해서는, 검증된 지식과 데이터를 바탕으로 한 지식검증 플랫폼이 필수적이다. 지식검증 플랫폼은 AI가 생성하는 정보의 정확성을 높이고, 결과에 대한 검증을 통해 AI가 더 나은 사회적 도구로 활용될 수 있도록 돕는다.
지식검증 플랫폼은 세 가지 핵심 기능을 제공해야 한다. 첫째, 공신력 있는 학술정보와 데이터를 제공해 AI의 오류와 부정확한 정보를 걸러내야 한다.
둘째, AI 결과를 객관적으로 평가할 수 있는 검증 도구와 인프라를 제공해 결과의 신뢰도를 높여야 한다.
셋째, 전문가뿐 아니라 누구나 AI 과정과 결과를 논의·검토할 수 있는 협업 환경을 조성하고 다양한 관점을 반영해, AI의 편향성을 줄이고 더 공정한 결론을 도출할 수 있어야 한다.
이런 맥락에서 한국과학기술정보연구원(KISTI)이 운영하는 사이언스온(ScienceON)은 지식검증 플랫폼의 역할을 수행하기 위한 토대를 갖추고 있다.
사이언스온은 과학기술정보, 연구데이터, 정보분석 서비스 및 연구인프라를 연계·융합해 연구자가 필요로 하는 지식인프라를 한 곳에서 제공하는 연구자원 공유·활용 플랫폼이다.
AI 모델학습에 있어 사이언스온이 제공하는 1억7000만건의 학술정보는 신뢰성을 높이는 중요한 역할을 한다. 데이터 분석 도구와 시각화 서비스 등의 지식인프라는 AI 결과를 객관적으로 검증할 수 있는 수단을 제공하며, 맞춤형 지식인프라 활용의 장인 MyON은 동료 연구자들과 협업하며 새로운 지식을 창출할 수 있는 환경을 제공한다.
신뢰할 수 있는 생성형 AI 시대를 실현하기 위해서는 사이언스온과 같은 지식검증 플랫폼이 더욱 발전해야 한다.
이를 위해 KISTI는 공신력있는 학술자원을 지속적으로 확충하고, AI의 결과를 객관적으로 검증할 수 있는 도구와 인프라를 제공하며, 다양한 이용자가 참여할 수 있는 개방형 협업 환경을 더욱 강화할 필요가 있다.
이를 통해 AI가 우리 사회에서 더 신뢰할 수 있는 도구로 자리 잡을 수 있을 것이다.
유수현 한국과학기술정보연구원(KISTI) 융합서비스센터장 yoosu@kisti.re.kr
김영준 기자 kyj85@etnews.com
