인공지능(AI) 서울 정상회의에서는 안전하고 신뢰할 수 있는 AI 생태계 구축을 위한 주요국 정책을 함께 논의한다. 특히 정부 주도 AI 안전성 연구와 평가를 위한 'AI 안전연구소' 설립이 핵심 의제로 다뤄진다. 우리나라도 AI 정상회의 개최를 계기로 미국·영국·일본 등 주요국에 이어 AI 안전 연구 전담조직 구축에 속도를 낸다.
과학기술정보통신부에 따르면 오는 21일부터 서울에서 열리는 AI 정상회의에는 AI 규범에 관한 각국 접근 방향과 지난해 AI 안전성 정상회의 후속조치로 발간 중인 '국제 AI 안전 보고서' 등 국제사회 컨센서스에 대해 활발한 논의가 이뤄질 예정이다.
특히 AI 역기능에 대한 우려로 윤리적 AI 기술에 대한 사회적 요구가 증대되면서 각국마다 AI 안전 규제 설정 움직임이 강화됐다.
미국, 영국, 일본, 캐나다, 싱가포르 등 5개 국가는 AI 안전연구소를 설립해 AI 위험에 관한 평가체계 및 평가기준 조사·연구·개발, 관련 국가와 국제협력 등을 수행하고 있다.
세계 AI 안전연구소 설립을 경쟁적으로 주도하는 국가는 미국과 영국이다. 지난해 열린 AI 안전성 정상회의에서 미국과 영국은 각각 AI 모델 안전성 평가를 위한 AI 안전연구소 설립을 발표했다.
미국은 자국 기업 중심으로 구성된 5개 분야의 민간 컨소시엄을 발족해 레드티밍(취약점 발견·검증을 위한 의도적 공격), 역량평가 등을 준비하고 있으며, 영국은 AI 기술전문가 채용을 통해 AI 시스템 안전성에 대한 기술평가 시행을 준비하고 있다. 양국은 AI 기술 안전성 점검을 상호 협력하는 양자간 파트너십도 맺었다.
일본도 지난 2월 경제산업성 산하에 AI 안전연구소를 설립했다. AI 안전표준, 평가 방법론 및 우수사례를 개발함으로써 AI의 책임있는 사용을 보장한다는 취지다.
우리나라도 AI 발전과 신뢰 기반을 조성하기 위한 AI 안전연구소 신설이 핵심 과제로 떠올랐다. 정부는 지난달 AI 세계 3대 강국(G3) 도약을 목표로 하는 'AI 반도체 이니셔티브'를 발표하고 AI 전략최고위협의회를 본격 가동했다.
그러나 이를 뒷받침할 수 있는 AI 안전연구소 설립이 경쟁국 대비 늦어지는 것은 물론 AI기본법도 폐기 위기다. 안전한 AI 환경 구축을 위한 적극적 대응 부재시 향후 AI 산업 핵심 분야에서 경쟁우위를 확보하는데 어려움을 겪을 수 있다.
김명주 국제인공지능윤리협회장(서울여대 바른AI연구센터장)은 “AI 안전성 보장은 갈수록 시급한 사안이 되고 있다”면서 “21일부터 개최되는 서울 AI 정상회담에서 글로벌 합의를 위한 진전된 성과를 기대한다”고 말했다.
과기정통부는 “이번 정상회의를 통해 국제사회에서 대한민국 AI 글로벌 비전이 중요한 이정표로 떠오르게 될 것”이라며 “국내에서도 AI 안전연구소 설립 및 해외 안전연구소와의 네트워크 구축, AI법 통과 등 주요 과제에 대한 추동력을 제공할 것으로 기대한다”고 밝혔다.
박준호 기자 junho@etnews.com
