인공지능(AI) 안전연구소가 미국 샌프란시스코에서 열리는 '국제 AI 안전연구소 네트워크' 회의 참석으로 공식 활동을 시작한다. 연구소 개소식은 이달 27일이다.
과학기술정보통신부는 김명주 AI 안전연구소 초대 소장(서울여대 정보보호학부 교수)이 20일(현지시간) 샌프란시스코 골든게이트 클럽에서 열리는 국제 AI 안전연구소 네트워크 첫 회의에 참석한다고 밝혔다.
이번 일정은 글로벌 AI안전 거버넌스의 주요 일원으로서 AI안전 확보를 위해 주요국 AI안전연구소, 국제기구 등과 긴밀하게 연대·협력해 나가는 첫 일정이다.
국제 AI 안전연구소 네트워크는 주요국 AI 안전연구소들이 AI 기술 발달에 따른 위협에 공동 대응할 목적으로 지난 5월 AI 서울 정상회의에서 출범을 알렸다. 첫 회의에는 미국, 영국, 일본, 싱가포르, 캐나다, 프랑스 등 10개국이 참여한다.
향후 네트워크를 어떻게 운영할지 논의하는 한편 딥페이크물 등 AI 합성 콘텐츠 대응 방안과 AI 기반 모델 테스트의 안정성 문제 등을 다룰 예정이다.
AI 위험 평가 시스템을 국제 사회가 공유하는 방안 등 향후 중점적으로 다룰 의제 설정에 관해서도 논의한다.
주요국들은 AI 확산과 함께 지속 가능한 발전을 위한 AI 안전성 확보 노력을 기울이고 있다.
미국은 'AI 행정명령'을 발표했고, 유럽연합(EU)은 'AI법'을 통과시켰다. 'G7 히로시마 AI 프로세스 합의' 등 발표가 이어졌다.
미국과 영국은 지난해 11월 AI 안전성 정상회의 개최 이후 AI 안전성 확보 정책 추진 핵심 조직으로 AI 안전연구소를 설립했다.
미국은 AI안전연구소 지원을 위해 민·관·학 컨소시엄이 발족될 만큼 국가 차원의 관심도 높다. 이 컨소시엄에는 AI 개발자, 사용자, 학계, 정부와 업계 연구원, 시민단체 등이 포함됐다.
우리나라 AI 안전연구소는 오는 27일 판교 글로벌 R&D 센터에서 개소식을 열 예정이다.
연구소는 AI 안전성을 평가·연구하는 전담조직으로, 아태지역을 대표하는 글로벌 AI 안전 거점연구소를 구현하는 것이 목표다. △AI 안전에 대한 과학적 이해 증진 △AI 안전정책 고도화 및 안전제도 확립 지원 △국내 AI기업의 안전 확보 지원 등을 담당하게 된다.
김명주 초대 AI 안전연구소장은 “AI 안전성은 아직 제대로 증명된 것이 없기 때문에 글로벌 차원에서 국제사회의 논의와 연구개발에 참여하고 협력하는 것이 매우 중요하다”며 “안전한 AI 개발과 활용을 확산하고 국내 AI기업의 경쟁력 확보와 글로벌 진출에 필요한 만큼 최선을 다하겠다”고 말했다.
김명희 기자 noprint@etnews.com
