정부가 내달 인공지능(AI)안전연구소 설립·운영을 통해 안전한 AI 개발·활용을 확산에 나선다.
AI 안전에 대한 국제적 연대 강화와 규범 정립을 수행하고, 중장기적으로 세계적 AI 안전 연구를 선도하는 기관으로 발전을 추진한다.
과학기술정보통신부는 18일 서울 중구 국가과학기술자문회의 대회의실에서 제17차 정보통신전략위원회(이하 '전략위')를 개최하고 이러한 계획을 발표했다.
AI안전연구소는 한국전자통신연구원(ETRI)에 소속된 신규 연구소 조직으로 설치하고, AI안전 정책·평가·기술분야의 3개 연구실로 구성·운영된다. 11월 개소 예정이다.
연구소 초대소장으로 AI 분야 전문성과 국제적 감각을 보유한 전문가를 채용하기 위한 절차를 진행 중이다. 총 30여명 연구인력을 점진적으로 확보해 나갈 계획이다.
사무실은 우수인력 채용과 AI기업·유관기관과의 용이한 협력을 위해 판교 글로벌 R&D센터에 설치한다.
연구소는 '아태지역을 대표하는 글로벌 AI안전 거점연구소' 구현이 비전이다. 3대 핵심미션으로 △AI안전에 대한 과학적 이해 증진 △AI안전정책 고도화 및 안전제도 확립 △국내 AI기업의 안전 확보 지원을 추진한다.
연구소는 4가지 핵심기능을 수행할 계획이다.
AI위험을 정의하고, AI안전을 평가한다. 국가차원에서 관리해야 할 주요 AI위험을 정의하고, AI안전 평가방법론 개발과 위험완화 방안을 마련한다. AI안전 평가데이터셋 구축과 평가도구 개발 등 AI안전 평가인프라를 구축하고, 기업의 활용을 지원할 계획이다.
AI안전 정책을 연구한다. 주요국, 국제기구 AI 규범·거버넌스를 연구하고, 국내외 주요 AI위험 정보를 수집·분석해 AI안전 정책을 고도화해 나갈 예정이다. AI기술이 경제·사회·일자리 등에 미치는 영향을 종합적으로 분석하고 대응방안 연구도 추진할 계획이다.
AI안전 대내·외 협력을 수행한다. AI안전연구소를 중심으로 산·학·연이 참여하는 'AI안전 파트너십'을 구축해 AI안전 정책·기술 분야 연구 협력을 촉진할 계획이다. 글로벌 AI안전 거버넌스의 주요 일원으로서 AI안전 확보를 위해 주요국 AI안전연구소, 국제기구 등과 긴밀히 연대·협력해 나간다.
AI안전 확보를 위한 R&D를 추진한다. AI 통제력 상실 대응, AI모델의 보안·강건성 강화, AI 딥페이크 탐지 등 고도화되고 있는 AI위험에 대비하여 안전을 확보할 수 있는 R&D를 추진한다.
AI 통제력 상실 대응, AI모델의 보안·강건성 강화, AI 딥페이크 탐지 등 고도화되고 있는 AI위험에 대비해 안전을 확보할 수 있는 R&D를 추진한다.
AI안전연구소는 내달 20일부터 미국 샌프란시스코에서 개최될 '국제 AI안전연구소 네트워크' 행사 참여를 시작으로 본격적 역할을 수행해 나갈 계획이다.
김명희 기자 noprint@etnews.com
