인공지능(AI) 신뢰성 인증 기업이 6곳으로 늘어났다.
생성형 AI 기술이 급속도로 확산하면서 AI 신뢰·안정성 확보를 위한 제도에도 관심이 높아진다는 방증이다.
3일 한국정보통신기술협회(TTA)에 따르면 지난 달 말 기준 마크애니, 엔플럭스, 제네시스랩, 단감소프트, 포티투마루, 씨피엑스시스템즈 총 6곳이 'AI 신뢰성 인증(CAT)'을 부여받았다.
지난 2월 마크애니의 '스마트아이 (실종자검색) v1.0'과 엔플럭스의 '인공지능 융합 지뢰탐지 모듈 v1.0'이 첫 인증을 받은 이후, 제네시스랩이 기업 채용 시 면접전형을 목적으로 개발한 영상 평가 플랫폼 '뷰인터 HR v2.0'로 4월에 인증을 받았다.
9월에는 단감소프트가 '커리어레커멘더 v1.0'로 맞춤형 교육 콘텐츠 추천서비스로 AI 신뢰성 인증을 받았고, 거대언어모델(LLM)로는 최초로 포티투마루의 'LLM42 v1.1'가 지난달 인증을 확보했다. 씨피엑스시스템즈는 '싸이파이(CyPHAI) v1.0'로 에너지·발전 분야 최초로 인증을 받았다.
과학기술정보통신부와 TTA가 지난해 10월 민간자율 AI 신뢰성 인증제도를 도입한 이후 1년여만의 성과다. 국내 AI 제품과 서비스, 모델에 대한 신뢰성 확보를 위해 민간 자율체계가 자리를 잡아가고 있음을 보여준다.
AI 신뢰성 인증 제도는 기업이 AI를 활용하면서 안전하고 책임있는 방식으로 운영하기 위한 투명성, 책무성, 책임성, 저작권 보호 등을 지켰는지를 시험·평가 및 검증·확인한다. 기업이 자발적으로 참여하는 것이 핵심이다.
과기정통부와 TTA는 2021년 분야별 '신뢰할 수 있는 AI 개발안내서'를 보급하며 AI 신뢰성 확보를 위한 기술 요구사항을 정립해왔다.
생성형 AI가 긍정적 측면만 있는 게 아니라 '환각'이나 '딥페이크 오용' 등 부정적 결과를 불러오기 때문이다. 이 때문에 글로벌 빅테크는 AI 윤리와 안전성 조직을 별도로 운영한다.
하지만 국내 중소기업과 스타트업을 위한 AI 신뢰성 확보 지원 체계는 아직 정립되지 않았다. AI 신뢰성 관련 국제적 표준과 모범 사례도 여전히 부족하다.
전문가들은 AI 기술이 첨단기술인 만큼 기업의 모범사례 공유와 가이드라인 수립을 통한 자율 규제 체계를 마련하고, 균형적 산업정책을 통한 보완이 필요하다고 입을 모았다.
김명주 AI안전연구소장은 “AI 신뢰성은 AI 산업 발전과 이용자 보호 관점에서 모두 중요하다”며 “앞으로 AI 기본법이 국회에서 통과되면 신뢰할 수 있는 AI에 대한 사례와 가이드라인 연구가 보다 확대되길 기대한다”고 말했다.