금융 분야에서 인공지능(AI)의 활용이 점차 확대되는 가운데 신용평가사가 AI 거버넌스를 도입한다. 다양한 고객의 신용평가 데이터를 금융사에 제공하는 만큼 신용평가 AI 모형 활성화와 더불어 신뢰성을 확보한다는 취지다.
금융업계에 따르면, 나이스평가정보는 AI 거버넌스를 수립 중인 것으로 알려졌다. 국내 최대 신용정보 데이터를 보유하고 있는 만큼 AI를 활용하는 데 있어 안전성을 확보하기 위한 의도로 분석된다.
나이스평가정보가 AI거버넌스를 도입하면 금융 업계에서 AI거버넌스를 가장 먼저 도입한 NH농협은행 이후 두 번째 사례가 된다. AI거버넌스는 조직이 추구하는 가치와 주된 AI 활용 맥락 등을 고려해 AI 활용에 관한 윤리원칙과 기준을 수립하는 것을 말한다. 이를 통해 AI 활용으로 인한 잠재적 위험을 관리하는데 필요한 위험관리정책도 마련할 수 있다.
나이스평가정보는 AI거버넌스를 수립해 데이터 관리체계 적정성을 확보하고, 평가모형의 변별력을 키울 예정이다. 또한 AI의 안정성과 설명 가능성을 추구한다. 나이스평가정보는 AI 기반 일부 신용평가 모델에 우선적으로 AI거버넌스를 우선 적용한 후 점차적으로 확대할 계획이다.
AI거버넌스는 금융당국의 금융분야 AI개발·활용 안내서에 기반해 관련 내용을 준수하도록 만들어질 예정이다. 이에 신용평가를 위한 업무 중 AI 시스템을 활용한 업무 범위, 활용 목적, AI의 역할 등이 명확하게 정의되어 있는지 확인하는 내용이 포함될 것으로 분석된다. 또 신용평가를 위한 AI 시스템이 내부 AI 윤리원칙에 근거한 절차에 따라 AI 모형의 위험수준과 평가기준 등을 마련될 것으로 예상된다.
이에 따라 신용평가 모형 기획과 설계 단계 및 신용평가 시, 차별적 요소가 사용되지는 않는지, 또는 정책적으로 사용이 금지된 항목이 반영돼 고객에게 잠재적 피해가능성이 존재하는지 확인할 수 있게 될 전망이다. 또 연체경험 여부, 금융이력 정보 보유수준 등 금융거래 특성에 따라 특정 그룹 고객에게 과도한 혜택이나 피해 가능성이 있는지 점검할 수 있을 전망이다.
이를 통해 AI가 기존 신용평가를 대체하는 경우 발생할 수 있는 잠재적 위험을 예측해 사전 및 사후 대책 또한 마련할 수 있을 것으로 예상된다.
금융업계 관계자는 “AI거버넌스를 활용하하면 시스템 전 과정에 걸쳐 AI 활용에 따라 나타날 수 있는 잠재적 위험을 인식·평가하고, 이를 관리·최소화하는 방안을 검토할 수 있다”며 “특히 보수적인 금융 업종에서 AI 활용을 담당하는 직원들이 AI거버넌스를 준수하면 부담을 덜 수 있는 장점도 있다”고 말했다.
정예린 기자 yeslin@etnews.com