불완전판매 막는 '설명하는 AI' 나온다 [숏잇슈]

불완전판매 막는 ‘설명하는 AI’ 나온다 [숏잇슈]

불완전판매 막는 ‘설명하는 AI’ 나온다 [숏잇슈]

금융당국이 금융권에서 활용할 수 있는 '설명 가능한 AI'용 가이드라인을 이르면 3분기 내 내놓을 예정이다. 가이드라인이 나오면 다양한 분야에서 활용되는 AI와 관련한 신뢰성이 높아지는 한편 금융권 내 AI 사용도 활성화될 전망이다.

금융보안원은 하반기 내 설명 가능한 AI용 안내서를 내놓기 위해 은행, 신용평가사 등과 함께 워킹그룹을 운영 중이다. 설명 가능한 AI란 AI의 판단 결과에 대한 이유를 인간이 이해할 수 있도록 제공하는 기술이다. 이를 통해 금융소비자법상 금융상품 중 설명의 의무가 있는 상품이나 신용평가에 대한 결과, 보험 청구에 대한 결과 등의 이유를 고객에게 보다 쉽게 설명할 수 있다.

특히 딥러닝이나 뉴럴네트워크 같이 어려운 모델들은 AI의 의사결정이 복잡해서 설명하기가 어렵다. 금융당국은 안내서에 이런 딥러닝이나 뉴럴네트워크와 관련된 내용도 담을 예정이다.

설명 가능한 AI를 활용하기 위한 기술적인 방법들은 일부 있었지만 구체적으로 어떻게 해야 안전하고 신뢰할 수 있는지 정확한 기준점이 없었다. 그래서 금융회사가 업무 프로세스에 완전히 녹여내기는 부담스러운 점이 있었다.

설명 가능한 AI를 통해 정확한 결과 예상이 가능하고 고객의 금융 대응 능력도 향상시킬 수 있을 것으로 업계는 기대하고 있다.

※[숏잇슈]는 'Short IT issue'의 준말로 AI가 제작한 숏폼 형식의 뉴스입니다.

정예린 기자 yeslin@etnews.com