새로운 기술은 사람과 기존 비즈니스에 영향을 미칠 뿐만 아니라 남용되고 오용될 가능성이 있다. 따라서 새로운 규제가 도입되기도 하고, 관련 규제 기관과 프레임워크 자체가 새롭게 만들어지기도 한다. 인공지능(AI)은 최신 기술 가운데에서도 잠재력이 무한하며, 이에 대한 거버넌스와 규제는 여러 논의의 중심에 있다.
AI의 모든 긍정적 가능성에는 컴퓨터, 클라우드, BYOD 같은 이전 엔터프라이즈 기술과는 다른 유형의 위험이 수반된다. 클라우드에는 주로 개인 정보 보호와 보안 우려가 존재했다. AI는 사람의 인지적 추론이 필요한 영역에서 인간 전문가와 동등한 작업을 수행하는 솔루션을 개발하는 데 사용된다. 이 때문에 이전 기술과는 다른 차원의 새로운 우려가 제기된다. 의료 분야에서 AI 비서가 12개월 이내 사망을 예측한다면 이를 어떻게 처리할 것인가. 자율주행차의 안전성이 인간을 넘어선다면 사회는 이를 어떻게 다룰 것인가. AI가 사람의 일을 대체하면서 정말 새로운 직업이 대거 등장할 것인가.
이 때문에 AI 거버넌스가 비즈니스 관건이 돼야 한다. 주니퍼 네트웍스가 AI와 머신러닝(ML) 분야 리더 대상으로 실시한 조사에 따르면 AI 도입이 증가하고 있는 상황에서 응답자의 63%가 계획된 AI 도입 목표를 '거의' 달성했다고 답했다. 반면에 성숙한 AI 거버넌스 체계를 수립했다고 답한 기업은 9%에 불과했다.
완전히 새로운 기술을 위해 새로운 규제를 만들고 새로운 거버넌스 프레임워크를 설정하거나 기존 프레임워크를 활용하려면 시간, 인력, 자본이 필요하다. 그럼에도 오늘날 기업이 튼튼한 AI 거버넌스 구조를 만들기 위해 얼마를 지출하든 그 투자는 결과적인 이점에 비하면 사소한 수준이 될 수밖에 없다. 매킨지(McKinsey)의 최근 연구 결과에서도 79%의 기업이 AI로 인해 10% 이상 비용 절감을 경험한 것으로 나타났다.
많은 AI 리더는 정부 규제에 앞서 나가기 위해서도 AI 거버넌스가 필요하다는 데 동의했다. 유럽연합(EU)은 유럽에서 AI 관련 규정을 빠르게 강화했다. 개인정보보호규정(GDPR)을 통해 최초 AI 법률 가운데 일부를 시행하고 있다. 2023년 의결 예정인 EU AI 법 초안은 위험도를 기준으로 AI 애플리케이션을 분류한 다음 해당 범주에 따라 엄격한 준수 기준을 적용한다.
비단 유럽 기업에만 해당하는 사안이 아니다. 법은 EU에서 사업하는 기업 모두에 적용된다. 미국에서는 조 바이든 행정부에서 AI 규제 강화가 이뤄지고 있다. FDA와 연방거래위원회 같은 정부 기관이 AI 차별, 사기, 데이터 오용에 관한 규정 마련을 시작했다.
AI 거버넌스는 보안 및 규제 준수를 위한 것만이 아니다. AI 거버넌스는 또한 기업이 기술을 효과적으로 활용할 수 있도록 해 준다. 성공적인 AI 전략의 확실한 이점 가운데 하나는 직원이 비전략적 업무에서 해방돼 진짜 중요한 작업, 하기를 원하는 작업에 더 집중할 수 있도록 만들어 준다는 점이다.
주니퍼 네트웍스 설문조사에 참여한 거의 모든 응답자(97%)가 운영 업무 일부를 AI로 대체한 이후 직원 만족도가 상승했다고 답했다. 노동 시장 경쟁이 갈수록 심화하고 세계적으로 '대퇴직시대'라는 신조어가 유행인 상황에서 최고 직원을 놓치지 않는 것은 무엇보다 중요하다. 그리고 IT와 AI가 여기에 중요한 역할을 할 수 있다.
거버넌스는 기업에서 AI 이점을 한 방에 실현할 수 있는 만병통치약이 아니다. 하지만 성공적인 AI 활용으로 나아가는 과정에서 발생할 문제를 최소화하기 위해서는 올바른 거버넌스가 필수다. IT팀은 이러한 AI 거버넌스를 담당함으로써 회사에서 훨씬 더 전략적인 위치에 설 수 있다. 경영진과 일반 부서가 AI 거버넌스와 리스크 완화 전략에 익숙해지면 AI 기술에 대한 망설임을 버리고 AI 가치를 제대로 실현할 수 있게 될 것이다.
밥 프라이데이 주니퍼네트웍스 AI부문 최고책임자
