[ET단상]AI 챗봇과 혁신

최근 국내 인공지능(AI) 기업인 스캐터랩이 오픈한 한국형 AI 챗봇 '이루다'는 소수자 혐오 발언, 개인정보 유출 논란 등에 따라 3주 만에 서비스를 전면 중단했다.

여론과 미디어의 집중된 비난에 직면한 스캐터랩은 이루다의 대화 훈련에 사용한 학습용 문장 데이터 1억개를 전량 폐기하기로 결정하고, 이용자들로부터 획득한 카카오톡 대화록 기반 데이터 100억개에 대해서도 원하면 삭제할 수 있는 서비스를 제공했다.

이러한 시행착오는 지난 2016년 미국에서 이미 이슈였다. 마이크로소프트(MS)가 개발한 AI 챗봇 '테이' 역시 백인 우월주의와 대량학살을 옹호하는 표현을 했다가 사회로부터 뭇매를 맞고 서비스가 중단됐다. 이를 계기로 AI 서비스에 대한 부정 인식이 전 세계에서 강화되는 방향으로 부각했다.

AI 챗봇 테이 사건 이후 AI를 단순히 과학 기술을 넘어 인간 중심의 사회 인문학 측면 개념으로 바라보는 움직임이 시작됐다.

2019년 3월 미국 스탠퍼드대는 인간중심AI연구소(HAI)를 개소해 AI 개발자와 함께 인문·철학·공학·법의학·컴퓨터과학 등 다양한 분야의 전문가가 협업하는 환경을 조성하는 한편 AI 연구와 교육, 정책 실행을 통합하기 위해 노력하고 있다.

인간중심 AI란 인간을 배제하거나 인간보다 뛰어난 능력을 발휘하는 기술 발전 측면의 AI 혁신에 치우치지 않고 인간과 공존하는 개념으로 인간을 도와 주어진 문제를 잘 해결, 궁극으로 인간의 삶을 이롭게 하는 데 초점이 있다.

AI 윤리와 혁신을 둘러싼 찬반 공방 속에서도 공통된 견해는 결국 AI로의 대전환 흐름은 멈출 수 없고, 혁신은 계속돼야 한다는 점이다. AI를 둘러싼 사회 이슈는 단순히 기업만의 문제가 아니고, 개인정보 등 데이터 활용에 대한 사회 공감대 형성은 지속 논의가 필요하다.

우리 정부도 AI 경쟁력 강화를 위해 2019년 12월 AI 국가전략을 발표함으로써 AI를 국가 어젠다로 설정했다. 이후 지난해 7월 한국판 뉴딜 종합계획을 발표하면서 전 산업에 걸친 AI 융합과 확산을 도모하기 위한 AI 혁신 생태계를 마련하고 있다.

이와 함께 사회 이슈에 대한 보완 노력으로 지난해 12월 AI 윤리 기준을 마련하고, 이를 확산하기 위한 체크리스트 제작·보급을 준비하는 등 대안 모색의 움직임도 시작됐다.

중소기업기술정보진흥원(TIPA)은 지난해부터 혁신 주체들이 참여하는 중소기업혁신네트워크 포럼을 구성, 4개 분과위원회를 운영하고 있다. 특히 올해는 사회경제 현안 이슈와 대안을 집중 논의하는 기술 나우 분과를 통해 'AI 관련 윤리 문제' 등 사회 이슈에 대한 해결 방안을 발굴하고, 균형 있는 AI 혁신을 지원하기 위한 연구개발(R&D) 지원 방안을 모색해 나갈 예정이다.

AI와 함께 관련 윤리 이슈 및 이용자의 데이터 침해 우려를 무시한 채 기업의 어려운 현실만을 고려해 면책특권을 부여할 수는 없는 노릇이다. 반면에 AI 설계 첫 단계부터 윤리 및 법 이슈를 만족시키고 사회 합의를 전부 충족시킨 이후에야 AI 서비스를 오픈할 수 있도록 무작정 기업을 규제하는 것도 바람직하지 않다.

국내 AI 기술은 아직 시작 단계며, 가능성과 역량을 바라보고 기업들에 투자하는 단계다. 윤리로나 법으로 아무런 흠결도 없이 완전한 제품과 서비스를 제작, 초기 단계에서 제공한다는 것은 일반상식으로 불가능하다.

각 과정과 단계에서 미처 챙기지 못한 부분이나 예상치 못한 문제점이 드러날 때마다 이에 대한 집중 비난만으로 종결해서는 안 된다.

오히려 이를 해결하기 위한 제도 및 기술 대안을 구체화해서 논의해 경험에 기반을 둔 사회 자산으로 축적함으로써 우리 사회 전체가 이를 공유하고 환류하려는 거시 차원의 노력과 인내심이 지금 우리 모두에게 필요하다.

'퍼스트 펭귄이 없으면 조직은 살아남을 수 없다'는 말이 있다. 혁신은 단지 하나의 개별 기업만의 문제가 아니라 사회 전체의 혁신과 인간의 삶에 연결된 우리 모두의 이슈임을 알 수 있다.

최근 직면한 AI 기술 및 혁신 이슈에 대해 일방의 비난보다는 균형감 있는 시각으로 접근해야 한다. 균형 감각을 갖춘 시각으로 토론과 논의 과정 지속을 통해 사회 수용성 및 합의가 완성될 때 비로소 혁신의 열매를 딸 수 있다.

이재홍 중소기업기술정보진흥원장 leejhong@tipa.or.kr