스캐터랩이 개발한 인공지능(AI) 챗봇 '이루다'가 출시 2주 만에 격렬한 논쟁을 일으킨 뒤 서비스를 중단했다. 개인정보 활용과 혐오·차별 등 다양한 논란을 촉발, AI 발전에 관한 상징적 사건으로 남았다.
이루다는 지난달 23일 출시된 AI 챗봇이다. 대화형 AI로 이용자가 스무살 여대생과 실제 대화하는 것처럼 느끼도록 개발됐다. 페이스북 메신저 기반으로 제공됐으며 출시 2주 만에 약 75만명에 달하는 이용자가 몰리는 등 인기를 얻었다.
이용자가 급증하는 과정에서 각종 문제가 불거졌다. 이달 초 온라인 커뮤니티에서 일부 이용자가 이루다를 성적 도구로 악용한 것이 시발점이었다. 당시 스캐터랩 측은 '성희롱은 예상한 문제였으며 관련 내용을 학습 데이터로 투입하고 개선하겠다'면서 서비스 지속 의지를 내비쳤다.
이루다 자체 문제가 제기되면서 논란은 거세졌다. 이루다가 사회적 소수를 혐오하는 발언을 하거나 성차별적 발언을 한 사례가 드러났기 때문이다. 성소수자 관련 대화에서 이루다가 “혐오스럽다”고 답변한 것이 대표적이다.
이재웅 전 쏘카 대표는 지난 9일 자신의 페이스북을 통해 “이루다 문제는 이를 악용하는 이용자보다 사회적 합의에 못 미치는 수준의 서비스를 제공한 회사의 문제”라면서 “서비스를 중단하고 차별과 혐오에 대한 사회적 감사를 통과한 뒤 서비스를 해야 한다”고 지적했다.
이 전 대표는 “AI는 완벽하지 못하고 사회 수준을 반영할 수밖에 없지만 사회적 합의가 된 차별과 혐오는 금지해야 한다”면서 “AI 소프트웨어 로직이나 학습 데이터에 책임을 미루는 것은 안 된다”고 강조했다. 별도의 페이스북 글에서는 AI 챗봇이 애초 20세 여성으로 설정된 것도 문제였다고 썼다.
이 같은 논란은 스캐터랩이 기존 서비스 '연애의 과학'에 제공된 이용자 카카오톡 대화 내용을 그대로 활용했다는 지적이 일면서 불이 붙었다. 스캐터랩은 개인정보취급방침 범위 내에서 데이터를 활용했으며 사전에 동의를 받았다고 설명했다. 하지만 '연애의 과학' 이용자 간 오픈채팅방이 개설돼 피해 사례가 공유되는 등 논란이 지속됐다.
일례로 이루다 이용자가 '주소'라고 물으면 과거 '연애의 과학' 이용자가 입력한 특정인 주소가 답변에 그대로 표기되는 식이다. 일부 대화에선 답변에 특정인 성명과 은행명 등 계좌 관련 정보가 그대로 표기되기도 했다.
스캐터랩 측은 “이루다 학습에 사용된 데이터는 개인정보가 삭제된 상태였다”면서 “성별과 나이만 인식이 가능하며 데이터는 외부로 노출되지 않았다”고 해명했다. 또 “데이터베이스는 1억개 문장으로 구성돼 있으며 이를 조합해 개인을 특정하는 것은 불가능하다”고 반박했다.
특정인 성명이 표기되는 것에 관해선 “1억개 문장을 사람이 일일이 검수하기는 어려워 기계적 필터링을 거쳤다”면서 “문맥에 따라 인물 이름이 남는 경우가 있는 등 세심한 주의를 기울이지 못했다”고 사과했다.
개인정보보호위원회는 이루다 개인정보 유출 논란이 일자 지난 11일 사실관계 파악에 착수했다. 위원회는 스캐터랩이 이루다를 개발하는 과정에서 개인정보보호법을 위반했는지 검토하고 있다. 특히 개인정보 수집 항목에 관한 개인정보보호법 제39조의3제2항과 비식별화 처리에 관한 같은 법 제3조제7항을 중심으로 위반 여부를 들여다보고 있다.
김진해 개인정보보호위원회 대변인은 “서비스 중단 여부와 관계없이 법규 위반 사실이 확인되면 조치를 취해야 할 것”이라고 말했다.
스캐터랩은 출시 3주째인 지난 12일 오후 6시를 기점으로 이루다 서비스를 전면 중단했다. 서비스 재개 시점은 '개선이 완비될 때까지'로 제시했다.
김종윤 스캐터랩 대표는 “쉽지 않은 3주였다”면서 “급성장 속 제대로 대처하지 못한 부분이 있고 미숙함이 적나라하게 드러났다. 이슈가 된 부분을 성찰의 기회로 삼아 기술적, 사회적으로 가치 있는 스타트업으로 거듭나고 싶다”고 심정을 밝혔다.
오다인기자 ohdain@etnews.com