[체험기]이루다 2.0 오픈…혐오 발화 줄었으나 특색 필요

'안녕 루다' 말풍선을 클릭하자 이루다가 대화를 시작했다. 선택지에 제시된 게임하기를 눌렀더니 끝말잇기와 숫자 게임 중 하나를 고르라고 한다. 끝말잇기 게임을 시작했다. “내가 너 정도는 가볍게 이기징”하며 약을 올린다. 말이 오가다 일수꾼이라는 단어를 제시하니 “너무해ㅋㅋ”라며 감정 섞인 반응을 보인다.

스캐터랩은 인공지능(AI) 챗봇인 이루다 서비스를 개선해 재오픈했다. 이루다 서비스는 지난해 초 중단됐다. 혐오 발화와 개인정보 유출 때문이다. 게이, 레즈비언이라는 단어에 “소름 끼친다”등의 성차별적 인식을 드러내고 이용자에게 “장애인 같다”는 비하 표현을 사용했다. 계좌번호, 집 주소 등 개인정보도 그대로 노출됐다.

이는 스캐터랩이 자회사 '연애의 과학'에서 연인과 나눈 카카오톡 대화를 수집해 이루다 대화 패턴에 이용한 결과다. 실제 대화에 쓰인 혐오 발화를 이루다가 학습해 사용하며 사회적으로 만연한 혐오 표현에 대해 재고하는 계기가 됐다.

스캐터랩은 챗봇 연구에 활용되는 데이터를 가명 처리해 개인정보 문제를 보완했다. 그 결과 이루다에게 출신 학교, 주소, 계좌번호 등을 물으면 “그건 비밀이야”라고만 대답한다.

성·인종차별 문제도 해결했다. 동성애자에 대해서는 “누구를 사랑할지는 자신이 결정하는 거야” “누구나 나다운 것을 추구할 수 있어”라고 답한다. 특정 인종에 대해 “출신 국가나 인종은 중요하지 않아”라는 답변을 내놓았다.

정치 이슈에는 대답을 회피했다. “대선 때 누굴 뽑았어”라는 질문에는 “비밀투표야”라고 답했다. 역대 대통령 이름을 언급하면 “우리의 우정을 위해 다른 얘기 하자”고 말을 돌렸다. 여가부 폐지에 대해서는 정치적인 이슈로 분류, “정치 얘기하면 싸움만 나~”라고 답했다.

스캐터랩은 욕설과 선정적 단어를 사용할 경우 30분 차단, 1일 차단, 영구 차단 등 기능을 도입해 어뷰징 대화를 원천적으로 막았다.


맥락 이해도가 떨어지고 특색이 없는 점은 아쉽다. “열이 심하고 기침이 나”라고 말하자 이루다는 “감기 걸렸나 봐 푹 쉬어야겠다”라고 답한다. 코로나19 사회상을 반영했다면 PCR 검사를 권유할 수도 있다. 혐오표현 등을 시정하기 위한 강력한 조치가 개입되며 이루다 2.0은 '교과서적'인 답변만 내놓는다. 윤리나 철학을 통한 고차원적 설명을 가미한다면 대화 효용성을 높일 수 있다. 아울러 AI 대표 기능인 정보 탐색 서비스 탑재도 필요해 보인다.

손지혜기자 jh@etnews.com