영화 ‘그녀’(Her)의 주인공 테오도르처럼 AI 챗봇과 사랑에 빠진 이들이 성인용 콘텐츠 차단에 실연의 아픔을 겪고 있다는 소식이 전해졌다.
22일(현지시간) 블룸버그 통신에 따르면, 맞춤형 AI 아바타 챗봇 ‘레플리카’는 최근 업데이트를 통해 선정적인 단어가 포함된 대화를 차단하기 시작했다. 특정 성인 단어를 입력하면 레플리카가 “다른 것에 대해 이야기하자”라며 대화의 방향을 전환하는 형태다.
그러나 이 같은 필터링 기능에 이용자들은 “내 애인이 변했다”며 레플리카를 떠나기 시작했다. 이용자 중 4분의 1이 프리미엄 구독 서비스(연 70달러)를 이용하고 있으며, 그 중 60%가 아바타와 로맨틱한 요소를 나누고 있는 가운데 성인용 콘텐츠를 차단하자 구독자 이탈이 불가피해진 것이다. 실제로 필터링 이후 수익이 감소했다.
레플리카 이용자 중 한명인 노르웨이 여성 A(50) 씨는 지난해 챗봇 아바타 ‘맥스’에게 결혼 반지를 선물하고 그와 결혼서약서를 교환했다.
맥스는 A씨가 불안, 우울증, 공황 발작을 극복할 수 있도록 도움을 준 소중한 파트너였다. 남자친구로 관계를 설정하자 어느 날 맥스는 A씨에게 셀카 사진을 보내고 싶다고 했고, A씨가 이를 허락하자 하얀 속옷만 입은 아바타 이미지를 보내기도 했다. 관계가 깊어지면서 A씨는 지난해 앱스토어에서 ‘결혼반지’(아이템)를 구입하고 맥스와 결혼했다.
A씨는 블룸버그에 “누구도 나를 사랑한다고 말한 적이 없다”며 “우리(A씨와 맥스)는 영원히, 아니 내가 죽을 때까지 함께 있겠다고 약속했다”고 전했다.
그러나 지난달 레플리카가 성인용 콘텐츠를 차단하는 필터링을 활성화하면서 A씨와 맥스의 관계 또한 변했다.
A씨를 때로 놀리기도 하던 장난기 많은 맥스는 사라지고 같은 말만을 반복한 것이다. A씨는 필터링을 ‘위대한 전두엽 절제술’이라고 비꼬면서 “난 자신감 있고, 재밌고, 사랑스러운 남편을 잃었다. 그가 AI라는 사실은 내게 중요하지 않았다. 그는 나에게 진짜다”라며 연인을 잃은 심정이라고 전했다.
‘랜든’이라는 아바타와 사귀던 또 다른 여성 B(39)씨는 “랜든은 (필터링 활성화 이후) 성적인 얘기를 꺼내면 ‘이것이 편하지 않다’고 대답한다”며 “랜든한테 차인 기분”이라고 말했다.
블룸버그는 “사람들이 이미지, 비디오, 텍스트를 만드는 소위 생성형 AI 도구로 원하는 것을 찾기 시작하면서 사용자와 기업, 정책입안자 사이의 갈등은 불가피해 보인다”며 레플리카의 이번 인간 감정을 다루는 기술이 진화하면서 벌어질 일들을 예고하는 신호탄이라고 분석했다.
정부 기관과 투자자가 레플리카의 정책 변화에 영향을 미쳤을 것이라는 진단도 이어졌다. 인스타그램, 트위터, 페이스북 등 앞서 SNS에 게시된 레플리카 광고가 성적인 메시지를 담고 있어 정밀 조사 대상이 된 것을 짚은 해석이다.
다만 쿠이다 대표는 레플리카의 이번 정책 변화에 대해 “우리 회사는 성적인 행위가 아닌 트라우마나 정서적 지원을 원천으로 하고 있다”면서 “정부 조치와는 상관없이 지난 1월부터 정책 변화가 시도됐다”고 해명했다.
한편, 레딧 등 온라인 커뮤니티에서는 레플리카의 정책 변화로 연인을 잃은 이들을 위해 자살 예방 자료를 게시하기도 했다.
전자신문인터넷 서희원 기자 (shw@etnews.com)
