틱톡이 이용자 안전 제고에 적극 나섰다. 인공지능(AI)을 활용해 유해한 콘텐츠를 필터링하고 전세계 4만명의 인력을 투입해 현지 정서와 가이드라인에 맞춰 2차로 영상을 거른다.
틱톡은 지난 1일(현지시간) 싱가포르 '투명성 및 책임센터(TAC:Transparency & Accountability Center)'에서 글로벌 기자 간담회를 개최하고 이 같은 이용자 보호 방안을 소개했다.
TAC는 유해한 콘텐츠를 선별하고 안전한 플랫폼 환경을 만들기 위해 설립한 센터다. 2020년 로스앤젤레스(LA)를 시작으로 2023년 아일랜드 더블린, 싱가포르 센터가 개소됐으며 올해 5월 워싱턴DC에도 만들었다.
싱가포르 TAC 내부에는 콘텐츠의 유해성을 판단하는 AI 체험 공간이 마련돼 있다. △위험 도구 △알코올 △극단주의 △흡연 등의 지수를 AI가 파악해 잡아낸다.
AI는 이용자의 행동을 인지해 위험 지수를 판단한다. 예컨대 화면 내 단순히 술을 들고 있을 경우, AI는 알코올에 대한 유해성이 낮다고 표시한다. 하지만 입으로 술을 가져가는 순간 알코올 지수는 높아진다. 칼을 들고 있을 경우 위험 도구 지수는 낮았으나, 목으로 칼을 가져갔을 때 위험 지수는 급증했다.
틱톡은 AI를 활용해 매일 200만개의 유해 콘텐츠를 삭제한다. 매일 업로드되는 영상을 AI에 교육하는 등 머신러닝을 통해 모니터링 기술을 고도화 중이다.
AI가 미처 잡아내지 못한 영상을 삭제하기 위해 전세계 4만여명의 콘텐츠 심사역(content moderater)도 고용했다. 이들은 현지 시장을 가장 잘 이해하는 사람들로 구성돼 사회 문화적 맥락에서 어긋나는 영상을 삭제한다. 영상의 77%는 AI를 통해, 나머지는 심사역을 통해 걸러진다.
칸지 (KahnJi) 틱톡 아웃리치 & 파트너십 매니저는 “올해 1분기 전세계적으로 97.7%의 영상이 신고당하기 전 AI를 통해 미리 제거됐다”며 “업로드 된 콘텐츠 중 삭제된 콘텐츠는 0.9%보다 적은 수준으로, 앞으로도 안전하고 책임감 있는 플랫폼으로 거듭나기 위해 노력하겠다”고 밝혔다.
싱가포르=손지혜 기자
손지혜 기자 jh@etnews.com
