지란지교데이터가 정보통신산업진흥원(NIPA) '인공지능(AI) 바우처 지원 사업'을 통해 유해 영상 차단 기술을 고도화했다.
지란지교데이터는 공급기업 '콘텐츠 기반 딥러닝 분석 도구 및 통합 시스템'을 활용해 AI 기반 유해 영상 및 스트리밍 차단 엔진을 개발했다.
방대한 유해 영상 학습 데이터를 구축, 파일 변형에 따른 해시 값 변경과 무관하게 유해물을 인식하고 차단한다. 제한된 영상물 차단에서 벗어나 이미지, 음성 파일, 유해 영상 스트리밍 인터넷주소(URL) 등 다양한 소스를 사전에 진단하고 차단, 노출 위험을 최소화한다.
기존에는 원본 파일을 변형하는 유해 영상 특성에 따라 차단이 어려웠다. 파일 변형 시 해시 값도 변경되기 때문이다. 개인간(P2P), 메신저, 사회관계망서비스(SNS), 웹사이트를 통해 공유, 재생되는 유해 영상은 대부분 하이라이트 편집, 문구 삽입 등 변형된 형태로 저장된다.
지란지교데이터는 이번에 고도화한 기술을 '엑스키퍼'에 우선 적용할 계획이다. 이번 기술 개발로 향후 신사업 진출과 매출 향상에도 도움이 될 것으로 기대한다.
조원희 지란지교데이터 대표는 “'n번방' 사건 등 유해 영상 유통과 확산이 사회 문제로 제기됨에 따라 개인용컴퓨터(PC) 및 스마트 기기를 통한 유해 영상 차단 기술이 주목받는다”면서 “AI 바우처를 통해 더욱 진보한 아동 청소년 보호 서비스를 제공할 수 있게 됐다”고 말했다.
오다인기자 ohdain@etnews.com