'딥페이크' 여부를 누구나 손쉽게 확인할 수 있는 소프트웨어(SW)가 상용화 된다.
한국과학기술원(KAIST·총장 이광형)은 이흥규 전산학부 교수팀이 인공신경망 기반 딥페이크 탐지와 사진 위변조 탐지 SW '카이캐치(KaiCatch)'를 모바일 앱 형태로 개발, 서비스를 시작한다고 30일 밝혔다.
이번 서비스는 누구나 손쉽게 디지털콘텐츠 위변조 탐지 기술을 활용할 수 있도록 실용화 단계로 들어섰다는 점에서 의미가 크다. 이런 유형 서비스는 국내 최초다. 구글스토어에서 카이캐치를 검색해 앱을 다운로드하면 간단하게 딥페이크 및 이미지 위변조를 분석 할 수 있다.
주로 사람 얼굴을 대상으로 하는 딥페이크 기술은 얼굴 교체, 얼굴 재현, 얼굴 속성 변환 3가지 유형으로 나눌 수 있다. 얼굴 교체와 재현은 악의적으로 사용할 때 가짜 뉴스로 사회적 큰 혼란을 일으킬 수 있고 음란물 제작 등에도 악용된다. 얼굴 속성 변환은 영상 증거를 조작하는데 악용될 수 있다.
개발 기술은 딥페이크 생성 유형에 상관없이 딥페이크 여부를 탐지한다. 미세 변형 신호 흔적과 미세 이상 신호 흔적 탐지 기술을 적용한 신호처리 및 인공지능(AI) 기술로 개발됐다. 얼굴 영역 미세 변형과 코, 입, 얼굴 윤곽 등 얼굴 내 기하학적 왜곡 발생 가능 영역의 이상 신호 흔적을 분석한다.
AVI, MP4 형식 딥페이크 의심 동영상이 주어지면 이를 프레임 단위로 자른 뒤, 이미지로 변환 후 탐지를 수행한다. 동영상 내 얼굴이 지나치게 작거나 상당 부분 잘린 경우가 아니면 정상 탐지가 가능하다. 분석 결과는 0~100% 값으로 표시되며, 높을수록 딥페이크일 확률이 높은 것으로 판단한다.
이미지의 경우도 위변조 분석 결과를 받아 볼 수 있다. BMP, TIF, TIFF, PNG 등 50여개 표준 양자화 테이블, 1000여개가 넘는 비표준화 양자화 테이블 기반 JPEG 이미지도 모두 처리할 수 있다.
이흥규 교수는 “카이캐치는 AI와 미세 이상 신호 흔적 분석 기법을 사용해 다양한 변형에 범용성을 가진다”며 “예측하지 못하거나 모르는 변형 기법을 사용해도 90% 내외 높은 신뢰도로 탐지한다”고 말했다.
이 교수는 이어 “안드로이드 기반 앱 서비스 기술로 개발됐지만 애플 iOS 기반 앱 출시와 함께 영어, 중국어, 일어 앱도 출시하려고 한다”며 “기존 탐지 기법과는 매우 상이한 기법들을 사용한 위변조 탐지 기술도 실용화해 카이캐치에 추가 탑재 운용함으로써, 탐지가 안 되는 각종 예외 경우들을 대폭 줄이도록 노력하겠다”고 덧붙였다.
대전=김영준기자 kyj85@etnews.com
