〈편집자주〉
“혁신은 새롭고 더 나은 방식으로 일을 처리하는 것.”
현대 경영학을 창시한 학자로 평가받는 피터 드러커가 정의한 '혁신'이다. 이 문구는 새로운 기술이 끊임없이 시도되는 산업 분야에서 큰 함의를 갖는다. 기술이 사람을, 사회를 더 이롭게 하는 게 혁신이다.
전자신문은 한국전자기술연구원(KETI)이 개발하고 있는 기술을 3회에 걸쳐 소개한다. 인공지능(AI)을 활용한 딥페이크 탐지 기술, 자율제조 기술, 친환경 소재로 만든 신소재 그래핀이다. 이들 기술은 사회 문제를 해결하고, 산업 생산성을 높이며, 지속 가능한 사회에 기여할 것으로 주목돼서다.
_________________
생성형 AI 기술이 급격히 발전하면서 인간보다 정교하게 영상과 음성을 생성해 유포하는 '딥페이크'가 가짜뉴스 및 허위정보 제작에 악용되고 있다. 보다 정교해지는 딥페이크 생성 기술에 대한 대응이 필요한 상황. KETI가 개발 중인 AI 기반 자기진화형 탐지 기술은 이런 딥페이크에 대응하기 위해 고안됐다.
딥페이크 콘텐츠는 이미지 등의 원본 데이터에 노이즈를 추가한 뒤, 그 노이즈를 역으로 제거하는 과정을 통해 만들어진다. 사용자가 간단한 사진이나 텍스트 입력만으로도 딥페이크 콘텐츠를 제작할 수 있고 육안으로는 판별이 어려워져서 고도화된 탐지 기술이 필요하다.
KETI 기술은 AI 모델이 자체적으로 딥페이크 콘텐츠에 대한 가설을 세우고 이에 일치하는 콘텐츠를 탐지하는 방식이다. '지피지기'라는 사자성어처럼, 탐지기술 스스로가 딥페이크 생성기술을 갖추고 있기 때문에 조작된 콘텐츠를 분별해내고, 자체적으로 진화하는 기능을 갖춰 탐지 기술과 서로 경쟁하며 정확도를 향상시킨다.
또 초기 딥페이크 탐지 기술이 얼굴 합성 여부에 집중돼 있던 것과 달리 영상과 음성 모두 정교하게 탐지할 수 있도록 했다.
아울러 단순히 진위 여부를 판단하는 데 국한됐던 기존 탐지기술과 달리 어떤 근거로 딥페이크로 탐지했는지에 대한 판단 근거를 제시할 수 있다는 점이 특징이다.
조충상 KETI 책임연구원이 이끄는 연구진은 올해 프로토타입을 개발했다. 자가지도 사전 학습을 활용해 이미지·오디오 딥페이크를 탐지하는 기술과 고화질 오디오·비디오의 입모양 싱크를 탐지하는 AI 모듈 등을 개발하고 수요기관과 함께 딥페이크 판단 가이드라인을 설계했다.
지난달 열린 국제치안산업대전에는 딥페이크 영상 및 딥보이스 탐지 기술 시연이 이뤄졌다. 자가지도 학습 기술을 접목해 탐지 능력을 높였다. 영상이 가짜임을 판단하는 데 어떤 요소가 중요한 역할을 했는지 시각적으로 사용자가 쉽게 확인할 수 있도록 했다.
최종 소프트웨어는 사회·윤리적 판단, 악의성 판단과 근거 제시가 가능하도록 3차원 실사 휴먼 콘텐츠 생성 기술, 영상 및 음성 생성 기술, 딥페이크 악의성 판단 근거 제시를 위한 설명 가능한 거대모델 기술 등을 결합할 예정이다.
KETI는 클레온, 위지윅스튜디오, 서울과학기술대학교와 함께 개발에 나서고 있으며, 기술 사용기관인 국립과학수사연구원과 경찰대학 치안정책연구소와도 협력 중이다. 개발된 기술은 국립과학수사연구원 등 수요기관을 통해 현장에 적용할 계획이다.
KETI 관계자는 “새로운 디지털 포렌식 감정 영역을 발굴하고 관련 표준 운영 절차를 마련하도록 지원해서 가짜뉴스나 허위정보로 인한 사회적 혼란과 비용을 절감할 방침”이라고 말했다.
김영호 기자 lloydmind@etnews.com
