큐빅은 딥페이크 범죄 예방을 위한 세계 최초의 AI 이미지 면역기능 서비스 픽스에이드를 공식 론칭했다고 10일 밝혔다.
딥페이크(deep fake)는 인공지능 기반으로 기존에 있던 인물의 이미지나 영상, 음성 등을 생성하거나 합성·수정하는 최신 기술이다. 일부 기술이 보유한 순기능을 악용해 대중들을 속이거나 특정 유명인들의 명예를 훼손하는 사례가 종종 발생하고 있다.
또한 실제 벌어지지 않은 일들을 정교하게 조작해 실제인 것처럼 허위사실을 유포해 정보의 혼란을 불러일으키기도 한다.
법리적 처벌 강화에도 불구하고 최근 방송통신심의위원회가 발표한 데이터에 따르면, 2020년 6월부터 2021년 9월까지 차단·삭제 지시한 '딥페이크 성적 허위 영상(불법 합성물)' 수가 1956건에 달하는 것으로 집계되는 등 딥페이크 범죄는 여전히 심각한 사회적 문제도 대두되고 있는 상황이다.
픽스에이드는 사람의 눈에 보이지 않는 노이즈를 이미지에 삽입하는 adversarial example 기반 기술을 활용해 AI 모델의 오작동을 유도한다.
Adversarial example은 AI 모델의 구조와 학습 알고리즘을 분석해 AI 모델의 손실 함수를 극대화할 수 있는 모델의 취약점을 알아 내어 이미지에 적합한 노이즈의 형태로 구현하는 기술이다.
픽스에이드는 해당 기술에 기반하여 이미지에 대한 AI의 무단 도용을 차단하는 안티피싱 이미지 AID 기술을 활용, 합성결과가 AI 의도대로 되지 않아 이미지 초상권을 지킬 수 있다.
이와 함께 픽스에이드 내에는 닉네임을 사용해 실명정보를 보호하는 것과 같이 안면 이미지를 새로운 닉페이스(nick face)로 변환해 실제 안면정보를 지킬 수 있는 'AI 얼굴 Made'와 인물과 구조는 유지하고 배경 스타일만 변형할 수 있는 '배경정보 FADE' 서비스도 탑재돼 있다.
'AI 얼굴 Made'는 단순히 AI로 고객이 원하는 얼굴을 만들어주는 것이 아닌 AI 얼굴을 만듦으로써 안면정보를 보호해주기 위한 이다. 최신 생성 AI 기술인 diffusion model 기반 큐빅의 기술을 활용해 나이와 성별을 바꾸어 다양한 모습의 또 다른 '나'를 만들 수 있다.
생성된 AI 얼굴은 어떠한 환경이나 자세에 모두 적용이 가능해 SNS상에서 멀티 페르소나를 뜻하는 '부캐'로도 사용 할 수 있다.
'배경정보 FADE'의 경우도 diffusion model을 활용한 큐빅의 기술을 이용해 다른 유사 서비스처럼 고정된 템플릿으로 바꾸는 단순한 변환기능을 넘어 인테리어를 바꾸어 보고 싶거나 실제 사생활을 노출하고 싶지 않을 때 등과 같이 사용자의 기호에 따라 모던, 내추럴, 북유럽, 레트로, 빈티지, 엔틱, 프로방스, 로맨틱, 인더스트리얼 등 수 만여 개의 다양한 스타일로 배경을 변경할 수 있다.
또한 스타일을 미리 저장할 수 있어 배경 내부를 동일한 콘셉트로 바꿀 수 있다.
큐빅 관계자는 “픽스에이드는 이미지 AID 기술 기반의 노이즈를 사람의 얼굴에 적용하여 초상권을 보호할 수 있고, 이를 통해 딥페이크 범죄 및 각종 피싱을 예방할 수 있다”며 “또한 'AI 얼굴 Made' 및 '배경정보 FADE' 등 부가서비스를 통해 나만의 이미지를 생성하는 색다른 재미도 만끽할 수 있다”고 설명했다.
한편, 큐빅은 이미지 전체에 노이즈를 적용, AI가 무단으로 이미지 저작권을 침범해 학습하거나 이차 생성물을 만드는 것을 방지해 저작권, 초상권 등을 보호할 수 있는 B2C 서비스인 'ImmuIMG'도 오는 11월 중 공개할 예정이다.
전자신문인터넷 이상원 기자 sllep@etnews.com
