인공지능(AI) 기술인 딥러닝(Deep learning)과 가짜(Fake)의 합성어다. AI 기술을 이용해 만들어 낸 진위 여부를 구별하기 힘든 가짜 이미지와 비디오, 오디오 등을 뜻한다. 2017년 미국 온라인 커뮤니티 레딧(Reddit)의 한 회원이 기존 영상에 유명인 얼굴을 입혀 가짜 콘텐츠를 게재한 데서 유래됐다.
주로 실존하지 않는 사람의 얼굴이나 음성을 현실처럼 만들어내거나, 실제 인물의 얼굴이나 음성을 다른 사람의 것으로 바꿔치기 한다.
딥페이크는 '적대관계생성신경망(GAN)'이라는 머신러닝 기술을 기반으로 한다. GAN은 AI 모델을 생성모델과 분류모델로 구분하며, 각 모델의 학습을 반복하는 과정을 거친다. 생성모델과 분류모델은 서로를 적대적 경쟁자로 인식하며 상호 발전한다. 생성모델은 실제와 유사한 데이터를 생성할 수 있게 된다. 분류모델은 데이터 진위여부를 구별할 수 없게 된다. 이 과정을 반복하면서 원본 영상과 구별이 힘들 정도로 정교한 합성 영상이 만들어진다.
생성형 AI 기술 발전으로 딥페이크 기술은 더 많은 AI 윤리 논쟁을 촉발시켰다. 특히 가짜뉴스뿐 아니라 성인물 영역에서 위험성이 대두됐다. 최근 미국 팝스타 테일러 스위프트 얼굴에 음란물을 합성한 사진이 퍼지면서, AI 딥페이크에 대한 강력한 규제가 필요하다는 목소리가 커졌다.
사티아 나델라 MS 최고경영자(CEO)는 딥페이크 악용에 대한 규제와 안전장치 필요성을 강조했다. 소셜미디어 X(옛 트위터)는 성착취물이나 허위정보를 단속할 '신뢰와 안전 센터'를 신설했다.
다만 악용 사례만 있는 것은 아니다. 의료 분야에서 딥페이크 영상은 AI가 질병을 학습하고 정확히 진단할 수 있도록 딥러닝하는데 사용된다. 미디어 업계에서는 특수효과에 활용돼 콘텐츠 품질 개선에 기여하기도 한다.
박준호 기자 junho@etnews.com
