지인이나 연예인, 정치인 등의 얼굴을 도용한 인공지능(AI)을 악용한 딥페이크 범죄가 확산하면서 세계 각국이 자구책 마련에 고심하고 있다.
2일 정보기술(IT) 업계에 따르면, 초·중·고 학생이나 연예인 등의 얼굴 사진과 음란물을 합성한 딥페이크 성착취물이 텔레그램에서 대거 유포되고 있다.
여성가족부 산하 한국여성인권진흥원의 최근 발표에 따르면, 올해 1월1일부터 8월25일까지 디지털성범죄피해자지원센터로부터 딥페이크 피해 지원을 요청한 781명 중 288명(36.9%)은 10대 이하였다.
유명 걸그룹 '트와이스', 가수 '권은비' 등 연예인의 딥페이크 성착취물로 인한 피해 사실도 드러났다. 이에 해당 소속사들은 딥페이크 성착취물을 유포한 이들에 대한 법적 대응을 진행 중이다.
딥페이크 범죄는 해외에서도 기승이다.
미국은 오는 11월 대선을 앞두고 정치인의 얼굴을 도용한 가짜뉴스 유포에 시달리고 있다.
일론 머스크 테슬라 최고경영자(CEO)가 소셜미디어 엑스(X·옛 트위터)에 올린 미국 대선 관련 허위 정보가 올해에만 12억 회 이상 조회됐다고 미국 경제전문지 포천은 최근 보도했다.
일본에서는 딥페이크로 제작된 정교한 음성·영상을 활용한 사기 건수가 급증했다. 영국 디지털 신원 확인 보안 업체 '섬서브(Sumsub)'의 최근 보고서에 따르면, 지난해 일본에서 확인된 딥페이크 사기 건수는 2800건으로 전년 대비 28배 급증했다.
딥페이크 기술은 기존 합성 기술보다 고도화돼 전문지식 없이도 실제와 구분하기 어려운 음성·사진·영상 등을 생성할 수 있어 피해 규모가 더욱 크다.
이에 정부는 딥페이크 등 허위 영상물 소지·구입·시청 행위를 처벌하는 규정을 신설하고 딥페이크물 제작·유통에 대한 처벌 기준을 상향하는 법률을 개정할 계획이다.
이 중 영상물 소지·구입·시청 행위에 대한 처벌은 현행법상 딥페이크 불법 음란물을 '반포 목적'으로 제작된 것으로 규정하는 맹점을 보완할 것으로 기대된다.
한국재난안전산업협회 국가인프라지능화위원회는 2일 오후 2시 여의도 한국경제인협회 대회의실에서 '대한민국 딥페이크 방지 비상대책연합회 발대식'을 열었다.
내년 도입되는 AI 디지털 교과서, 학생의 PC·태블릿 등에 AI 딥페이크 방지 모니터링 서비스를 설치, 딥페이크물 생성 시 자동 삭제하는 방식을 구상 중이다.
해외에서도 딥페이크 규제 논의가 탄력을 받고 있다.
미국 캘리포니아 주의회는 AI 기술을 이용한 딥페이크를 규제하는 일련의 법안을 처리했다고 지난 달 31일(현지시간) AP통신이 보도했다.
개리 뉴섬 캘리포니아 주지사가 오는 30일까지 이 법안에 서명하면 딥페이크 아동 성 착취물을 제작한 사람뿐 아니라 배포·소지한 사람까지 처벌받을 수 있다.
중국 관영 매체 글로벌타임스는 우리나라의 딥페이크 범죄 확산으로 인해 중국 내 딥페이크 범죄 방지 논의가 촉발됐다고 1일 보도했다.
시에 용장 베이징 우편통신대학 교수는 “일반 대중이 아직 AI가 생성한 콘텐츠와 현실 기반 콘텐츠를 구별할 수 없기 때문에 관련 당국이 적절한 식별 기술을 개발해야 한다”며 “소셜 미디어 플랫폼 운영자가 이 문제를 다룰 수 있는 메커니즘을 마련해야 한다”고 제안했다.
현대인 기자 modernman@etnews.com
