인공지능(AI) 기술 발전은 우리 일상을 획기적으로 변화시키고, AI 없이 비즈니스를 수행할 수 없는 시대가 돼 가고 있다. 반면에 이를 악용해 사회적 물의를 일으키는 어두운 면도 있다. 최근 AI를 활용한 딥페이크 범죄가 심각한 사회문제가 되고 있다.
딥페이크는 '딥러닝(Deep Learning)'과 '가짜(Fake)'의 합성어로, AI를 이용해 실존 인물 얼굴, 목소리 등을 조작해 영상이나 음성 등을 만드는 기술이다. 초기에는 유명인 얼굴을 성인 영화 장면에 합성하는 기술을 공유하면서 문제가 됐으나, 정보통신기술(ICT) 발전과 함께 딥페이크는 정치적 선전, 범죄 등에 악용되기 시작했다.
딥페이크 문제 해결 실마리를 인터넷 초기 시대 경험에서 찾을 수 있을 것 같다. 인터넷이 처음 등장했을 때 우리는 새로운 기술의 무분별한 사용으로 다양한 사회문제를 겪었다. 사이버 범죄, 저작권 침해, 개인정보 유출 등 다양한 형태의 악용 사례가 있었는데 이때 우리가 취했던 대응과 교훈은 딥페이크 문제에도 유사하게 적용될 수 있다.
◇기술발전 속도와 규제 그리고 탈중앙화
인터넷 초기에도 기술이 빠르게 발전하는 가운데 법·제도적 규제가 뒤따르지 못해 이를 악용하는 범죄와 부작용 사례가 급증했다. 딥페이크도 마찬가지로 유사점이 있다. 인터넷 초기처럼 기술 발전과 함께 규제와 법적 대응이 병행돼야 하고, 딥페이크에 대한 명확한 법적 정의와 처벌 규정, 이를 뒷받침하는 사후관리 조치 강화가 필요하다.
초기 인터넷은 매우 탈중앙화된 공간이었으며, 이는 정보의 자유로운 흐름을 가능하게 했지만 동시에 책임 회피의 공간이기도 했다. 딥페이크 문제 역시 탈중앙화된 플랫폼, 특히 텔레그램, 디스코드 같은 플랫폼에서 주로 발생한다. 중앙 집중화된 규제와 협력 체계를 구축해 이런 플랫폼과 협력, 딥페이크 콘텐츠를 빠르게 식별하고 차단하는 것이 매우 중요하다.
◇대국민 윤리교육 강화 및 사회적 인식변화
인터넷이 널리 퍼지면서 사이버 보안과 윤리 교육이 중요하다는 인식이 확산됐다. 딥페이크 문제 해결의 장기적 관점에서, 딥페이크 기술 위험성을 인식하고 이를 악용하지 않도록 하는 윤리 교육이 필요하다. 특히 사회관계망서비스(SNS) 활용이 용이해 딥페이크 기술을 접할 가능성이 높은 청소년과 대학생들을 대상으로 한 교육 프로그램을 마련하는 것도 중요하다.
또 인터넷 초창기에는 익명성을 악용한 범죄가 만연했지만, 시간이 지나면서 인터넷 상의 행동에 대한 책임 의식이 높아졌다. 딥페이크 문제 해결에서도 마찬가지로 사회적 인식을 개선해 개인정보 보호와 디지털 윤리 책임감을 제고할 필요가 있다. 개인 인식 변화뿐만 아니라 정부, 교육계, 기업 등 모든 공동체 구성원이 함께 책임감을 느끼고 대응해야 할 문제다.
◇딥페이크 기술 개발 및 글로벌 협력
인터넷 초기에도 악성 코드와 해킹을 방지하기 위한 기술적 대응 방안이 발전했듯이, 딥페이크 문제도 기술개발로 대응할 수 있다. 딥페이크 탐지 기술은 더욱 정교하게 감지하고 차단할 수 있는 알고리즘 개발하고, 신속한 진위여부 판결 기술 개발이 중요할 것이다. 딥페이크를 구별할 수 있는 도구를 확산해 일반인들도 쉽게 활용하게 하는 것도 중요하다.
과거와 마찬가지로 국경을 초월한 범죄에 대한 대응이 필요했듯이, 딥페이크 문제도 글로벌 협력이 필수다. 국제 협력으로 법적 기준을 표준화하고, 기술 공유·공동 대응이 필요하다.
인터넷 초기 시행착오에서 얻은 교훈을 딥페이크 문제에 타산지석으로 삼아야 할 것이다. 대처에 미온적인 플랫폼 기업에 대해서는 규제를 강화하되, 무한한 가능성이 있는 영화나 게임, 의료산업에 AI 융합 기술이 활용되고 꽃피울 수 있도록 터전을 마련하는 것이 중요할 것이다.
글 : 도승희 정보통신기획평가원(IITP) 연구위원
김영준 기자 kyj85@etnews.com
