제22대 총선을 한 달여 앞두고 정보기술(IT) 및 플랫폼 업계의 고민이 깊어지고 있다. 갈수록 고도화되고 있는 딥페이크 대응방안을 마련해야 하기 때문이다. 딥페이크는 인공지능(AI)을 활용해 만들어낸 가짜 이미지와 음성, 동영상 등을 말한다.
기술이 진화할수록 딥페이크를 활용해 투표에 영향을 끼치려는 악성 가짜 정치 뉴스가 급속도로 늘어나고 있다. 관련 기술은 발전 속도도 빠르다. 딥페이크 동영상의 수준은 전문가들조차 진짜와 가짜를 판별하기 어려울 정도다.
이에 따라 한국인터넷기업협회는 조만간 딥페이크 대응하기 위한 업계 공동의 대응 방안을 발표할 예정이다. 자율협의체에는 네이버와 카카오, SK커뮤니케이션즈 등 국내 기업은 물론 구글코리아, 메타코리아, 바이트댄스(틱톡 운영사) 등 글로벌 플랫폼 기업들이 함께 참여한다.
딥페이크 대응은 우리나라뿐만 아니라 전세계 공통의 관심사다. 지난달 20여개 글로벌 빅테크 기업이 함께 발표한 뮌헨안보회의(MSC) 기술협정이 대표적이다. 딥페이크와 관련해 이용자들이 AI를 활용해 만든 콘텐츠임을 알아볼 수 있도록 워터마크를 넣거나 라벨을 붙이는 기술을 개발키로 했다. 또 AI로 만든 콘텐츠 여부를 판별할 수 있는 기술을 만들겠다는 내용도 포함됐다.
인공지능 전환(AX)이 급속도로 진행되는 가운데 부정적인 영향을 최소화하는 것은 기술 발전과 병행해야 하는 과제다. 특히 미국을 비롯한 많은 국가들이 선거를 앞두고 있어 그 중요성은 더욱 크다. 이미 우리나라에서도 윤석열 대통령의 대선후보 시절 TV연설 장면을 악의적으로 짜깁기한 딥페이크 영상이 출현하기도 했다. 총선이 가까워질수록 국민들의 투표에 영향을 끼치려는 시도가 늘어날 가능성이 크다.
플랫폼 업체들의 노력과 더불어 콘텐츠 제작 과정에서부터 AI를 활용한 콘텐츠를 명확하게 구분할 수 있는 업계 자율의 가이드라인을 만드는 것이 중요하다. 딥페이크 기술은 이 순간에도 급속히 발전하고 있어 사후 대책을 만드는 것은 실효성이 떨어지기 때문이다.
유권자들도 가짜 정보에 휘둘리지 않도록 정보의 출처를 확인하는 경각심을 가져야 한다. 가짜 뉴스에 휘둘리지 않는 국민 정서가 뿌리내려야 딥페이크로 선거에 영향을 끼치려는 시도 자체가 없어질 것이다. 결국 콘텐츠 제작자와 플랫폼 업체들의 자율 규제와 이용자들의 자정 노력이 최선의 해답이다.