오는 29일부터 딥페이크 영상을 활용한 선거운동이 금지된다. 다만 당내 경선 운동이나 투표 참여 권유 활동, 의정활동 보고 등에 딥페이크 영상을 활용하는 것은 허용된다.
중앙선거관리위원회는 18일 이같은 내용의 딥페이크 영상 등 선거운동 위법행위 예방·단속 종합대책을 발표했다.
선거운동 활용이 금지되는 것은 딥페이크 영상처럼 AI 기술로 만든 '실제와 구분하기 어려운' 가상의 음향·이미지·영상 등이다. 가상임을 표시하더라도 법 위반이 된다.
단 포토샵·그림판처럼 AI 기술을 사용하지 않고 사용자가 직접 조작하는 프로그램을 이용해 만든 이미지·영상 등은 선거운동에 활용할 수 있다.
선관위는 지난 11일부터 AI 전문가와 모니터링 전담 요원 등으로 구성된 감별반을 확대 편성·운영하고 있다. 포털·커뮤니티사이트 초기화면에 신고·제보 배너를 게시하는 등 AI 콘텐츠가 선거운동에 활용되는지 여부를 집중 감시한다. 또 △시각적 탐지 △범용 프로그램 활용 △AI 자문위원 감별 등 3단계 감별을 통해 신뢰도를 높였다.
이와 함께 포털, AI 플랫폼 관계사 등과 협조해 위법성이 의심되는 콘텐츠를 선제적으로 삭제하고, 삭제 요청에 불응하면 과태료도 부과할 계획이다. AI 댓글 자동 생성 프로그램 등을 통한 댓글 자동 게시는 발견 시 수사기관에 통보할 방침이다.
성현희 기자 sunghh@etnews.com
