네이버와 다음이 내달 총선 페이지를 개설하고 가짜뉴스·딥페이크(Deepfake)에 대한 대응책을 공개한다. 네이버는 딥페이크 콘텐츠나 관련 검색문구에 대해 경고를 띄운다. 다음을 운영하는 카카오는 이미지 생성모델 '칼로'에 보이지 않는 워터마크 기술을 도입하는 등 대응책을 준비한다. 조만간 구글코리아, 메타 등과 함께 딥페이크 대응 관련 기술 협정에 합의하면서 구체적인 대응책을 확정한다.
26일 정보기술(IT) 업계에 따르면 네이버는 다음 달 초 애플리케이션(앱)의 뉴스탭 내에 22대 국회의원 선거에 대비해 총선 페이지를 마련한다. 지난 11일 언론사 홈 내 총선 섹션을 신설한데 이어 앱 내에서 본격적으로 총선 뉴스를 지원한다. 당초 이달 안에 총선 페이지를 개설할 계획이었지만 내달 초로 개설 일정을 순연했다.
네이버는 총선 페이지 공개와 함께 가짜뉴스·딥페이크 방지책도 공개할 계획이다. 네이버는 지난 1일 22대 국회의원 선거에 대비해 24시간 모니터링을 강화하고 선거 관련 허위 정보 신고 센터를 신설하는 등 대응책을 제시했다. 이에 더해 다음 달 딥페이크에 대한 대응책도 추가로 발표한다.
네이버는 딥페이크에 대응하기 위해 이용자 검색창에 유해 딥페이크로 접근할 가능성이 있는 검색어를 입력하면 안내문구를 표시한다. 블로그·카페 등에서 딥페이크 콘텐츠를 올리면 제재를 받을 수 있다는 경고 문구도 송출한다. 생성형 AI 등에 대한 대응책도 추가로 논의하고 있다.
카카오가 운영하는 다음은 내달 중순 총선 페이지를 오픈하면서 딥페이크 대응책을 공개한다. 다음은 이미 이미지 검색에 업로드되는 콘텐츠가 성인물인지 검출하는 시스템을 적용하고 있다. 또 생성형 AI 차원에서는 카카오브레인의 이미지 생성모델 '칼로'에 보이지 않는 워터마크 기술을 적용한다. 유저들에게는 워터마크가 보이지 않지만 기술적으로는 칼로를 활용해 딥페이크를 생성했는지 여부를 확인하는 방식이다.
국내 플랫폼 기업들은 조만간 딥페이크 대응 관련 기술 협정도 체결한다. 한국인터넷기업협회 회원사인 구글코리아, 네이버, 메타, SK커뮤니케이션즈, 카카오, 틱톡 등은 제22대 국회의원 선거 등에 대비하기 위해 자율협의체를 구성해 대응 방안을 발표한다. 선거에 영향을 미치기 위해 악의적으로 제작·편집한 딥페이크 콘텐츠를 대상이다. 악의적 선거 딥페이크 관련 위험 완화를 위한 노력, 악의적 선거 딥페이크 유포 방지를 위한 기업 간 논의, 외부 전문가 그룹과 지속적 논의 등 대응 방안을 담는다.
전문가는 사용자의 이의제기 시스템 등으로 가짜뉴스를 판별할 수 있는 시스템도 대안이 될 수 있다고 조언했다.
이승훈 가천대 글로벌경영학과 교수는 “페이스북은 어떤 글이 올라왔을 때 이의제기를 할 수 있고, 이의제기가 쌓이면 블라인드 처리가 된다”면서 “이런 식의 시스템을 구축할 수 있다”고 말했다.
변상근 기자 sgbyun@etnews.com
