챗GPT, 미드저니 등의 생성형 인공지능(AI) 기술이 빠른 속도로 발전하면서 이에 대한 적절한 규제가 필요하다는 주장이 나온다. 올해부터 생성형 AI 활용 표기 의무에 대한 본격적인 법·제도 정비가 이뤄질 전망이다.
최근 생성형 AI가 만들어 내는 콘텐츠 결과물이 급속도로 발전하며 딥페이크, 가짜뉴스, 저작권 침해 문제가 속출하고 있다. AI 생성물이라는 것을 표기하지 않으면, 이용자나 일반공중은 이를 인간 창작물로 오인하기 쉽다. 구매와 소비가 이뤄진다. 가짜 이미지 등이 진짜 뉴스인 것으로 인식될 수 있다. 타인의 성명, 이미지, 목소리를 무단사용함으로써 이들의 명성이나 프라이버시를 침해할 수 있다는 지적이다.
이를 해결하기 위해 지난해 12월 유럽연합(EU)은 세계 최초로 AI로 생성한 콘텐츠에 워터마크를 의무화하는 법안을 통과시켰다.
우리나라 역시 AI 콘텐츠 부작용 예방을 목적으로 AI 활용 표기 의무 내용을 담은 법이 발의됐다. 국회 문화체육관광위원회 소속 이상헌 더불어민주당 의원은 AI를 이용해 제작된 콘텐츠라는 사실을 표시하도록 하는 '콘텐츠산업 진흥법 일부개정법률안'을 지난해 대표발의했다. 콘텐츠제작자는 대통령령으로 정하는 AI 기술을 이용해 콘텐츠를 제작한 경우, 해당 콘텐츠가 인공지능 기술을 이용해 제작된 콘텐츠라는 사실을 표시하도록 해야 한다는 내용이 담겼다.
이상헌 의원은 “AI 기술 발전 속도가 지나치게 빨라지면서 오남용으로 인한 부작용이 우려되고 있다”며 “AI 오남용을 막기 위한 관리 방안을 마련해 인공지능 시대의 규범적 틀을 확립해야 한다”고 말했다.
법제화에 속도를 내기 위해 지난 30일 이상헌 의원은 한국음악저작권협회와 지난달 국회의원회관에서 생성형 AI 콘텐츠 표기(Made by AI) 의무화법 도입을 위한 공청회를 개최했다.
황선철 음저협 국장은 “AI 생성물 표기를 의무화하는 법은 창작자만을 위한 것이 아니다”면서 “생성형 AI로 발생할 수 있는 다양한 분쟁을 방지하기 위한 최소한 안전장치”라고 설명했다.
이대희 고려대 법학전문대학원 교수는 “이미 가짜 정보를 규제하는 법률이 외국에서 시행되고 있고, AI 생성물임을 표시하도록 하는 법안이 미국, EU, 프랑스 등 여러 국가에서 발의됐다”며 “AI 생성물이라는 사실을 표기하도록 하는 것은 AI와 관련된 투명성에 관한 문제로서 이용자에 대한 기망이나 개인 프라이버시 침해를 방지하는 긍정적인 역할을 하게 된다”고 밝혔다.
권혜미 기자 hyeming@etnews.com
