[에듀플러스]이상욱 AI윤리·신뢰성 포럼 위원장,“딥페이크 결과물 인간이 소중히 여기는 가치 훼손…사회적 논의 통해 AI윤리 만들어 나가야”

이상욱 제3기 AI윤리·신뢰성 포럼 위원장은 딥페이크 범죄에 대해서는 정부가 강력한 제재를 취해야 한다고 강조했다. (사진=우단우 PD)

딥페이크 불법영상물이 국내 학교 현장에 퍼지면서 학생들의 불안감이 날로 커지고 있다. 지난 12월 교육부가 발표한 '학교 딥페이크 불법영상물 실태 및 청소년 인식조사'에 따르면 청소년 89.4%가 딥페이크 불법영상물을 범죄로 인식하고 있는 것으로 나타났다.

딥페이크 성범죄 사건 발생 이후 불안감을 느낀 이유로 '나도 모르게 피해자가 될 수 있어서'(76.0%), '주변 사람이 가해자일 수 있어서' (45.4%), '피해 시 대처 방법을 몰라서' (29.7%) 순으로 조사됐다. 사회 전반에 인공지능(AI)윤리 교육이 필요하다는 주장에 힘이 실리는 이유다.

지난 12월 교육부가 발표한 '학교 딥페이크 불법영상물 실태 및 청소년 인식조사'에 따르면 청소년 89.4%가 딥페이크 불법영상물을 범죄로 인식하고 있는 것으로 나타났다. (자료=교육부)

지난달 한양대학교 서울 캠퍼스에서 이상욱 제3기 AI윤리·신뢰성 포럼 위원장(한양대 철학과 및 인공지능학과 교수)을 만나 딥페이크 범죄를 막을 방안과 AI윤리에 대한 이야기를 들어봤다. AI윤리·신뢰성 포럼은 AI윤리·신뢰성 분야 범부처 과제를 발굴하고, AI의 사회적 신뢰기반 조성을 위한 논의를 해왔다. 학계, 산업계, 법조계, 공공, 시민사회, 국제기구 등 분야별 전문가 20명으로 구성돼 있다.

이 위원장에게 딥페이크 기술이 사회적 문제를 일으키는 이유를 가장 먼저 물었다. 그는 “딥페이크 결과물이 '개인의 자기 결정권'처럼 우리가 소중하게 여기는 가치를 훼손하기 때문”이라고 단언했다. 이 위원장은 딥페이크 범죄를 해결하기 위해 무작정 기술을 규제하는 것은 답이 아니라고 봤다. 대신 그는 “딥페이크의 생산적인 활용 가능성을 유지하면서 악용, 오용을 막을 방법을 고민해야 한다”고 조언했다. 다음은 이 위원장과의 일문일답.

▲딥페이크 기술의 특징은 무엇인가.

-딥페이크는 팩트가 아닌 것을 만들어 낼 수 있는 기술이다. 딥페이크는 생성형 AI기술의 핵심을 사용하는 것이기 때문에 기술의 버그가 아니라 기술의 미래다. 원래 목적과 달리 오작동하거나 문제가 발생해 생긴 병리적 현상이 아니라, 딥페이크 기술의 특징으로부터 자연스럽게 파생된 것이다. 따라서 생성형 AI 사용 자체를 법으로 금지하지 않는 이상, 딥페이크로 인한 사회 문제를 완전히 근절하는 것은 불가능하다는 것을 전제하고 논의해 나가야 한다.

▲최근 딥페이크 성범죄가 학교 중심으로 광범위하게 퍼져 사회 문제가 되고 있다.

-현재 정부가 딥페이크 대책을 쏟아내고 있지만, 이는 부작용을 줄이는 방안일 뿐이다. 딥페이크를 잡아내는 기술 또한 불완전하지 않나. 부작용을 완전히 없앨 방법은 없다. 대신 딥페이크 범죄에 대해서는 정부가 강력한 제재를 마련해 나가야 한다. 텔레그램 등에서 딥페이크 영상을 만들어 유포하거나 관련 방에 참여하는 사람들을 처벌할 수 있는 법을 만드는 등 제재 방안을 빠르게 만들어 나가야 한다.

지금처럼 미온적으로 대응하다 보면 큰 문제가 생길 수 있다. 미국의 경우, 딥페이크 불법 영상 등의 피해로 스스로 목숨을 끊은 10대가 1500여명에 달한다. 이러한 비극을 막으려면 강력하고 빠른 대응책을 마련하는 것이 필요하다.

▲딥페이크 문제를 해결할 수 있는 구체적인 방안이 있나.

-교육만이 답이다. 딥페이크로 영상을 만들어 유포한 사람들의 이야기를 들어보면 장난삼아 만들었다고 한다. 이런 행위에는 반드시 큰 대가가 따른다는 것을 교육해야 한다. 디지털 환경의 특성상 한번 올린 영상물은 빠르게 전파되고, 퍼진 영상물은 되돌릴 수 없다는 사실을 구체적인 사례를 통해 알려줘야 한다. 재미로 한 행동이 내 인생은 물론이고 타인의 삶을 망가뜨릴 수 있다는 경각심을 갖게 해야 한다.

▲AI윤리는 무엇인가.

-AI윤리는 AI의 바람직한 활용에 관한 다양한 생각과 규범성을 조정하고, 균형 잡힌 의견을 도출해 제도화시키는 것을 말한다. AI윤리에 관한 사회 구성원의 생각이 각기 다르기 때문에 사회적 합의가 필요하다.

간혹 윤리 전공자들은 첨단 과학기술에 기존 윤리 이론을 적용하면 된다고 이야기하는데 이것은 맞지 않는다. 현재 첨단 기술에 관한 윤리는 정해져 있는 것이 없다. AI처럼 새로운 기술이 등장하면, 이에 걸맞은 윤리를 사회 구성원이 만들어야 한다. 집단마다 AI에 관한 생각과 가치가 다르기 때문에 합의점을 도출해 사회적으로 실행할 수 있는 장치를 만들어야 한다.

▲공교육 내에서 AI윤리 교육이 나아가야 할 방향은?

-AI 윤리 교육을 위한 과목을 따로 만들어 교육하는 것은 큰 효과가 없다고 생각한다. 대신 각 교과 내에서 AI를 바람직하게 사용하려면 어떻게 해야 하는지 가르치는 것이 좋다. 국어, 수학, 과학 등 각 과목 안에서 AI 윤리를 자연스럽게 녹여 교육하자는 것이다.

예를 들어 수학 시간에 학생이 AI를 활용해 문제를 푼다고 생각해 보자. AI를 자주 사용하다 보면 주체적으로 문제를 풀 수 있는 능력을 잃을 가능성이 있다는 사실을 알려주는 것이다. AI에 의존하지 말고 스스로 문제를 풀어보라고 조언하는 것도 AI윤리 교육이다.

▲AI시대, 인간이 갖춰야 할 가장 중요한 코어 스킬은 무엇인가.

-유비 추론 능력과 은유, 비유를 이해하는 것이 필요하다. 이와 함께 여러 분야를 관통하는 통찰력을 키워야 한다. AI시대의 교육 방향은 인간이 여러 분야를 종합해서 합리적인 대안을 찾는 능력을 키우는 것으로 가야 한다. AI는 통찰력을 바탕으로 여러 분야를 엮어내는 능력은 부족하다. 아직 유비 추론도 잘 못한다. 인간은 연상을 통해 문제를 해결할 수 있지만, AI는 글자 그대로 똑같지 않으면 비슷하다는 것을 알지 못한다.

많은 사람이 공감 능력을 중요하다고 이야기하는데, 그것보다 더 필요한 것은 사회적 기술, 협동 능력이다. 결국 사람들이 함께 힘을 모아 일을 할 수 있는 능력, 통찰력, 유비 추론 능력, 상징과 은유를 이해할 수 있는 능력이 중요해질 것이라고 생각한다.

▲AI시대에 인간다움을 지킬 수 있는 팁을 준다면.

-인간에 관한 철학적인 질문을 자주 해 보는 것이다. 인간은 무엇인가. 인간이 가진 핵심적인 요소는 무엇인가. 인간의 가치는 무엇인가. 이 같은 질문을 스스로 던져 보면서 인간의 본질에 대해 생각해 보는 것이 필요하다.

▲마지막으로 당부하고 싶은 말은.

-AI시대에는 윤리와 혁신을 적대적인 것으로 보지 말아야 한다. 개인적으로 윤리가 혁신을 도울 수 있다고 생각한다. 윤리적으로 행동하는 것이 가장 생산적인 것일 수 있기 때문이다. 윤리를 안 지키고 기술을 함부로 사용했을 때 우리는 엄청난 사회적 비용을 지급할 수밖에 없다.

AI 기술의 발전 방향은 아직 결정된 바 없다. 따라서 사회 구성원 모두가 AI 기술과 윤리를 바람직한 방향으로 만들어 나가야 한다. 사회 구성원 모두가 AI 윤리를 실천하는 등 인간의 미래에 대해 적극적으로 탐색하고 실천하는 것이 중요하다. 윤리는 고리타분한 것이 아니라, 우리가 함께 만들어 나가야 하는 것이라는 사실을 기억해야 한다.

마송은 기자 running@etnews.com