인공지능(AI) 대전환 시대가 도래했다. 지난해 챗GPT 등장으로 꽃피우기 시작한 생성형 AI 기술은 산업 분야 전반에 AI 전환을 불러온데 이어 일상 영역으로도 빠르게 침투 중이다. 누구나 언제 어디서나 AI를 만나게 되는 AI 일상화 원년을 맞았다.
AI는 모든 것을 바꾸고 있다. 인지 능력을 필요로 하는 다양한 직업군에서 사람의 역량을 능가하며 인간 영역을 대체하기 시작했다. 의료·헬스케어뿐 아니라 제조업 등 모든 산업 분야에서 AI를 활용해 업무 생산성을 높이고 새로운 가치를 창출한다.
AI가 마냥 긍정적 영향만을 가져온 것은 아니다. 가짜뉴스와 딥페이크 등 생성형 AI 기술로 생길 수 있는 막연한 우려가 윤리적 가치충돌과 사회 문제로 드러나기 시작했다. 각국마다 새로운 디지털 질서를 주도하기 위한 가이드라인 확보에 속도를 내고 있지만 규제 방법과 수위에 대해서는 견해가 엇갈린다.
전자신문은 AI 기술과 산업 분야 전문성, AI 윤리 분야에서 국내 최고 전문성을 지닌 두 명의 오피니언 리더와 신년특별대담을 진행했다. KT와 삼성전자 등 테크 최전선에서 AI 연구를 이끌던 김지희 동국대 AI소프트웨어융합학부 교수와 우리나라 AI 윤리 정책 기틀을 닦은 김명주 서울여대 바른AI연구센터장이 머리를 맞댔다. 디지털 뉴노멀 시대 주역으로 부상한 'AI 트랜스포메이션(AX)'을 중심으로 우리나라가 나아가야 할 방향을 짚어본다.
참석자=김지희 동국대학교 AI소프트웨어융합학부장, 김명주 서울여대 바른AI연구센터장
사회=권건호 헬스케어·벤처부장
정리=박준호 기자, 조재학 기자
◇사회=우리 사회 곳곳에 AI 적용이 급격히 확산하고 있다. 올해는 산업과 경제 전반에 AI 대전환이 본격화됐다. AI 트랜스포메이션(AX)이 왜 필요하고 어떤 의미가 있나.
◇김명주=2024년은 AI 일상화 원년이다. 정부도 전국민 AI 일상화 실행계획을 발표했다. 전세계에서 AI를 가장 잘 활용하는 국가가 되겠다는 것이다. 일상과 산업현장, 공공행정 모든 분야에서 전방위적 AI 확산이 일어나고 있다. 어르신들도 챗GPT에 대해 이야기한다. 그런데 막상 현장에서는 어디서부터 어떻게 시작해야 할지 모르는 경우가 많다. 도대체 돈이 얼마나 드는지 도입하면 과연 유지할 수 있는지 예측이 어려워서다. AI 전환을 위해선 투명성을 높이고 구체적 모범 사례를 발굴해야 한다. 주요 산업별로 맞춤형 AI 적용 전략을 짜는 것이 중요하다.
◇사회=글로벌에서 우리나라 AI 경쟁력은 어느 수준인가.
◇김지희=아직 부족한 점이 많다. 뉴립스나 CVPR 등 글로벌 AI 학회를 가보면 미국, 영국, 중국과 비교해 우리나라 논문수가 절대적으로 적다. 문제는 인적 자원이다. 하드웨어는 우리나라가 강국이지만 정작 시스템 반도체 분야에서 시스템 소프트웨어 응용 개발 인력은 부족하다. 핵심 알고리즘을 아는 것도 중요하지만 산업에 맞는 SW를 적용할 줄 알아야 한다. AI 응용분야를 이끌 수 있는 융합형 인재를 배출하는 것이 중요하다.
◇김명주=2011년 유명 TV퀴즈쇼 제퍼디에서 AI왓슨이 인간을 상대로 승리를 거두자 미국 전역이 발칵 뒤집혔다. 우리나라는 2016년 이세돌이 알파고한테 패하면서 그때부터 AI 마스터플랜을 세우기 시작했다. 단편적으로 봐도 5년 차이가 난다. 텍스트 분야 생성형 AI는 많이 쫓아왔다지만 사투리(한국어) 잘해서 뭐하나. AI 대전환은 체질이 바뀌는 거다.
◇사회=산업 특화 AI 인재 육성을 위해 무엇을 해야하나.
◇김지희=대학에서부터 AI융합 혁신인재를 양성해야 한다. 핵심 알고리즘도 중요하지만 우리 산업에 어떻게 적용할 지가 더 중요한 문제다. 현장에서도 제조, 하드웨어 등 우리 산업 시스템을 잘 알면서 여기에 AI를 적용할 인력이 필요하다고 한다. AI 인적 자원 우위 확보를 위해서는 우리나라도 AI 미래 응용 분야를 개발할 수 있는 전문 인력 양성에 더욱 적극적인 투자가 필요하다.
AI 응용분야에서 산업 혁신이 일어나고 있다. 대기업은 잘하고 있지만 중소기업은 아직 기술에 대한 이해가 부족하다. 중기가 AI 활용하고 응용할 수 있도록 도와주는 프로그램이 필요하다. SW 개발만 하는 게 아니라 교육분야, 제조분야 등 분야별로 맞춤 융합할 수 있는 기술과 역량이 필요하다.
◇사회=글로벌 AI 경쟁 속에 우리나라만의 차별화 전략이 있다면.
◇김명주=오픈AI나 구글처럼 우리도 초거대언어모델(LLM) 핵심 알고리즘 영역에 도전할 수는 있지만 꼭 제너럴 AI에 매달릴 필요는 없다고 본다. 우리가 잘하는 분야의 버티컬 AI 시장을 공략해도 충분하다. 우리가 석유가 없다고 석유화학 산업을 못하는 것은 아니지 않나. 포토샵 같은 프로그램을 만드는 것보다 포토샵을 활용해 더 많은 부가가치를 창출하는 것이 더 중요한 시대다.
차별화된 글로벌 전략도 필요하다. 한글과컴퓨터가 최근 사업적 재미를 보는 곳이 중동이다. 미국 오피스를 쓰는 것에 대한 거부감이 있는 지역을 잘 공략했다. AI도 마찬가지다. 생성형 AI는 정보 유출에 대한 우려가 더 크다. 미국에 반감을 가지면서 자체 데이터가 많은 국가, 이런 비영어권 국가를 중심으로 문화적으로 접근할 필요도 있다. 사우디도 AI 전환에 큰 투자를 하고 있다. 한국이 가지고 있는 틈새전략을 잘 살릴 필요가 있다.
◇사회=AI 산업을 지원하고 육성하기 위해 정부는 어떤 정책적 노력을 기울여야 하나.
◇김지희=AI는 결국 데이터 싸움이다. 한국지능정보사회진흥원(NIA)부터 통계청까지 잘 살펴보면 쓸 수 있는 좋은 데이터 많이 가지고 있다. 그럼에도 기관 간 데이터 공유가 잘 안되고 있다. 이건 법이 아닌 사람의 이슈다. 기관끼리 각각의 데이터를 공유하고 시너지를 바탕으로 AI를 발전시켜 나가야 하는데 부처간 칸막이 경쟁이 존재하는 상황이다. 이렇게 해서는 AI를 위한 양질의 데이터를 확보하기 어렵다. 서로 윈-윈하려면 데이터를 공유해야 된다.
◇김명주=결국 정책 입안자부터 마인드가 바뀌어야 한다. 미국은 최근 연방 차원에서 AI훈련법을 제정했다. 50개주 연방 공무원은 반드시 AI 관련 교육과 훈련을 이수해야 한다는 법이다. 미국이 행정명령도 아닌 법으로 명시한 건 놀라운 일이다. 그만큼 고위급 정책자부터 AI 마인드를 갖춰야 AI 패권 경쟁에서도 승리할 수 있다는 절실함이 있다. 우리나라도 이런 점은 배워야 한다. 아랫세대뿐 아니라 윗세대도 AI에 대한 인식과 교육이 필요하다. 위에서부터 AI 마인드로 무장해야만 산업 생태계 체질을 완전히 바꿀 수 있다.
◇사회=AI 전환으로 산업적 파급력이 큰 분야는.
◇김명주=AI의 핵심은 데이터 학습이다. 정제된 고급 데이터가 많은 분야일수록 AI를 도입했을 때 더 큰 효과를 볼 수 있다. 대표적 산업군은 의료 분야다. 2018년 AI의사 '닥터앤서'를 만들었는데 현장에서 잘 안쓴다. 무작정 의사 정원만 늘려서 될 일이 아니다. 중국은 텐센트, 샤오미 AI 의사가 의과시험 통과해 이미 필드에서 쓰이고 있다. 의료뿐 아니라 교육, 법률, 금융 분야도 AI 활용성이 높은 분야다. 지식 기반 고도의 데이터가 잘 축적된 산업일수록 AI 전환 효과가 크다.
◇사회=AI 윤리 규제로 인한 기술 발전 악영향이나 부작용에 대한 우려는.
◇김명주=영국 케임브리지, 옥스퍼드대학교에서 '재귀의 저주(The Curse of Recursion)'라는 논문을 냈다. AI가 만든 저작물이 많아질수록 AI 생태계가 무너질 수 있다는 거다. AI가 생성하는 콘텐츠가 많아지고 이러한 저작물이 다시 AI 모델의 학습데이터로 재사용되면서 차기 생성 AI 모델들은 성능이 저하되는 '모델 붕괴' 현상이 나타난다. 실제 오픈AI가 아라키스라는 코드명으로 개발 중인 GPT-5가 GPT-4보다 성능이 안나오는 것도 이 때문이다. 한마디로 열성교배로 보면 된다.
결국 인간이 생성한 원본 데이터가 오염되지 않도록 관리하고 양도 늘려야 한다. AI가 생성한 콘텐츠와 인간이 만든 콘텐츠를 구별하기 위한 대규모 라벨링 매카니즘이 필요하다. 사람이 만든 데이터에 꼬리표를 달아야하고 AI가 재학습할 때도 꼬리표가 달린 것만 학습해야 한다. EU가 AI 생성 콘텐츠에 대한 라벨링을 법제화하거나 미국이 처음부터 AI 저작물임을 밝히는 워터마크에 대한 행정명령을 추진하는 것도 이 같은 맥락에서다.
◇김지희=사이버 보안이 AI 핵심 화두가 될거다. 오픈AI가 챗GPT 오픈소스 버그 발생 이후 잠재적 보안 문제나 버그 관련 제보자에게 포상금을 지급하는 버그 바운티 제도를 선보였다. 당초 3개월만 하기로 했는데 지금까지 이어지고 있다. 그만큼 보안 취약성 문제가 중요하게 남아있다. 시장 초기 AI 딥페이크 관련해 윤리적 문제가 부각됐지만 지금은 기술 측면에서 주목받고 있다. 기술 접목이 빨라진 만큼 부작용뿐 아니라 보안 문제도 같이 가져가야 한다.
◇사회=AI 윤리와 기술 혁신 사이에서 균형점을 찾으려면.
◇김명주=디지털 리터러시 역량을 기르는 것이 중요하다. 한번 기술이 들어오면 비가역적이다. 성숙한 시민의식이 기술보다 앞서가야한다. AI가 발전할수록 인문학이 중요하다. 생성 AI 특성상 기존 데이터를 학습하는 방식이기 때문에 기존 세계의 편견과 차별이 답변에 그대로 녹아있다. 이러한 편견을 사람이 다시 학습하는 악순환 고리를 끊어야 한다.
지금 상황에서 가장 중요한 것이 윤리적 상상력이다. 예를 들어 딥페이크 기술을 통해 세상을 떠난 유명 가수를 3D 가상인간으로 되살려낸다고 하자. 음성 생성기술을 이용해 새로운 곡도 부르고 활동한다면 연습생은 이제 죽은 가수와도 경쟁해야 하나. 그런 기술이 가능하다고 해서 산 사람과 죽은 사람을 경쟁시키는 행위를 무조건 허용해야하나. 앞으로 이런 기술과 윤리 문제에 대한 사회적 합의를 이룰 수 있는 디지털 공론의 장이 더욱 필요해질거다.
◇사회=지금은 AI 윤리에 대해 고민하지만 미래에는 도덕적 AI가 등장할 가능성은 없나.
◇김명주=챗GPT도 윤리기능을 갖도록 훈련시킬 수는 있지만 윤리적 판단을 내재화하는 것은 힘들다. 사람은 천부적 양심이 있지만, 인문·심리학적으로 양심의 정의가 이뤄지지 않았기 때문에 챗GPT에 주입할 수가 없다. 또 개인도 있지만 사회적 양심도 있다. 사회적 양심은 시대에 따라 달라진다. 역사적 산물을 AI에 넣는 건 불가능하다. 그렇다고 포기한 것은 아니다. 도덕성을 갖춘 AI를 향한 인공적 도덕행위자(AMA)에 대한 연구개발도 오래전부터 이뤄지고 있다.
◇사회=AI 전환 속도가 빠르다. 5~10년 뒤에는 어떻게 될까.
◇김지희=지금은 소프트웨어 측면에서 AI 적용이 많았지만 앞으로는 하드웨어 산업 전반에 상당한 발전이 예상된다. AI와 로봇의 결합이 가속화 될 것이다. 도심항공교통(UAM) 등 모빌티리 분야로도 AI 확산이 예상된다. 앞으로는 피지컬 AI가 성장하는 시대가 되지 않을까. 지금은 생태계도 조성해야 하고 윤리적 측면도 고려해야 한다. AI 생태계가 잘 확산하고 명확한 가이드라인이 생긴다면 하드웨어와 보안 분야에서 AI가 크게 주목받을 수 있다.
◇사회=마지막으로 우리나라 AI 대전환에 대해 제언하자면.
◇김지희=결국 중요한 것은 교육이다. 산업에 파급되는 인력이 절실하다. 트랜스포메이션은 결국은 사람이 하는거고 그것을 할 수 있는 교육 인프라가 받쳐줘야 한다. 알고리즘만 가지고 현장에서 문제를 해결할 수는 없다. 산업 생태계에 AI 확산이 가능한 융합형 인재를 키워야 한다. AI 생태계 구축에 기여할 수 있는 인재양성을 위해서는 AI 첨단 기술 교육 뿐 아니라 넓은 세계관을 가지고 글로벌 최우수 기관과 적극적 교류를 추진할 수 있는 전문 역량 강화가 필요하다.
◇김명주=믿을 수 있는 AI를 위한 지속적 공존과 선도적 대전환, 윤리적 상상력을 AI 대전환 시대 핵심 키워드를 꼽을 수 있다. 주요 정책을 결정하는 고위 공무원이나 국회의원 같이 지도층들이 AI 마인드를 갖추는 것이 굉장히 중요하다. 주요 산업별로 맞춤형 AI 적용 전략을 수립해야 한다. AI 개발 가속화와 AI 안전 규제냐를 두고 이른바 부머(boomer·개발론자) 대 두머(doomer·파멸론자)의 갈등이 촉발되는 상황에서 우리나라는 글로벌 경쟁력을 강화할 수 있는 최소한의 규제를 통해 AI 대전환을 지원해야 한다.
〈참석자 약력〉
◇김지희 동국대학교 AI소프트웨어융합학부장은
김 교수는 서울대학교 계산통계학과에서 학사와 석사학위를 받았고, 미국 서던캘리포니아 대학교에서 컴퓨터 사이언스 박사학위를 받았다. 이후 동 대학 공과대학 부설 연구소인 ISI에서 연구원 및 컴퓨터학과 교수를 지내며 재미 한인정보과학자협회 회장, 재미 한인과학기술자 협회 이사를 역임한 바 있다. 2013년 KT 초대 미래기술연구소장을 거쳐, 2014년부터는 삼성전자 소프트웨어센터 및 삼성리서치에서 인공지능 랩장으로 5년간 근무했다. 2019년에는 동국대 정교수로 임용돼 3년간 120억원 규모의 정부과제를 수주했다. 현재는 인공지능학과장 및 AI소프트웨어융합학부 학부장을 맡고 있다. 2022년에는 미국 AAAI(인공지능진흥협회) 이사에 한국 최초로 임명됐다.
◇김명주 서울여대 바른AI연구센터장은
김 교수는 서울대학교 컴퓨터공학과에서 학사, 석사, 박사 학위를 받았다. 컴퓨터신기술공동연구소 특별연구원을 거쳐 1995년부터 서울여자대학교 교수로 재직 중이다. 수도권 최초로 정보보호학과, 정보보호 영재교육원을 신설했고 교무처장, 기획처장, 입학처장, 교육혁신단장, 미래산업융합대 학장을 역임했다. 서울지검에서 초창기 컴퓨터범죄 수사 자문과 교육을 맡았으며, 한국인터넷윤리학회를 창립해 학회장도 역임했다. 국내 최초의 인공지능 윤리 Seoul PACT를 개발해 정보문화 유공자로 근정포장을 수상했다. 현재 인공지능윤리정책포럼 위원장, 디지털포용포럼 디지털역기능분과장, OECD GPAI 전문가로 활동하고 있다.
박준호 기자 junho@etnews.com, 조재학 기자 2jh@etnews.com