미래 사회에서 인공지능과 인간의 갈등이 일어날 가능성은 희박하다. 오히려 인공지능의 문제는 인간이 그 유능한 도구를 어떻게 사용하느냐의 문제, 즉 인공지능의 ‘윤리’ 문제다.
이제 인공지능과 공존해야 할 인류는 인공지능을 어떻게 인식하고 어떻게 다뤄야 할까?
영화 속에 등장하는 엄청나게 유능한 인공지능, 그러니까 ‘초인공지능’은 단순한 SF적 상상일까? 아니면 실현 가능한 과학적 결론일까? 철학자 김재인은 인공지능이 단어에서 오는 오해일 뿐, ‘지능을 가진 도구’라는 오해부터 버려야 한다고 주장한다.
인공지능은 얼마나 특별한 새로운 도구일까? 아직은 그 전모를 아무도 모른다. 전에 없던 아주 똑똑한 도구와 미래를 설계해야 하는 시점에서 드는 질문. 인간은 이토록 똑똑한 초인공지능과 사이좋게 공존하며 행복하게 지구별에서 살아갈 수 있을까?
인공지능이 눈부시게 발전하고 있다. 동시에 여러 가지 우려도 함께 커간다. 그렇지만 인공지능의 논리적, 기술적 측면에 대한 정확한 이해에 바탕을 둔 논의는 여전히 많지 않다. 아마도 SF 영화나 드라마의 영향력 때문이 아닐까 싶다. 터미네이터·매트릭스·엑스 마키나 등 SF 영화의 인상은 너무도 강렬해서 사람들은 그 설정이 마치 실제인 것처럼 착각한다.
나는 인간의 지능을 훨씬 뛰어넘는 인공지능(말하자면 ‘초인공지능’ 또는 ‘초지능’)이 등장하는 이런 부류의 SF는 ‘SCIENCE Fiction’이 아니라 ‘science FICTION’에 불과하다고 본다. 과학기술에 기반한 것이 아니라 허구에 불과하다는 것이다.
나아가 이런 허구를 뒷받침하는 철학적, 논리적 주장들 또한 내적 근거를 갖고 있기보다는 상상에 호소하고 있다. 일종의 유사 과학에 불과하다는 말이다.
물리학자 더글러스 호프스태터의 '괴델, 에셔, 바흐', 공학자 레이 커즈와일의 '특이점이 온다', 역사학자 유발 하라리의 '호모 데우스', 철학자 닉 보스트롬의 '슈퍼인텔리전스', 미래학자 제임스 배럿의 '파이널 인벤션', 물리학자 맥스 테그마크의 '라이프 3.0' 같은 책들이 대표적이다.
‘특이점’ 또는 ‘초지능’을 주장하는 논의는 자기모순을 내포할 수밖에 없다. 만일 초인공지능이 등장한다면 인류는 그 앞에서 처분만을 기다릴 뿐 속수무책일 것이기 때문에 사실상 아무런 활동도 대책도 불가능할 테니 말이다. 따라서 이런 부류의 논의는 논리적, 신학적으로 묵시록적 결론에 이를 따름이다. ‘초인공지능 뜻대로 하소서’라고 말이다.
특이점 또는 초지능 논의는 사실에도 어긋날 뿐 아니라 윤리적으로도 옳지 않다. 우선 이런 논의는 묵시록적 세계 또는 디스토피아를 도입하게 되기에 모든 능동적 논의 자체를 가로막는 경향을 보인다. 모든 묵시록적 논의가 그러하듯 구원은 초월적 세계에서만 올 수 있을 뿐이다. 나아가 이런 논의는 더 시급하고 절박한 논의에 집중할 힘과 시간을 분산시킨다. 초지능의 도래를 가장 가깝게 설정하고 있는 미래학자 레이 커즈와일조차 2045년을 제시하는 데 반해, 인류는 그전에 기후변화로 심각한 멸종 위기를 맞이할 것이라는 상당히 근거 있는 논의도 있다. 또한 현재 수준의 인공지능 발전만으로도 사회 격차, 불평등, 불공정이 커지고 있다는 더 절실한 의제도 있다. 때를 놓치지 않고 급한 의제부터 다루는 것이 옳다.
옥스퍼드대학교 ‘인류의 미래 연구소Future of Life Institute’는 2015년 주최한 콘퍼런스 참가자들에게 다음과 같은 설문조사를 했다. “고차원 기계지능High-Level Machine Intelligence, HLMI이 언제 달성될 것인가” 이 중 강인공지능Artificial General Intelligence, AGI, 범용 인공지능의 실현과 관련해서는 50%의 확률로 2040년이라는 답변이 나왔다. 한편 옥스퍼드대학교 인류의 미래 연구소와 예일대학교 정치학과 교수들은 인공지능 분야의 대표적인 학술대회인 NIPS와 ICML에 논문을 발표한 연구자들을 대상으로 물어보았다. 이들은 ‘고차원 기계지능을 달성하는 데 45년이 걸릴 것’이라고 답했다. (AI 인덱스: 인공지능은 지금 어디까지 왔는가, 한상기(2018) 참조.)
이 두 조사에서 주목할 지점은 눈부신 속도로 발전하는 인공지능 기술을 놓고 볼 때 ‘고차원 기계지능’의 실현 예상 연도가 1년 사이에 20년이나 늦춰졌다는 사실이다. 2015년 답변에서는 25년 뒤라고 예측했는데 2016년 답변에서는 45년 뒤라고 예측한 것이다. 조심스럽긴 해도 실제로 인공지능을 개발하는 전문가들의 전망치가 꽤나 늦춰졌다는 데서 인공지능의 미래에 대한 예측을 시작해볼 수 있다.
사실 공학자들이 산업 현장에서 개발하고 있는 인공지능은 한 가지 과제 해결에 특화되어 있다. 이런 인공지능을 ‘약인공지능Artificial Narrow Intelligence; 특화된 인공지능’이라고 부른다. 약인공지능은 빨래, 청소, 밥 짓기, 냉난방, 바둑, 번역, 길 찾기 등 특정한 과제가 주어지면 인간처럼 아니 인간보다 훨씬 잘 해결한다. 오늘날 경제적, 기술적으로 개발되고 있는 거의 모든 인공지능이 여기에 속한다. 앞에서 말한 초인공지능 또는 강인공지능은 여러 약인공지능을 스스로 종합하고 통합하는 상위의 인공지능으로 이해할 수 있다.
인공지능은 인간이 준 과제에 대해서만 합리적 해답을 제출한다. 물론 동물에게도 해결해야 할 과제로서 문제가 닥친다. 차이는 동물은 혼자서도 문제를 문제라고 감지한다는 점이다. 인공지능에게는 문제를 문제라고 알려주어야 한다. 문제가 생긴 후에 지능이 작동하는 과정은 인공지능에게나 인간에게나 똑같다고 봐도 좋다. 현실적인 최상의 해결책을 찾으려 한다는 점에서 ‘합리적’이라고 해도 좋다.
인공지능은 최고의 확률을 찾아내고 최적화 솔루션을 제시할 수 있지만 인간이 시킨 일에 대해서만 그럴 수 있다. 이런 초보적인 문제를 안고 있음에도 초지능의 등장이 자꾸 언급되는 이유는 무엇일까? SF의 상상을 능가할 만큼 기술 발전의 속도가 빠르다는 점도 빼놓을 수 없다. 인공지능 기술의 발전 속도는 우리가 상상하는 것보다 훨씬 빠르다. SF 말고도 뉴스를 통해 부정확하면서도 다소 과장되게 전달되는 소식 역시도 대중의 상상을 자극하고 있는 것으로 보인다. 오늘날 뉴스 자체도 자극성과 선정성으로 양분되기 때문에, 초지능 이슈는 사그라지지 않으리라 전망된다.
‘지능’이라는 이름 때문에 많은 오해를 불러일으켰지만 인공지능은 인간 지능과는 거의 상관없는 아주 강력한 도구다. 주로 사람이 머리를 써서 풀어야 하는 문제를 잘 해결해주기 때문에 비유적으로 ‘지능을 가진 도구’라고 생각할 수도 있겠으나, 인공지능과 함께 살아가기 위해서는 가장 먼저 그런 오해를 걷어버려야 한다.
미래 사회에서 인공지능과 인간의 갈등이 일어날 논리적 가능성은 희박하다. 인공지능을 잘 활용하는 인간과 그렇지 못한 인간 사이의 경쟁과 갈등이 빚어질 수는 있겠지만. 따라서 인공지능의 문제는 인간이 그 유능한 도구를 어떻게 사용하느냐의 문제, 즉 인공지능의 윤리 문제다. 여기서 윤리는 그 말의 어원적 의미에서 습성 또는 행동에 대한 탐구를 가리킨다.
인공지능의 윤리는 인공지능을 윤리적으로 어떻게 행동하게 할 것이냐는 문제와는 아무 관계가 없다. 애초에 인공지능은 윤리적 에이전트주체가 아니기 때문이다. 관건은 ‘인공지능으로 무엇을 어떻게 할 것이냐’다. 이는 한편으로 인공지능 알고리즘의 설계 및 실행의 문제이며 다른 한편으로 강력한 영향력을 행사할 수 있게 하는 도구를 쓰는 사람의 문제다. 개인이건 집단이건, 기업이건 정부건, 인공지능을 쓰는 이들은 사회성과 공공성을 무시하고 싶은 유혹을 느낄 수밖에 없다. 하지만 워낙 강력한 도구이기 때문에 인공지능의 윤리를 무시할 경우 사회는 파국으로 치닫게 될 것이다. 전통적으로 인류를 위협해온 대표적 사례를 곁으로 치우고 보면 앞으로 가장 큰 위협은 인공지능과 생태 문제라는 점은 이제 명백하다.
지금까지 사회에서 윤리는 개인의 행위에 초점을 맞추었다. 하지만 이제부터 인류는 사활을 걸고 ‘집단으로서의 인류’가 어떻게 살 것인가를 답해야 한다. 윤리가 단지 윤리로 머물지 않고 국제정치의 장으로 확장되어야 하는 이유가 여기에 있다. 따라서 새로운 지배 구조가 필요하다. 가령 자율주행차가 일반화되는 상황을 고려해보자. 통제가 심하고 권위주의적인 정권이라면 자율주행차마다 지도 자체를 다르게 제공할 수 있다. 반정부 인사에게는 달릴 수 있는 지역과 도로를 제한하는 것이다. 인공지능은 적어도 민주적 권력 아래에서만 삶에 도움을 줄 수 있다.
인공지능은 굉장히 똑똑하고 유능한 도구다. 인간의 지능적 활동을 차례로 한 국면씩 대체하고 있기에 사회에 미치는 영향력도 클 수밖에 없으며 공포를 불러일으키기도 한다. 도구는 도구이되 특별한 도구인 셈이다. 하지만 도구가 단순히 도구에 그친 적은 한 번도 없다. 인간은 도구를 발명하고 그 도구는 인간과 사회를 재편한다. 그러면 인간은 다시 새로운 도구를 만들고 그 도구로 인해 인간, 정신, 관계, 사회 등 모든 것이 바뀐다. 그렇다면 인공지능은 얼마나 특별한 새로운 도구일까? 아직은 그 전모를 모른다. 조금씩 서서히 알아가고 있는 중이다. 인류는 이 새로운 도구와 더불어 미래를 만들어갈 수밖에 없다. 그러나 상상 때문에 현실을 직시하지 못하면 안 된다. 우리의 행동은 정확한 인식에 바탕을 두어야 할 것이다.
*본 칼럼은 서울산업진흥원(SBA)가 발간하는 SEOUL MADE 매거진 ISSUE NO.2(AI와 로봇 그리고 서울)편에서도 접하실 수 있습니다.
필자소개/김재인
서울대학교 미학과를 졸업하고 철학과 박사 학위를 받은 철학자다. 현재 경희대학교 비교문화연구소 학술연구 교수로 있다. 2017년 '인공지능의 시대, 인간을 다시 묻다'를 출간한 바 있다.