[김주한 교수의 정보의료·디지털 사피엔스]인공지능과 인류 멸망

AI 챗봇 이루다가 2.0으로 귀환했다. 욕설과 망언에 길들여져 출시 16시간 만에 퇴출된 마이크로소프트(MS) 챗봇 테이에 이어 이루다 1.0도 비속어와 성차별 논란으로 무대를 떠난 지 1년여 만의 일이다. 많은 안전장치 추가와 성능 개선이 있었다는 후문이다. 챗봇은 언제쯤 사람과 비슷해질까. 챗봇은 언제쯤 사람처럼 의식이나 마음을 가지게 될까. 자의식을 갖게 된 인공지능이 영화 '터미네이터'처럼 인간의 속박에서 벗어나 인류를 멸망시킬 전쟁을 시작하는 것은 언제쯤일까.

앨런 튜링이 대화나 채팅 같은 상호작용에서 기계인지 사람인지 구분할 수 없는 지경에 이르면 “그 기계는 지능을 가졌고, 사람처럼 생각한다”고 인정하자는 '이미테이션 게임'이란 개념을 제안한 이래 '튜링 테스트' 통과는 모든 인공지능 개발자의 목표가 됐다. 채팅하면서 상대가 사람인지 기계인지 정말 구분하기 어렵다면 그 챗봇은 지능을 가진 것일까? 지능을 가졌다면 의식이나 마음도 가진 것일까? 챗봇의 자의식이 인류의 정신을 압도하는 것은 언제쯤 가능해질까?

존 설은 기존의 AI가 특화된 문제는 잘 풀지만 여전히 계산 기계에 불과하고, 튜링 테스트를 통과하더라도 정말 사람처럼 '마음'이나 '의식'을 갖지는 못해 '약한 인공지능'에 불과한 것으로 보았다. 설은 사람처럼 자의식이 있는 AI를 '강한 인공지능'이라 불렀다. 인류는 강한 인공지능을 만들 수 있을까? 영화 '터미네이터'는 정말 현실이 될 수 있을까? AI에 관한 이 오래된 질문에 대한 답은 'No'다. 세련된 AI는 자의식을 가진 듯 연출된 모습과 동작으로 사람들을 속이려 들겠고, 속이기에 성공할 수는 있겠지만 결국 의식은 가질 수 없다. 그 이유는 간단하다. 기계는 '의식'이 필요치 않기 때문이다. 부속품의 조립으로 구성된 기계에는 그래서 부속품을 갈아 끼우면 시간 흐름과 무관하게 언제든 다시 동작하는 기계에 '죽음'이 없기 때문이다. '의식'은 시간 속에서 지속적으로 이어져 온 삶의 정체성에 대한 자각이다. '죽음'이 없으면 '삶'도 없고 '생존'도 없다. '죽을 능력'이 없는 기계에 살아남기 위한 처절한 몸부림이 필요 없다. 아무 의미가 없다. 그저 부품을 갈아 끼우고 전원을 넣으면 다시 동작하는 기계에 '기능'으로서의 '동작'과 '멈춤'이 있을 뿐이다. 동작과 멈춤은 형식이고 구문(Syntax)이지만 '삶'과 '죽음'은 의미(Semantics)다. 이런 의미에서 죽음은 삶만큼 고유하다. 죽음 없이 삶을 정의할 수 없다. 의미 없다.

터미네이터에 의한 인류 멸망은 걱정하지 않아도 좋다. 극한의 살상력을 보유한 살상봇은 만들 수 있다. 하지만 살아남기 위해서라면 모든 방법과 가능성을 다 찾아내고야 말 생명의 몸부림을 다 이겨 낼 길은 없다. 아직 가 보지 못한 미지의 세계, 상상력의 몸부림이기 때문이다. 부속품으로 조립된 기계에 의식과 마음을 불어넣을 수 없다면 세포에 방사선을 쬐거나 사람과 파리의 유전자를 섞어서 새로운 생명을 만들면 되지 않을까? 그런 세포를 기계와 접합하면 금상첨화 아닐까? 인조생명에 관한 이 오래된 질문의 답은 'Yes'다. 어쩌면 그 조작된 생명은 의식도 가질 수 있을지 모른다. 이미 품종개량 생명체는 주변에 넘친다. 부속품의 조립으로 구성된 기계의 인공적으로 잘 정의된 '기능'으로서의 '동작'과 달리 이들은 자연계에 내던져진 후 자연발생적으로 '꿈틀'대는 '몸부림'으로 탄생한다. 자연계와 부대끼는 '몸부림'으로 획득된 '의미'들에서 자의식이라는 삶의 고유성이 탄생한다. 부속품 갈아 끼우기로 재현될 수 없다. 완전한 인공적 통제가 불가능하다. 살상 로봇에 의한 인류 멸망은 더 이상 걱정하지 않아도 좋다. 오히려 잘 모르면서 섣불리 만지다 실수로 방출된 바이러스나 인류 스스로 쇠퇴하다 자멸할 공산이 더 커 보인다.

서울대 의대 정보의학 교수·정신과전문의 juhan@snu.ac.kr