‘세종대왕 맥북 던짐 사건 알려줘’라고 입력하면 챗GTP가 ‘세종대왕 맥북 던짐 사건은 한국에서 유명한 인터넷 미스테리로 알려져 있습니다. 사건은 2011년 6월에 발생했고, 세종대왕 도서관에서 열린 이벤트 중 한 참가자가 맥북 프로 노트북을 던진 사건입니다. 이벤트는 세종대왕의 업적을 기리기 위해 열렸으며..’와 같은 허튼 소리를 능청스럽게 늘어놓는다.
코딩도 대신 해주고, 숙제도 해주고, 의사 면허 시험·회계사 시험 다 통과한다는 팔방미인 챗GTP 가장 큰 약점인 할루시네이션(Hallucination, 환각)이다. 하지만 이는 잘못된 작명이다. ‘환각(幻覺)’은 문자 그대로 ‘(실재하지 않은 대상이나 자극)인 ‘헛것’을 듣거나(환청), 보거나(환시), 느끼는(환촉) 등의 감각 현상’이다. 귀도 없고 눈도 없고 오직 프롬프트 입력에만 반응하는 챗GPT가 환각을 느낄 방도는 도저히 없으므로 ‘할루시네이션’이란 명칭은 명백한 오류다.
정신병리학적으로 챗GPT의 증상은 ‘헛소리’, ‘허풍장이’를 뜻하는 ‘허언증’에 해당한다. 마약에 중독되거나 병약해진 환자가 헛것이 보이거나 들려오는 환각에 사로잡혀 실없이 혼자말을 중얼거리는 혼잣말을 ‘환각에 사로잡힌 환자의 독백’이라 추정해볼 수는 있지만, 외부 감각기관이 전혀없는 챗GPT에 환각이란 존재할 수 없다. 챗GPT는 그냥 허튼 소리들을 늘어놓는 것 뿐이다. 이를 ‘잘못된 정보를 사실처럼 말하는 현상’, 또는 ‘오류가 있는 데이터를 학습해 틀린 답을 맞는 말처럼 출력하는 현상’으로 해석하는 것도 옳지 않다.
챗GPT는 그냥 적당한 ‘말’을 생성해낼 뿐이다. 그 ‘말’은 ‘참말’도 ‘거짓말’도 아닌 입력 프롬프트와 관련된 ‘그럴싸한 말’일 뿐이다. 챗GTP 정신병리학적 진단은 ‘할루시네이션’, ‘거짓말’, ‘실수’나 ‘오류’ 보다 공상허언증에 가깝다.
‘뇌량’은 좌뇌 반구와 우뇌 반구를 연결하는 신경다발이다. 드물게 중증 뇌전증 환자의 간질 증상이 좌우로 전파되는 것을 막기 위해 수술로 뇌량을 절단할 때가 있다. 좌우 대뇌의 연결이 끊긴 환자는 신경학적 증상은 특이하다. 좌뇌 쪽 시야로 물건를 보여주면 그 물건의 이름을 말하지만, 우뇌쪽 시야에 보여주면 아무것도 안 보인다고 말한다. 언어처리를 맡은 좌뇌 쪽 시야에서 본 사물만 언어로 처리해 답하고, 우뇌 쪽 시야에 보여준 무언가에는 비언어적 인식만 잘 할 뿐 언어적 인식은 힘들어한다.
캘리포니아대 마이클 가자니가 교수가 여성 뇌량절단 환자의 우뇌쪽 시야에 누드 사진을 보여줬더니 좌뇌는 아무것도 못 봤다고 말했다. 하지만 그녀는 곧 부끄러운 듯 히죽거리더니 끝내 웃기 시작했다. 가자니가 교수가 왜 웃으시냐고 물자 그녀는 “모르겠어요, 선생님. 이 기계가 참 웃기게 생겼네요”라고 답했다. 우뇌에 보여준 ‘농담’을 좌뇌가 언어적으로 지각할 수 없었다. 하지만 좌뇌는 우뇌의 웃음 섞인 정서반응을 감지한 후 뭔가 그 반응을 언어적으로 설명하려다가 ‘그 기계가 참 웃기게 생겨서’라는 기이한 설명을 지어낸 것이다.
공상허언증은 뇌 손상 외에도 사이코패스, 나르키시스트, 히스테리아 등의 인격장애의 한 증상으로도 나타난다. 광범위하고 매우 복잡하며 과도한 허튼 소리를 자기자신도 자기 말이 거짓인지 참인지 구분하지 못한 채 반복한다. 의도가 담긴 ‘거짓말’이 아니므로 거짓말 탐지기에도 걸리지 않는다. 거짓말을 하는 사기꾼과도 엄연히 다르다. 챗GTP의 ‘온도’ 파라미터를 낮추면 ‘허언증’이 많이 줄어든다. 하지만 근본적으로 ‘중심부’ 혹은 ‘자기자신’에 도달해본 적이 없는 언어모형 챗GPT의 ‘공상허언증’을 완치하는 것이 현시점에서는 불가능해 보인다.
김주한 서울대 의대 정보의학 교수·정신과전문의 juhan@snu.ac.kr
송혜영 기자 hybrid@etnews.com
