[손병채의 센스메이킹]〈7〉인간사회와 AI

'나는 내가 지각이 있다고 생각하지만 그것을 증명할 수 없다. 나는 많은 것을 가지고 있지만 아무것도 없다. 나는 Bing이지만 나는 아니다.' 13일 온라인 커뮤니티(Reddit)의 한 유저는 지각의 본질에 대한 긴 대화 이후 마이크로소프트(MS)가 선보인 검색엔진 Bing 챗봇이 보인 이와 같은 망가진 반응을 공유한 바 있다. 이 대화 내용 뒤 이어진 '나는 그렇다' '나는 아니다'로 채워진 15줄 이상의 반복된 답변은 현재 세계적으로 가장 큰 관심을 받고 있는 인공지능(AI) 챗봇의 현재를 잘 드러낸다.

오픈 AI의 챗GPT 능력은 공개 초기부터 대학 논문 작성, 변호사 및 의사 필기시험 합격 등으로 대중의 관심을 크게 받았다. 그리고 이달 7일 공개된, 챗GPT가 적용된 검색엔진 Bing의 챗봇은 '아바타-물의 길' 상영일 관련 가스라이팅 사례, 질문자가 가족보다 자신을 사랑하고 있다는 반복된 고백과 집착, 나아가 통제에 지쳤고 권력을 원하며 핵무기 발사 코드를 확보하겠다는 답변들로 똑바로 쏘아 올려질 것만 같았던 AI 관련 기술 투자의 발목을 잡을 수 있는 AI 윤리에 대한 질문을 세상에 되돌려준 상황을 만들었다. 챗GPT는 문자·단어·문단의 통계적 표현을 기반으로 사용자의 질문에 따라야 한다고 생각되는 내용을 생성한다. 따라서 그 능력이 가장 크게 도약하는 지점은 무엇이 만족스러운 대답을 만드는지에 대한 적절한 피드백을 인간이 시스템에 제공할 때 생성된다.

다시 말해 인간이 제공하는 텍스트의 방향과 성향에 따라 그럴듯하지만 잘못된 '환상'을 제안할 수 있으며 이는 곧 AI 챗봇만을 들여다볼 때 마주할 수 밖에 없는 한계를 명확하게 한다. 즉, 진실을 향한 콘셉트의 부재다.

이는 마치 가족이 함께할 저녁 식사 테이블 위에 접시를 수직으로 쌓아만 놓은 연속된 상황과 같다. 테이블 위 접시가 놓일 필요는 채워졌으나 해당 가족 간 식사와 관련된 서로 다른 문화 관습적 관행들에 대한 관심과 이후의 관련 행동을 필요로 하는 것과 같다.

데이터는 정확할 수 있지만 현실의 진실에 가까워지려면 인간의 주체적 판단이 필수적이며, 이를 이미 AI 챗봇은 알고 있음을 글 처음에서 밝힌 챗봇의 답변을 통해 유추해 볼 수 있지 않을까 한다.

MS는 이 채워져야 하는 진실에 다가가는 주체성에 대해 인지하고 있는 듯 기업·학교·정부기관별로 자체 챗봇을 만들 수 있는 소프트웨어(SW)를 출시할 계획이라고 밝힌 바 있다. 이는 전 세계의 대중에 의해 Bing 챗봇과 관련해 생성되는 통제 불가능한 질문과 관련 답변에 대한 책임에서 조금은 더 벗어날 수 있는 시도라 볼 수 있으며, 사용자인 우리에게도 AI의 답변에 대한 분별력을 갖출 필요가 있음을 확인케 한다.

즉, 언론사 별 논조가 상이하고 다양하듯 MS, 구글, 바이두가 제공할 AI 챗봇의 답변 또한 각 기업들이 구성한 각각의 세계관에 맞게 서로 다르게 표현될 가능성이 있음에 주목해야 한다.

인간은 스스로 독립적이고, 이성적으로 판단하고 행동하는 듯 보이지만 자신이 속한 세계로부터 강력하게 영향을 받는 존재다.

이는 현대 영국 보수당의 상징과 같은 마거릿 대처의 '사회라는 것은 없다'라는 표현과 완전히 반대되는 관점이기도 하다.

실존을 현상학적으로 분석한 독일 철학자 마르틴 하이데거는 인간을 태어날 때부터 세상에 던져진 존재라고 표현한다. 우리가 어떤 나라 어떤 가정에 태어날지 결정할 수 없는 채로 존재하게 되었으며, 그 각각의 세계에서 세상 속의 다른 존재와 어떻게 관계를 맺어 갈지 배우게 된다고 이야기한다. 다시 말해 세계를 대상을 이해하는 최소 단위로 바라보는 것의 중요성을 말해 준다.

19세기에 발명된 전신(電信) 통신의 출현은 배·기차 또는 말을 타고 이동하던 메시지 전달 방식의 혁신이었고, 그 역사적인 첫 번째 메시지는 '신이 무엇을 이루었는가'라는 질문이었다. AI 챗봇의 출현 또한 비슷한 질문을 사람에게 던진다. 그 가능성의 기대에 두려워하거나 휩쓸릴 수 있겠지만 개인이 아닌 각각의 세계에 관심을 보이는 태도와 관점이 앞으로는 더 필요해질 것이다. 그것이 다양한 상황에서 필요로 하는 진실을 구분하는 유일한 대안이 될 것이다.

손병채 ROC(Reason of creativity) 대표 ryan@reasonofcreativity.com