한 농산물 유통 업체의 산업로봇이 사람을 상자로 인식해 사망케 했다. 상자를 들어 건너편으로 옮기는 일을 했다. 갑자기 작동한 로봇 때문에 철제 로봇 팔과 컨베이어벨트 사이에 끼인 노동자는 병원으로 옮겨졌으나 끝내 숨졌다.
“인공지능(AI) 로봇이 살인사건을 저질렀다. 사건은 명백했고 증거는 충분했다. 범인은 로봇이었다. 법원은 로봇에게 유죄판결을 내리고 사형을 선고했다.”
로봇에 사형을 집행할 수 있을까? 로봇을 분쇄해버리는 '일벌백계의 공포'로 로봇 범죄를 예방할 수 있을까? 로봇은 AI가 시키는 대로 했으니, 죄를 물어야 할 대상은 AI 아닐까? AI를 처벌하는 것은 소스 코드를 삭제하는 것일까, 저장 디스크를 암흑 상자에 가두는 것일까?
꼬리에 꼬리를 무는 의문에 대한 답은 의외로 간단명료하다. '아이덴티티'와 그에 수반된 '고통'의 문제다. 로봇이나 AI에는 신원, 정체성, 존재를 의미할만한 아이덴티티가 없다. 로봇은 부품의 조합이고, AI도 코드의 조합에 불과하다. 전기를 공급하면 그럴듯하게 동작해서 아이덴티티를 가진 것처럼 보일 뿐, 팔을 떼어내거나 다리를 뜯어낸들 해체되거나 고통스러워할 아이덴티티는 없다. 불교의 가르침은 모든 실존적 존재가 겪는 탄생, 성장, 쇠퇴, 소멸에 따른 신체적, 정신적 고통인 '둑카(duhkha/dukka, 苦)'를 설파한다. 사람은 아이덴티티의 변화나 상실에 극도로 고통스러워한다. 둑카는 존재의 징표다. 정체성 변화와 소멸에 대한 불안과 고통이 없는 것은 존재로 부르기 어렵다.
새해 중국은 '무인 항공기 비행 관리에 관한 임시 조례'를 통한 드론 규제 시행을 발표했다. 드론 조종사는 민항부 공식 홈페이지에 드론을 '실명' 등록하고 생성된 QR코드를 인쇄해 기체의 눈에 띄는 위치에 부착해야 한다. 사람에게 위협을 줄 수 있는 드론에 아이덴티티를 부여하고 싶은 것이고, 조종사에게 책임을 물을 것이다. 자동차는 이미 그렇다. 모든 자동차는 번호판을 부착해야 하며, 번호판 위변조는 강력 단속 대상이다.
캐논과 소니는 사진에 '출생증명서'인 전자서명을 부여하기 시작했다. 생성형 AI에 의한 '가짜 콘텐츠' 차단을 위한 전자서명이 촬영 순간 카메라 내부에서 '하드웨어적'으로 생성되고 블록체인에 기록된다. 디지털 콘텐츠에 대한 아이덴티티 부여는 좀 쉽지만, 요즘 'AI 국제분쟁'을 보면 머지않은 미래에 주요 AI는 스스로 아이덴티티 증명을 요구받을 운명이다. 한편 업데이트를 계속해야 하는 소프트웨어(SW)에는 아이덴티티 증명 요구는 난감한 문제다. SW는 고통을 느끼지 못하지만, 회사와 개발자는 고통스러울 것이다. 사람의 생명을 좌우하는 자율주행 SW의 아이덴티티 증명을 요구하지 않을 수도 없는 노릇이다.
부속품 조합에 불과해 둑카를 모르는 로봇과 AI에는 어떻게든 아이덴티티를 부여하고 단속하려는 한편, 존재의 불안정성에 시달리고 잠시도 불안을 떨칠 수 없는 사람의 아이덴티티는 빼앗아 비인간화하고 규격화해 현대문명의 부속품화하려는 시도는 현대 문명사회의 아이러니다. 이는 기계와 사람을 그 부속품으로 삼아 스스로 유기적 존재가 되고 싶은 현대 하이브리드 문명과 이를 구축해온 인류집단이 그 집단적 실존을 모색하는 중에 피할 수 없는 '둑카'다.
김주한 서울대 의대 정보의학 교수·정신과전문의 juhan@snu.ac.kr