챗GPT 돌풍을 일으킨 오픈AI 이사회의 샘 알트먼 해임과 복귀 파동에 세계가 놀랐다. 인공지능(AI) 고유의 응용력을 획기적으로 높여 인간에 가까운 범용AI 개발에 성큼 다가섰다. 풍요로운 미래를 위해 상용화를 서둘러야 한다는 입장과 안전을 위협할 위험이 크므로 점검과 예방이 우선이라는 입장이 충돌했다. 누구 말이 맞는 걸까.
인류발전의 역사를 보자. 인간은 악어나 사자처럼 뼈와 근육을 강화하는 것을 포기했다. 발견과 발명을 기술로 정제해 자연을 개발, 이용하는 방향을 택했다. 손을 모방해 도끼, 농기구 등 도구와 기계를 만들었다. 혈액, 신경망을 모방해 증기기관, 교통망, 컴퓨터와 정보통신시스템을 만들었다. 홍수와 화재는 재난이지만 위험을 통제하면 물과 불이 되어 삶에 도움을 주었다. 도구·기계도 제작, 사용 과정에서 위험할 수 있지만 통제기술을 키워 삶에 이용했다. 정보통신시스템도 마찬가지다. 개인정보 유출과 해킹을 허용하면서 수용한 것이 아니다. 공동체가 감내할 수 있는 수준으로 통제할 수 있기에 첨단산업으로 발전시켰다. AI는 어떨까. 상상을 초월하는 높은 품질과 수준의 다양한 결과물을 만드는 데 궁극의 목적이 있다. 인간의 신체 중 정신 활동을 외부에 확장한 기술이다. 도구·기계 등 물질은 매뉴얼대로 움직이기에 인간이 충분히 통제할 수 있다. 그러나 인간의 자유로운 정신 활동을 모방 또는 대체하는 AI가 도구·기계처럼 통제될 수 있을까. 그 불안이 AI 공포로 이어졌다.
전통기술을 보자. 도끼는 용도와 목적이 제한적이다. 나무 등을 토막 내거나 사냥하는데 쓰인다. 만드는 사람에 따라 완성도가 다르다. 조잡한 도끼에 만족하는가 하면 멋진 도끼를 만들어 놓고도 실망한다. 도끼는 제작되면 그것으로 완성이다. 제작과정은 장인에 의해 지배되고 완성도는 장인의 직관에 의존한다. 어떤 쇠와 나무를 재료로 쓰는 지 중요하지만 장인의 기술이 핵심이므로 노동 의존성이 높다. 위험은 뭘까. 범죄나 전쟁 무기로 사용될 수 있다. 피해 범위는 상대적으로 넓지 않고 통제하기 쉽다.
그에 비해 현대기술은 어떤가. 스마트폰은 업무, 검색, 오락, 사교, 창작 등 다양한 용도로 사용한다. 모든 사람이 접속을 통해 항상 이용하고 어디서나 쓸 수 있다. 정보통신망, 소프트웨어, 하드웨어, 단말 등이 연결되고 다양한 사업자가 만나 운용시스템을 만든다. 합리성을 추구한다. 정확한 계산과 과학적 방법을 생산, 운영에 적용한다. 오류, 하자, 불편, 불필요한 것을 지속적으로 제거한다. 효율성을 추구한다. 투입 대비 산출 크기와 목적 달성 효과를 따진다. 노동도 합리성, 효율성 측면에서 기계보다 못하면 대체된다. 현대기술 그 자체가 자율성을 가진 유기체처럼 운용 및 이용체계를 가지고 다른 시스템과 이합집산을 통해 확장해 나간다. 시장에 출시된 이후에도 산업, 시장, 고객의 피드백을 받아 성장을 거듭한다(도끼1, 도끼2는 없지만 스마트폰은 버전이 높아지며 1, 2 등 번호를 높여나간다). 인간은 현대기술의 제작, 운용 및 이용과정에 다양한 형태로 참여하지만 쉽게 시스템을 벗어나지 못하고 예속된다. 현대기술 중 AI는 더 나아간다. 딥러닝과 그 결과를 이용한 실행 구간은 인간의 정신 활동과 비슷해 통제하기 어렵다. 정상적 작동 중에도 위험이 발현될 수 있다. 위험은 연계된 다른 시스템에도 피해를 줄 수 있다. 피해를 가늠하기 어렵고 원상회복도 쉽지 않다.
AI는 미래로 가는 핵심기술이다. 성장이 멈추면 갈등, 분쟁이 폭증한다. 기술의 역사는 위험통제의 역사다. 자유, 평등을 넘어 안전을 중시해야 한다. 인간파괴기술이 아니라 인간협업기술로 만들어야 한다. AI를 제어하는 견고한 손잡이는 법과 윤리다. AI위험의 의미, 성격, 특징, 규모, 국가별 이해 등 면밀히 검토해 두려움이 아니라 이성과 합의로 만들어야 한다.
이상직 법무법인 태평양 변호사('혁신과 공존의 신세계 디지털' 저자)