인공지능(AI) 기술발전의 초석을 제공한 노벨상 수상자들이 인간의 이해 범위를 벗어난 AI 기술발전에 우려를 표명했다.
올해 노벨 물리학상 수상자인 존 홉필드 미 프린스턴대 명예교수는 8일(현지시간) 프린스턴대 주최로 열린 수상소감 온라인 회견에서 “물리학자로서 저는 통제할 수 없고 한계를 파악할 수 없는 것에 큰 불안함을 느낀다”라고 말했다.
홉필드 교수는 AI 머신러닝(기계학습)의 기초를 확립한 공로로 이날 제프리 힌턴 캐나다 토론토대 교수와 함께 올해 노벨 물리학상을 공동 수상자로 선정됐다.
그는 자신의 이름을 딴 인공신경망 모델인 '홉필드 네트워크'로 더 널리 알려진 인물이다. 그의 이론은 오늘날 최신 AI 모델에 쓰이는 인공신경망 개발로 이어지는 초석이 됐다는 평가를 받는다.
홉필드 교수는 “신경망 연구 덕분에 AI 연구는 물리학과 컴퓨터 과학에서 이제 작동 원리를 이해할 수 없는 경이로움으로 여겨지고 있다”며 “이는 매우 불안한 일로, 내가 힌튼 교수와 함께 AI에 대한 이해를 이 분야에서의 핵심적인 필요 사항이라고 주장하고 나선 이유이기도 하다”라고 말했다.
그러면서 “AI가 현재로선 상상할 수 없는 수준으로 발전할 것”이라고 내다봤다.
그는 AI 기술에 대한 직접적 우려보다는 AI가 세상의 모든 정보 흐름과 결합되는 것에 대해 우려를 표명했다.
AI가 세상의 모든 정보와 결합해 발달할수록 개인의 자율성과 충돌하고 정보의 피드백 작용을 통해 변화가 일어날 수 있다는 것이다.
홉필드 교수는 “내가 우려하는 것은 정보의 상호작용이 제어되는 방식으로 통제되는 세상”이라며 “간단하면서도 성공적이지만 그 작동 원리를 이해하지 못하는 알고리즘에 의해 거대한 시스템이 통제되는 세상”이라고 말했다.
그는 “내가 우려하는 것은 '나는 당신보다 빠르다', '나는 당신보다 크다'라고 말하면서 '당신은 나와 평화롭게 공존할 수 있다'라고 하는 것”이라며 “(과연 그게 가능할지) 나는 잘 모르겠다”라고 말했다.
홉필드 교수와 공동 노벨상 수상자로 선정된 힌턴 교수 역시 이날 수상 직후 노벨위원회와의 전화 인터뷰에서 “AI가 통제에서 벗어나 생존 위협을 가져올 수 있다는 측면에서 우리는 역사적 분기점에 있다”며 빅테크들이 AI를 통제하는 이슈에 더 많은 연구 자원을 쏟아부어야 한다고 촉구했다.
그는 기후변화 위기와 AI의 잠재위험을 비교하면서 “AI는 무슨 일이 벌어지고 있는지, 무엇을 해야할지에 관해 알고 있는 게 훨씬 적다”며 “앞으로 수년 내에 AI의 위협을 다룰 방법이 있는지를 알아내야 한다”라고 말했다.
스웨덴 왕립과학원 노벨위원회는 이날 '인공신경망을 이용한 머신러닝을 가능케 하는 기반 발견 및 발명'과 관련한 공로를 높이 평가하며 AI 머신러닝(기계학습)의 기초를 확립한 홉필드와 힌턴을 노벨 물리학상 수상자로 발표했다.
김명희 기자 noprint@etnews.com
