영화에서는 인공지능(AI) 발전이 꼭 희망적인 미래를 가져온다고 그려지지 않는다.
유명 영화시리즈 '터미네이터'에서는 AI '스카이넷'이 인류와 대적하는 존재로 그려진다. 인간에 반기를 들어 공격한다. '매트릭스'에서는 이를 넘어 인류를 정복, 인체를 전력원으로 사용하기도 한다.
그럴싸한 얘기다. 예로부터 피조물, 혹은 자식이 창조주에 반기를 든 서사는 많다. 그리스신화만 봐도 주신 제우스는 아버지 크로노스를 쫒아내고 올림포스의 왕좌를 차지했다. 크로노스 역시 아버지 우라노스에 반기를 들었다. 아무리 나에게서 비롯된 존재라도 위협이 된 얘기가 많다.
문제는 이것이 단순한 얘기가 아닌, 우리에게 닥친 현실이 될 수도 있다는 것이다.
AI는 너무나도 출중하다. 특정 분야에서는 이미 인간을 넘어서는 능력을 보이고 있다. 다만 그 영역이 한정돼 있다는 한계가 있었는데, 사람 수준으로 다방면에 강한 '범용 인공지능(AGI)'이 개발된다면 기존 한계도 무색해진다. AI에 대한 두려움이 조금씩 고조되는 이유다.
이런 가운데 AI가 위협으로 비화할 수 있다는 경고가 미국에서 들려왔다.
AI 정책 조언 민간기업인 글래드스톤 AI가 미국 국무부 의뢰로 수행, 최근 발표한 보고서에서다.
주요 AI 기업 경영진과 사이버 보안 연구인력, 대량살상무기 전문가, 안보 관련 정부 관계자 등 200여명을 1년여 동안 인터뷰한 결과다.
이 보고서는 최첨단 AI 시스템이 최악의 경우, 인류 멸종 수준의 위협을 부를 수 있다는 내용을 담았다.
먼저 AI 시스템 자체가 무기가 될 수 있다고 우려했다. 또 어느 순간, 우리가 AI 시스템에 대한 통제력을 상실할 수 있다고도 우려했다.
지금은 AI가 최첨단 기술 화두로, 경쟁 압박을 받는 기업들이 안전과 보안은 상대적으로 등한시한 채 AI 개발을 가속화해 위험의 가능성이 높아진다고 했다.
일순간 대량파괴 무기가 사용되는 수준의 큰 사건·사고를 부를 위험이 있다는 것이다.
보고서는 남겨진 시간이 그리 남지 않았다고 진단했다. AI 감독기관 및 규제 안전장치를 만들고, AI 모델 훈련용 컴퓨터 성능을 제한하는 방식 등으로 미국 정부가 개입해야 한다는 내용을 담았다.
제레미 해리스 글래드스톤 AI 최고경영자(CEO)는 “AI 능력이 한계를 넘으면 통제할 수 없게 된다는 증거들이 늘고 있다”고 밝혔다.
이런 견해는 또 있다. 딥러닝 기술을 개척한 AI 분야 석학 제프리 힌턴 캐나다 토론토대 명예교수도 지속적으로 경고한다. 그는 한 매체에 “10년 내에 자율적으로 인간을 죽이는 로봇 병기가 등장할 것”이라고 견해를 밝히기도 했다.
우리가 AI에게 명한 것이 안좋은 방향으로 돌아올 수도 있다고 했다. 기후변화를 막도록 하면 그 원인으로 인간을 지목, 배제할 위험성이 있다고도 했다.
김영준 기자 kyj85@etnews.com
