인공지능(AI)이 AI 연구개발까지 자동화하면서 수년이 걸릴 기술 진보가 수개월로 압축되는 '지능 폭발' 가능성에 대비해야 한다는 경고가 나왔다. 이런 가운데 앤트로픽은 신모델 출시를 이어가는 반면 오픈AI는 안전성 문제로 차세대 모델 출시를 철회하는 등 빅테크의 행보도 엇갈리고 있다. AI 발전 속도 조절을 둘러싼 업계 수장들의 시각차도 뚜렷하다.
'세계 AI 4대 석학'으로 꼽히는 제프리 힌턴 토론토대 명예교수와 요슈아 벤지오 몬트리올대 교수 등 AI 연구자 22명은 28일(현지시간) 영국 케임브리지대 'AI 과학·정책 프로그램'(CASP)을 통해 발표한 공동 논문 'AI 연구개발의 자동화가 지능 폭발을 촉발한다면?'에서 현재 기업 내에서 AI 모델의 개발 작업을 AI에 위임하는 자동화 속도가 빠르게 증가하고 있다고 지적하고 가장 극단적인 경우 인류의 멸망으로 이어질 수 있다고 경고했다.
논문에는 힌턴·벤지오 교수 외에 야쿠프 파호츠키 오픈AI 수석과학자, 잭 클라크 앤트로픽 공동창업자, 에릭 호비츠 마이크로소프트(MS) 최고과학책임자, 던 송 UC버클리 전기공학·컴퓨터과학 교수(메타 AI 연구 담당 부사장) 등이 참여했다.
이들 연구진이 정의한 지능 폭발은 AI가 AI 발전 자체를 가속하면서 기존에 수 년이 걸릴 기술 진보가 수 개월 또는 그보다 짧은 기간에 이뤄지는 현상이다. 실제 지능 폭발이 일어날지는 불확실성이 있지만 가능성을 대비해야 한다는 게 공통된 의견이다.
앞서 다리오 아모데이 앤트로픽 최고경영자(CEO)는 “최첨단 AI 성능 향상 속도를 늦춰 안전기술과 감독체계가 따라잡을 시간을 확보해야 한다”고 주장하면서 AI 개발 속도조절론에 불을 붙였다. 이후 샘 올트먼, 일론 머스크, 데미스 허사비스 등 경쟁사 수장들도 잇따라 동조했다.
다만 앤트로픽은 속도 조절을 주장하면서도 신규 모델을 연이어 내놓고 있다. 앤트로픽은 중위 모델인 소네트의 새 버전 '클로드 소네트 5.5'를 이날 공개했다. 지난 22일 공개한 상위 모델 '클로드 오퍼스 5.5'에 이은 '클로드 5.5' 시리즈의 두 번째 모델이다. 앤트로픽은 소네트 하위 모델인 클로드 '하이쿠 5.5'도 조만간 공개할 계획이다.
같은날 오픈AI는 차세대 AI 모델 'GPT-6.1 아스트라'의 출시를 안전성 우려로 철회했다는 월스트리트저널(WSJ) 보도가 나왔다. 보도에 따르면 GPT-6.1 아스트라는 당초 10월 챗GPT와 코딩 도구 코덱스에 탑재될 예정이었다. 그러나 출시 전 내부 테스트에서 안전 기준을 충족하지 못한 것으로 나타났다.
빅테크 CEO들 사이에서도 AI 개발 속도 조절에 대한 시각은 엇갈린다. 젠슨 황 엔비디아 CEO는 이날 한미 친선 비영리단체 코리아소사이어티가 한미 관계에 기여한 인사들에게 수여하는 '밴 플리트상'을 받은 후 ABC뉴스 대담에서 “AI는 폭주하지 않는다”며 'AI 통제불능론'을 정면 반박했다.
황 CEO는 “우리는 AI에 불필요하게 인간적 속성을 부여하고 있고 사람들을 겁먹게 하고 있다”며 “AI는 소프트웨어일 뿐이며, 자신이 무엇을 하는지 알지 못하고 단지 알고리즘을 실행하고 있을 뿐”이라고 지적했다.
이런 가운데 도널드 트럼프 미국 대통령이 오픈AI·앤트로픽·메타 등 인공지능(AI) 29일 백악관에서 마이크 존슨 미국 하원의장과 저커버그 메타 CEO를 비롯해 아모데이 앤트로픽 CEO, 그레그 브록먼 오픈AI 사장 등 AI 기업 경영진을 만난다. 중국과의 기술 경쟁을 이유로 AI 규제 강화에 부정적인 트럼프 행정부가 어떠한 합의를 도출할지 관심이 쏠린다.
정현정 기자 iam@etnews.com, 박종진 기자 truth@etnews.com
