마크 저커버그 메타(옛 페이스북) 최고경영자(CEO)가 빅테크 기업의 인공지능(AI) 훈련용 데이터 경쟁에 대해 “중요한 것은 데이터가 아니다”라고 비판했다.
저커버그는 최근 미국 정보기술(IT) 산업 뉴스레터 커맨드 라인과 인터뷰를 통해 “더 가치 있다고 생각하는 것은 선행 말뭉치보다 피드백 루프”라며 이같이 말했다.
메타, 구글, 챗GPT 개발사 오픈AI 등 거대 IT 기업이 보다 강력한 AI 모델을 만들기 위한 훈련용 데이터가 부족하다는 문제를 안고 있다. 그러나 저커버그는 데이터를 늘리는 것보다 기존 데이터를 정교하게 만드는 것이 중요하다고 강조한 것이다.
AI 업계 관계자에 따르면, 거대언어모델(LLM)이 만들어낸 결과물을 자동으로 측정할 평가 지표가 없어 이를 어떻게 평가하고 피드백을 줘야 하는지에 대한 고민이 현재 AI 업계 화두다.
피드백 루프는 AI 모델에 오류가 발생했을 때 이를 알리고 성능을 조정할 수 있는 데이터를 제공하는 순환 과정이다. AI 모델을 재학습하고 개선하는 데 사용된다.
업계 관계자는 저커버그가 피드백 루프를 강조한 것에 대해 “메타가 LLM으로 LLM을 평가해 성능을 튜닝하는 방식의 노하우를 가지고 있는 게 분명하다”고 말했다.
한편, 저커버그는 “피드백 루프에 의존하는 것은 위험할 수도 있다”고 언급했다.
처음부터 좋은 데이터로 학습하지 않았다면, 모델을 평가하는 LLM이 편향돼 있을 것이고, 그런 LLM이 평가해 학습시킨 LLM은 잘 만들어질 수 없다는 의미다. 양질의 데이터 확보 역시 간과해서는 안 된다는 것이다.
현대인 기자 modernman@etnews.com
