오픈AI, 이미지에 AI 사용 여부 가려낸다

사진 우측 'AI Tool used' 항목을 통해 달리3를 활용한 이미지임을 나타내고 있다. [사진=오픈AI 홈페이지 갈무리]

챗GPT 개발사 오픈AI가 이미지 제작에 인공지능(AI) 사용 여부를 감지하는 도구를 출시했다.

오픈AI는 7일(현지시간) 홈페이지를 통해 자사 이미지 생성 AI인 '달리3'를 활용한 이미지인지 아닌지를 감지하는 도구를 선보였다고 밝혔다.

이는 오픈AI가 지난 1월 달리가 생성한 이미지 감지 도구를 실험하고 있다는 발표 이후 4달 만이다.

당시 오픈AI는 슈퍼 선거의 해인 2024년에 AI 시스템이 안전하게 구축·배포·사용되는 것을 목표로 하는 이니셔티브 중 하나로 'AI 생성 콘텐츠에 대한 투명성'을 강조했다. 딥페이크를 비롯해 AI를 악용하는 사례를 막기 위해 노력하겠다는 의지를 보인 것이다.

오픈AI는 이번에 공개한 감지 도구가 98%의 정확도로 이미지의 달리3 사용 여부를 파악한다고 설명했다. 단 해당 도구는 미드저니와 스태빌리티와 같은 다른 생성기에서 생성된 이미지를 감지하도록 설계되지 않았다고 덧붙였다.

오픈AI는 AI 모델의 대표적 성능평가 지표인 'AUC(Area Under the Curve)'를 통해 감지 도구를 평가했다. AUC가 1에 가까울수록 성능이 뛰어나다.

이미지를 자르거나 채도를 변경하는 등 일반적인 수정을 거칠 경우, 감지 정확도는 최소 0.826으로 나타났다. 그러나 이미지에 가우시안 노이즈를 적용하는 등 특정 기술을 적용해 수정을 거치면 감지 정확도가 0.356으로 떨어졌다.

오픈AI 관계자는 “언제 어느 지점에서 감지 도구 성능이 낮아지는지 이해하는 것이 중요하다”며 “해당 도구를 개선하기 위해 노력하고 있다”고 말했다.

오픈AI는 이날 '콘텐츠 출처 및 진정성 연합(C2PA)'의 운영 위원회에 합류하기도 했다. 오픈AI는 달리3뿐만 아니라 비디오 생성 AI인 소라에도 C2PA의 메타데이터 등 라벨을 붙일 계획이다.

현대인 기자 modernman@etnews.com