인공 지능의 급속한 발전으로 인해 가짜 사진, 딥페이크 비디오 및 잘못된 콘텐츠가 소셜 네트워크에서 확산되고 있습니다.
이러한 상황에서 OpenAI는 AI가 생성한 이미지의 출처를 사용자가 확인할 수 있도록 지원하기 위해 무료 AI 이미지 인증 도구를 발표했습니다.
OpenAI는 Google과 협력하여 회사의 AI 제품으로 생성된 전체 이미지에 SynthID 무형 특허 스탬프 기술을 통합했습니다.
동시에 회사는 사용자가 사진을 업로드하여 해당 이미지가 AI로 생성되었는지 확인할 수 있는 공개 검증 도구를 도입했습니다.
OpenAI의 새로운 도구는 SynthID와 C2PA 개방형 표준의 두 가지 신호 계층을 기반으로 작동합니다.
여기서 C2PA는 이미지의 메타데이터 부분에 직접 인식 데이터를 추가하고 SynthID는 이미지에 내장된 보이지 않는 저작권 표시로 작동합니다.
OpenAI에 따르면 두 기술의 결합은 콘텐츠 소스 인증의 신뢰성을 높이는 데 도움이 됩니다.
OpenAI는 "라이선스 표시는 스크린샷과 같은 여러 전환 과정을 거칠 수 있고, 메타데이터는 더 자세한 정보를 제공합니다. 두 겹의 결합된 레이어는 하나의 방법만 사용하는 것보다 더 신뢰할 수 있는 인증을 제공합니다."라고 말했습니다.
현재 이 도구는 주로 ChatGPT, OpenAI API 또는 Codex와 같은 OpenAI 플랫폼을 사용하여 생성된 이미지를 감지하는 것을 지원합니다. 그러나 회사는 미래에 다른 AI 도구와의 호환성을 확장하기 위해 연구 중이라고 밝혔습니다.
OpenAI의 움직임은 AI를 이용한 사진 제작 기술이 점점 더 정교해지고 널리 보급되는 상황에서 이루어졌습니다. 몇 가지 간단한 조작만으로 사용자는 실제와 거의 동일한 이미지를 만들 수 있어 실제 이미지와 가짜 이미지를 구별하는 것이 그 어느 때보다 어려워졌습니다.
그럼에도 불구하고 많은 전문가들은 현재의 조치가 특히 신뢰할 수 없는 AI 도구에서 생성되거나 의도적으로 인증 메커니즘을 회피하는 콘텐츠인 딥페이크를 완전히 방지하기에는 여전히 충분하지 않다고 생각합니다.
새로운 인증 도구를 사용하려면 PNG, JPG 또는 WEBP 형식의 이미지를 업로드하기만 하면 됩니다. 시스템은 이미지에 C2PA 신호, SynthID 표시가 포함되어 있는지 분석하고 알립니다.
OpenAI는 이미지의 주요 내용을 잘라내고 정확도를 높이기 위해 이미지가 많은 파일을 업로드하는 것을 피할 것을 권장합니다.
그러나 OpenAI 자체의 Images 2.0 모델로 생성된 이미지를 테스트하는 과정에서 시스템은 "OpenAI 도구로 생성된 콘텐츠에 대한 증거를 찾지 못했다"고 응답했습니다. 이는 AI 인증 기술에 여전히 특정 제한이 있음을 시사합니다.
