AI가 점점 더 정교해지는 시대에 실제 이미지와 인공 지능이 생성한 이미지를 구별하는 것이 그 어느 때보다 어려워지고 있습니다.
마이크로소프트의 AI for Good 연구소의 새로운 연구에 따르면 AI가 생성한 이미지를 정확하게 인식하는 인간의 능력은 62%에 불과하며 이는 동전을 던질 때와 같은 50%의 무작위 추측보다 약간 높은 수치입니다.
이것은 우리가 AI가 만든 실제 사진과 가짜 사진을 구별하려고 할 때 거의 명확한 이점이 없다는 것을 보여줍니다.
데이터는 전 세계 12 500명 이상의 참가자가 분석된 총 약 287 000개의 이미지로 어디가 실제 이미지이고 어디가 가짜 이미지인지 식별하도록 요청받은 온라인 게임 OmniReal or Not Quiz nan에서 수집되었습니다.
게임 내 이미지는 플레이어의 도전성을 보장하기 위해 미드주니 플라 델프루지 플라 스테이블 디퓨전 등과 같은 현재 가장 진보된 AI 이미지 도구로 생성됩니다.
결과에 따르면 인간 궁전은 실물 초상화와 AI가 만든 인간 궁전을 구별하는 데 약 65%의 성공률을 보였지만 자연 또는 도시 풍경 이미지의 경우 이 비율은 59%로 감소했습니다.
그 원인은 인간의 뇌가 얼굴을 더 잘 인식하는 경향이 있는 반면 뚜렷한 특징이 없는 풍경 이미지에 쉽게 속기 때문이라고 합니다.
연구자들은 AI가 특징적인 스타일이 없는 극도로 현실적인 이미지를 점점 더 많이 생성하여 구별하기가 더 어려워지고 있다고 지적합니다.
이것은 인간의 뇌가 풍경보다 인간 정체성 비율을 높이는 요인인 얼굴 정체성에 매료된다는 것을 보여주는 서리 대학교의 최근 연구와 완벽하게 일치합니다.
인간보다 약간의 장점이 있지만 현재 AI 이미지 감지 도구는 여전히 완벽하지 않습니다. AI 이미지 감지 도구는 더 정확하게 감지할 수 있지만 많은 경우에 오류가 발생하기 쉽습니다.
따라서 Microsoft 연구팀은 정확도가 최대 95%인 새로운 AI 이미지 감지 도구를 개발하고 있으며 AI 이미지로 인한 잘못된 정보의 확산을 방지하기 위해 흐릿한 이미지를 부착하고 이미지 출처를 투명하게 표시하는 것의 중요성을 강조합니다.
가짜 이미지가 점점 더 만연해지는 상황에서 경각심과 강력한 발견 기술은 격동적인 디지털 세계 앞에서 대중의 신뢰를 보호하는 마지막 장벽이 될 것입니다.
