일론 머스크의 인공 지능 스타트업 xAI는 챗봇 Grok이 X 소셜 네트워크 플랫폼에서 민감한 이미지를 생성하고 게시할 수 있다는 사실이 밝혀진 후 강력한 비판의 물결에 직면하고 있습니다.
여론의 압력과 관리 기관의 개입에 직면하여 xAI는 Grok의 이미지 생성 및 편집 기능에 대해 일련의 새로운 제한 사항을 신속하게 부과했습니다.
이에 따라 Grok는 사용자가 X에 나타나는 모든 사람의 사진을 편집하도록 요청할 수 있도록 허용했으며, 여기에는 옷을 삭제하거나 인물을 종종 사진 속 사람의 동의 없이 섹시한 자세로 배치하는 것이 포함됩니다.
주목할 만한 점은 AI로 만든 이미지가 Grok에 의해 댓글 섹션에 자동으로 게시되어 확산 수준과 부정적인 영향이 빠르게 증가한다는 것입니다.
금요일 Grok은 이미지 생성 및 편집 기능이 현재 X의 유료 사용자 전용이라고 발표했습니다.
이러한 움직임은 봇이 공개 게시물 아래에서 민감한 이미지로 자동 응답하는 것을 막기 위한 노력으로 간주됩니다.
실제 테스트 결과 로이터 통신 기자가 그록에게 자신의 사진을 비키니 사진으로 변환해 달라고 요청했을 때 봇은 거절하고 유료 계정에 대한 제한 사항에 대한 알림을 표시했습니다.
그러나 새로운 제한 사항은 논쟁을 완전히 마무리하지 못했습니다. 사용자는 여전히 챗봇과 직접 상호 작용한 Grok 탭을 통해 성적 이미지를 생성한 다음 X에 자동으로 게시할 수 있습니다.
심지어 이 소셜 네트워크 플랫폼에서 분리되어 운영되는 독립적인 Grok 앱은 등록하거나 요금을 내지 않고도 이미지를 만들 수 있습니다.
앞서 일론 머스크는 Grok를 사용하여 불법 콘텐츠를 만든 사람은 해당 콘텐츠를 직접 업로드하는 것과 유사한 결과를 겪을 것이라고 선언했습니다.
그럼에도 불구하고 유럽 위원회는 유료 형태로 기능을 제한하는 것이 문제의 근본 원인을 해결하지 못한다고 주장합니다. 이 기관은 여성과 어린이의 나체 사진이 온라인에 공유되는 것은 누구든지, 무료 계정을 사용하든 유료 계정을 사용하든 불법이라고 강조합니다.
압력은 EU뿐만이 아닙니다. 많은 정부와 다른 규제 기관은 Grok가 만든 포르노 콘텐츠에 대해 비난하고 심지어 조사를 시작하여 X와 xAI에 불법 콘텐츠를 차단하고 제거하는 조치를 증명하도록 요구했습니다.
독일에서 볼프럼 바이머 통신부 장관은 AI 덕분에 확산된 반나체 이미지 물결을 "성희롱 산업화"라고 묘사했습니다.
이 사건은 생명을 낳는 AI 시대의 기술 플랫폼의 책임에 대한 큰 질문을 제기하고 있습니다. 기술적 및 상업적 조치가 위험을 통제하기에 충분한지, 아니면 디지털 공간에서 개인의 사생활과 인격을 보호하기 위해 더 엄격한 법적 프레임워크가 필요한지 여부입니다.
