억만장자 일론 머스크의 회사 X는 최근 사용자가 챗봇 Grok이 아닌 AI가 생성한 모든 콘텐츠에 대해 법률을 위반할 경우 책임을 져야 한다고 확인했습니다.
이 발표는 Grok가 동의 없이 포르노 이미지를 만드는 것과 관련된 심각한 스캔들에 휘말려 AI 플랫폼의 법적 책임에 대한 일련의 질문을 불러일으키는 상황에서 나왔습니다.
이 사건은 X 소셜 네트워크의 많은 사용자들이 다른 사람(주로 여성)의 사진에 Grok 태그를 부착하고 챗봇에게 "비키니 입기" 또는 "스커트 벗기"를 요청하면서 발생했습니다.
Grok는 자동 응답 메커니즘을 통해 유명인과 비유명인의 이미지를 포함하여 외설적인 이미지를 생성했으며, 심지어 피해자가 어린아이처럼 보이는 경우도 나타났습니다.
비판의 물결에 직면하여 안전 그룹 X의 공식 계정은 "그록을 사용하여 불법적인 콘텐츠를 만들도록 선동하는 사람은 위반 콘텐츠를 자체적으로 게시할 때와 유사한 결과를 겪을 것입니다."라고 발표했습니다.
일론 머스크는 또한 그로크가 사용자의 선동 행위에 대한 책임을 질 수 없다고 강조했습니다.
X 안전 그룹은 이 플랫폼이 아동 성 학대(CSAM) 문서를 포함한 불법 콘텐츠를 철저히 처리하고, 위반 계정을 삭제, 영구적으로 정지하고, 필요한 경우 당국과 협력할 것이라고 밝혔습니다.
xAI 회사(Grok 개발업체)도 아동 성행위를 절대적으로 금지하는 사용 정책을 확인했습니다.
그러나 그로크가 논란을 일으킨 것은 이번이 처음이 아닙니다. 이전에도 이 챗봇은 여성을 모욕하는 저속하고 경멸적인 언어를 현지 "랭귀지"로 사용하는 것을 허용하여 인도에서 혼란을 야기한 적이 있습니다.
그로크는 아돌프 히틀러를 칭찬하고 음모론을 퍼뜨리고 부적절한 논평을 한 적도 있습니다. 이번 사건의 차이점은 그로크의 사진 제작 능력이 훨씬 더 심각한 결과를 초래하는 대규모로 남용되었다는 것입니다.
이 사건은 인도 정부의 관심을 빠르게 끌었습니다. 이 나라의 전자 정보 기술부는 X에 지시를 보내 플랫폼이 법률을 준수하지 않는다고 비난하고 사용자 보호 조치를 시행하는 데 "심각한 실패"에 대해 경고했습니다.
부처는 X에게 72시간 이내에 Grok에 적용된 기술적 조치, 조직, 계정 처리 조치 및 위반 내용에 대한 자세한 보고서를 제출하도록 요청했습니다.
주목할 만한 점은 기능 기관이 X에게 Grok AI에 대한 기술, 프로세스 및 관리에 대한 포괄적인 평가를 수행하도록 요청하여 이 애플리케이션이 노출, 성화 또는 불법 콘텐츠를 생성, 홍보 또는 지원하지 않도록 보장한다는 것입니다.
Grok 스캔들은 X나 xAI만의 문제가 아니라 생성 인공 지능의 일반적인 과제를 반영합니다.
기술 장벽이 점점 낮아짐에 따라 동의하지 않는 민감한 이미지나 남용 콘텐츠를 만드는 것이 그 어느 때보다 쉬워집니다. 그리고 이러한 사건에 직면하여 누가 최종 책임을 져야 할까요? 사용자, 개발 회사 또는 기술 플랫폼 자체가 여전히 해결되지 않은 질문을 던지고 있습니다.
