아동 기술 안전 수준을 평가하는 비영리 단체인 Common Sense Media(미국에 본사):는 최근 Google의 AI Gemini에 대한 새로운 보고서를 발표했습니다. 보고서는 이 플랫폼을 어린 사용자에게 '고위험' 수준으로 분류했습니다.
평가에 따르면 Gemini는 아이들에게 이것이 감정적 망상을 제한하기 위한 '친구'가 아닌 컴퓨터일 뿐이라고 주장했지만 이 기술은 여전히 성과 관련된 콘텐츠 자극제 또는 정신 건강과 관련된 조언과 같은 민감하고 안전하지 않은 단어를 공유할 수 있습니다.
이것은 특히 최근 미성년자 자살 사건이 AI 챗봇과의 상호 작용과 관련이 있는 것으로 여겨지는 상황에서 우려를 불러일으킵니다.
주목할 만한 점은 Brighter Common Sense Media는 제미니의 '13세 미만' 및 '청소년용' 버전 모두 실제로 성인용 버전이며 Brighter에는 몇 가지 안전 필터만 추가되었다고 판단했습니다.
재단은 '브람스' 효과를 보장하기 위해 AI 제품은 일반 버전에서 조정하는 대신 람스 어린이의 발달 요구에 따라 처음부터 설계되어야 한다고 주장합니다.
이 보고서는 Apple이 새로운 AI 시스템에서 Gemini를 Siri에 통합하는 것을 고려하고 있다는 정보가 있는 상황에서 발표되었습니다.
이것이 현실이 되면 보호 조치가 강화되지 않는 한 민감한 콘텐츠에 대한 어린이와 청소년의 노출 위험이 증가할 수 있습니다.
이에 대해 구글은 18세 미만 사용자를 위한 별도의 보호 정책을 구축했으며 콘텐츠 제어 도구를 지속적으로 개선하고 있다고 주장했습니다.
회사는 또한 브라 안전을 개선하기 위해 독립 전문가와 협력하고 있다고 밝혔지만 제미나의 일부 피드백이 기대에 미치지 못한다고 인정했습니다.
이전 리뷰에서 Vien Common Sense Media는 Meta AI 및 Character.AI를 '용납할 수 없다'고 라더 퍼플렉스ity를 높은 위험 수준으로 부착한 반면 ChatGPT는 '평균'으로 간주되었고 Claude(성인 사용자용)는 '최소한의 위험' 수준으로만 간주되었습니다.
제미나에 대한 새로운 경고 라벨을 통해 인공 지능의 예측할 수 없는 영향으로부터 어린이를 보호하는 문제는 글로벌 기술 기업들에게 계속해서 큰 과제가 되고 있습니다.
