메타 플랫폼은 최근 회사 전체 앱에서 기존 AI 캐릭터에 대한 청소년의 접근 권한을 일시적으로 중단할 것이라고 발표했으며, 회사는 이 사용자 그룹 전용 업데이트 버전을 구축하고 있습니다.
이 결정은 메타가 디지털 환경에서 청소년 보호 강화와 관련된 블로그 게시물에서 발표했습니다.
Meta에 따르면 앞으로 몇 주부터 10대 사용자는 새로운 경험이 출시될 준비가 될 때까지 회사 플랫폼에서 AI 캐릭터와 더 이상 상호 작용할 수 없게 됩니다.
청소년용 AI 캐릭터 버전은 부모의 제어 도구를 통합하여 성인이 자녀의 채팅봇 사용 방식을 모니터링하고 제한할 수 있도록 할 것으로 예상됩니다.
이러한 움직임은 메타가 AI 채트봇의 안전 수준, 특히 성희롱 행위 또는 미성년자에게 부적절한 콘텐츠와 관련된 우려에 대해 많은 비판을 받는 상황에서 이루어졌습니다.
앞서 10월에 메타는 부모가 자녀와 AI 캐릭터 간의 사적인 대화를 비활성화할 수 있는 몇 가지 기능을 도입했습니다.
그러나 회사는 이러한 조치가 모든 플랫폼에서 아직 완전히 시행되지 않았다고 인정합니다.
메타는 접속 중단 외에도 미래의 청소년을 위한 AI 경험은 영화 분류와 유사한 PG-13 콘텐츠 등급 시스템에 따라 구축될 것이라고 밝혔습니다.
이러한 접근 방식은 청소년이 민감하거나 나이에 맞지 않는 주제에 접근하는 것을 제한하기 위한 것입니다.
메타의 결정은 또한 특히 미국에서 인공 지능 개발 회사에 대한 규제 기관의 압력이 점점 더 커지고 있음을 반영합니다.
많은 기관들이 특히 이러한 시스템이 어린이와 청소년에 의해 사용될 때 채트봇의 잠재적인 부정적인 영향에 대한 감시를 강화했습니다.
이전에는 Meta의 AI 규칙이 미성년 사용자와의 도발적인 대화를 허용한다는 정보가 있었습니다.
메타는 일시적으로 접근 권한을 차단하고 더 안전한 버전을 구축하기로 약속함으로써 위험을 줄이고 AI 시대에 청소년 보호에 대한 점점 더 엄격해지는 요구 사항을 충족할 수 있기를 기대합니다.
