젊은이들의 정신 건강에 대한 인공 지능의 영향에 대한 우려가 커지는 가운데, OpenAI는 올해 말에 출시될 예정인 청소년 친화적인 채팅GPT 버전을 출시할 계획을 발표했습니다.
OpenAI,에 따르면 이 시스템은 사용자의 정확한 나이를 확인할 수 없는 경우 18세 미만을 위한 전용 경험으로 자동 전환됩니다. 이 버전은 청소년이 AI 챗봇에 접근할 때 위험을 방지하기 위해 여러 겹의 보호 장치로 설계되었습니다.
CEO 샘 알트먼은 '우리는 청소년의 사생활 보호와 자유보다 안전을 우선시합니다. 이것은 새롭고 강력한 기술이며 청소년과 미성년자는 상당한 보호가 필요합니다.'라고 단언했습니다.
알트만은 또한 회사가 보호 메커니즘을 개선하기 위해 전문가 로비 단체 및 정책 입안자와 협력하고 있다고 말했습니다.
이러한 움직임은 미국에서 한 가족이 ChatGPT의 통제 조치 부족이 십대 아들의 비극적인 죽음에 기여했다고 비난한 소송 이후에 이루어졌습니다. 이 사건은 젊은 사용자를 보호하는 데 있어 AI 기업의 책임에 대한 전 세계적인 논쟁을 불러일으켰습니다.
청소년용 ChatGPT 버전은 엄격한 콘텐츠 필터를 적용하여 구애 자기 해치기 또는 민감한 주제에 대한 토론을 가상 맥락에서도 차단합니다. 위기 대응 시스템은 또한 부모에게 경고하고 자살 위험이 감지되면 당국에 연락할 수 있습니다.
또한 부모는 13세 미만 어린이를 위한 계정 링크 사용 시간 제한 설정 채팅 메모리 관리 및 ChatGPT 응답 방식 규정을 포함한 채팅 제어 도구 세트에 액세스할 수 있습니다. 이러한 도구는 긴 채팅 세션에서 휴식을 상기시키는 것과 같은 기존 기능을 보완합니다.
알트만은 OpenAI의 목표가 개인 정보 보호 자유와 안전 사이의 균형을 찾는 것이라고 강조했습니다. 성인은 더 적은 제한을 받는 반면 어린이는 더 높은 수준의 보호가 필요합니다.
동시에 회사는 심각한 남용 행위를 방지하기 위해 필요한 일부 경우를 제외하고 사용자 데이터를 보호하기 위해 고급 보안 조치를 추가로 구현할 것을 약속합니다.
청소년을 위한 ChatGPT 버전 출시는 젊은 세대를 위해 더 안전한 AI 환경을 구축하려는 OpenAI의 노력을 반영하는 중요한 단계로 간주됩니다.
