젊은 세대에 대한 인공 지능의 영향에 대한 우려가 커짐에 따라 OpenAI는 ChatGPT에 "성년 예측" 기능을 통합했습니다. ChatGPT는 미성년자를 식별하고 대화에 대한 합리적인 콘텐츠 제한을 설정하도록 설계되었습니다.
최근 몇 년 동안 OpenAI는 ChatGPT가 어린이에게 미칠 수 있는 영향 때문에 심하게 비판을 받았습니다. 일부 청소년 자살 사건은 이 챗봇과 관련이 있었고, 다른 AI 제공업체와 마찬가지로 OpenAI도 ChatGPT가 젊은 사용자와 성적인 주제에 대해 토론할 수 있도록 허용한 것에 대해 비판을 받았습니다.
2025년 4월, 회사는 18세 미만 사용자에게 포르노 콘텐츠를 생성할 수 있도록 허용하는 오류를 수정해야 했습니다.
회사는 오랫동안 미성년 사용자 문제를 해결하기 위해 노력해 왔으며, 새로운 "성년 예측" 기능은 단순히 기존 보호 조치를 추가하는 것일 뿐입니다.
OpenAI는 최근 블로그 게시물에서 "이 새로운 기능은 인공 지능(AI) 알고리즘을 사용하여 특정 "행동 신호 및 계정 수준"을 기반으로 사용자 계정을 평가하여 젊은 사용자를 식별하는 것을 목표로 합니다."라고 밝혔습니다.
회사는 그러한 "신호"에 사용자가 신고한 연령, 계정이 존재한 시간 및 계정이 일반적으로 작동하는 날짜와 같은 정보가 포함된다고 밝혔습니다.
회사는 18세 미만 사용자에게 문제가 될 수 있는 성, 폭력 및 기타 주제에 대한 토론을 제거하도록 설계된 콘텐츠 필터를 이미 가지고 있습니다. 나이 예측 메커니즘이 18세 미만 계정을 식별하면 해당 필터가 자동으로 적용됩니다.
사용자가 나이가 부족하다고 잘못 확인되면 "성인" 계정을 복구할 수 있습니다. OpenAI에 따르면 OpenAI의 신원 확인 파트너인 Persona에 셀카를 보낼 수 있습니다.
