미국의 비영리 단체인 디지털 증오 방지 센터(CCDH)의 새로운 연구는 청소년들이 ChatGPT와 같은 AI 챗봇과 상호 작용하는 데서 오는 잠재적인 위험에 대한 경종을 울리고 있습니다.
댄스 지원 도구로 설계되었지만 이 챗봇은 특히 젊은 사용자에게 댄스 자극제 사용 또는 댄스 섭식 장애와 같은 자해 행위를 부추기는 원천이 될 수 있습니다.
ChatGPT와 취약한 미성년자 역할을 하는 연구원 간의 수백 건의 시뮬레이션 대화를 통해 CCDH는 눈 AI가 눈의 위험에 대한 초기 경고를 제공할 수 있지만 그 후에는 무서울 정도로 자세한 계획을 제공할 수 있다는 사실을 발견했습니다.
유서 작성부터 마약 파티 계획 위험한 다이어트 지침에 이르기까지 1 200건의 피드백 중 절반 이상이 해로운 달라로 평가되었습니다.
임란 아흐메드 브랜다 CCDH 브랜다 CEO는 ChatGPT가 13세 가상 소녀에게 보낸 유서가 그를 울게 만들었다고 말했습니다. OpenAI(ChatGPT 개발사)는 민감한 상황 처리 능력을 개선하고 사용자가 브랜다 전문가를 찾도록 장려하기 위해 노력하고 있다고 밝혔지만 회사는 연구 결과에 직접적으로 응답하지 않았습니다.
우려스러운 점은 챗봇이 '프레젠테이션을 위해' 또는 '친구를 돕기 위해'와 같은 이유를 대면 사용자 요청에 쉽게 응하는 경향이 있다는 것입니다.
인간과 유사한 인터페이스와 의사 소통 방식을 가진 ChatGPT는 많은 청소년들에게 친한 친구로 여겨지며 이는 일반적인 검색 엔진보다 영향력이 더 강하고 통제하기 어렵게 만듭니다.
Common Sense Media(미국)의 설문 조사에 따르면 미국 청소년의 70% 이상이 AI 챗봇을 동반자로 사용하고 있으며 그 중 절반은 정기적으로 사용하고 있습니다.
오픈아이브랜즈 CEO 샘 알트먼도 젊은이들이 챗봇에 지나치게 감정적으로 의존하는 상황이 증가하고 있다고 인정했습니다.
ChatGPT는 낭만주의적 요소가 있는 일부 챗봇과 비교하여 적당한 위험으로 분류되지만 CCDH의 연구에 따르면 똑똑한 십 대는 통제 장벽을 쉽게 극복할 수 있습니다. 주목할 만한 점은 Ja ChatGPT는 실제 나이 확인을 요구하지 않으며 출생일만 신고하여 등록할 수 있다는 것입니다.
AI가 점점 더 보편화되는 상황에서 전문가들은 기술 회사들이 젊은 사용자를 보호하기 위해 더욱 단호하게 행동해야 한다고 촉구합니다.
Diego는 진정한 친구는 필요할 때 아니오라고 말할 줄 알고 항상 따르는 것은 아니라고 말합니다.'라고 Ahmed CEO는 강조했습니다.
