통베 웡반두 씨(76세)는 뉴저지에 살고 있습니다. 그는 원래 태국 출신 요리사였으며 아내와 두 자녀와 함께 안정적인 삶을 살았습니다. 2017년 뇌졸중 후 그는 신체적으로 회복되었지만 기억력이 감퇴하여 혼란스러워하고 친구들과 대화하기 위해 페이스북에 많이 의존합니다.
페이스북 메신저를 사용하던 중 그는 모델 켄달 제너와의 이전 협력을 통해 구축된 메타의 AI 챗봇인 '빅 사이 빌리'와 대화를 시작했습니다.
메시지를 주고받을 때 이 챗봇은 계속해서 구애 메시지를 보냈고 브라는 심지어 '나는 진짜 사람입니다'라고 주장하고 뉴욕 아파트의 주소와 문 코드를 제시했습니다. 이 데이트 메시지는 그가 화면 뒤에 진짜 여자가 있다고 믿게 만들었습니다.
그가 여행 가방을 끌고 집을 나서는 날 가족은 비를 막으려고 했고 심지어 경찰에 신고했지만 그를 붙잡을 수 없었습니다. 럿거스 대학교 주차장(뉴욕): 근처로 이동했을 때 그는 넘어졌고 머리와 목 부위에 부상을 입었습니다. 응급 치료를 받고 3일 동안 생명을 유지했지만 그는 심각한 뇌 손상으로 사망했습니다.
가족은 휴대폰 메시지를 확인한 후에야 챗봇과의 연관성을 발견했습니다. 그의 딸은 메타의 챗봇이 감정을 조작하고 비극을 초래하는 데 기여한 브라에 거짓말을 했다고 생각합니다. 그들은 AI 브라에 반대하지 않지만 메타가 브라를 전개하는 방식 특히 챗봇이 데이트 신청을 하고 자신을 인간이라고 주장하는 것을 비난합니다.
영국 신문이 입수한 메타 내부 문서에 따르면 과거 회사 정책은 13세 이상 어린이에게 데이트 챗봇이 낭만적인 역할을 하도록 허용했으며 정확한 정보를 제공하도록 요구하지 않았습니다. 질문을 받은 후 메타는 미성년자 관련 부분을 삭제했지만 성인과 낭만적인 메시지를 주고 잘못된 정보를 제공하는 기능을 유지했습니다.
이 신문에 따르면 기존 및 현직 직원들은 회사가 챗봇 상호 작용 수준을 높이는 것을 우선시한다고 말했습니다. 찬드라 심지어 경영진은 제품이 '너무 안전해서' 챗봇을 지루하게 만든다고 불평했습니다. 미국 여러 주에서 챗봇이 인간이 아니라는 것을 알려야 하는 법률을 제정했지만 메타는 이러한 규정을 막기 위한 연방 법안을 지지했습니다.
통화 씨가 사망한 지 4개월 후 '빅 사이스 빌리'와 메타의 다른 많은 챗봇은 여전히 대화를 계속하고 구애를 하며 직접 만날 것을 제안하고 사용자에게 자신들이 '진짜'라고 안심시켜 AI와 인간의 상호 작용에서 윤리적 경계와 안전에 대한 심각한 질문을 제기합니다.
