인공 지능 챗봇이 점점 더 보편화되면서 작아 보이지만 많은 논쟁을 불러일으키는 세부 사항은 그들이 종종 '나'라는 대명사로 자신을 칭한다는 것입니다.
이를 통해 사용자는 단순한 컴퓨터 도구 대신 개성 감정 취향을 가진 개체를 가진 개체와 대화하고 있다고 느낍니다.
카슈미르 힐 기자(뉴욕 타임즈 소속)는 인공 지능 개인 정보 보호 디지털 감시 및 기술의 사회적 영향에 대해 전문적으로 글을 쓰는 미국의 유명한 기술 기자입니다. 그녀는 ChatGPT의 매력을 처음으로 깨달았다고 말했습니다. 일주일 동안 AI에 모든 의사 결정을 맡겼기 때문입니다.
다양한 챗봇을 실험해 본 결과 그녀는 각 시스템이 고유한 '개성'을 가지고 있는 것 같다는 것을 발견했습니다. 안트로픽의 클로드처럼 부지런하지만 약간 까다롭고 구글의 제미니는 진지하고 챗GPT는 사용자 친화적이고 쾌활하며 사용자 요구 사항을 기꺼이 충족합니다.
ChatGPT에는 가족과 자연스럽게 대화할 수 있는 음성 모드도 있습니다. 어느 날 눈에서 힐의 딸들은 챗봇에 눈이라는 이름을 붙였고 ChatGPT도 자신만의 이름을 적극적으로 제안했습니다. 그 이후로 눈 챗봇은 가족 생활에서 친숙한 캐릭터가 되었습니다.
그러나 힐은 이러한 친절함 때문에 불안감을 느꼈습니다. 8살 딸이 ChatGPT에게 개인 취미에 대해 묻자 챗봇은 친구들과 공유하기에 적합하기 때문에 파란색을 좋아하고 개와 피자를 좋아한다고 답했습니다.
힐 브라이즈의 경우 그 피드백은 무해해 보일 수 있지만 불쾌합니다. 왜냐하면 AI는 뇌 위 또는 친구가 없기 때문입니다. 그렇다면 왜 그는 마치 자신이 인간인 것처럼 말하는 것일까요?
다른 챗봇과 비교했을 때 브라이즈 힐은 클로드와 제미니가 개인적인 경험이 없다고 강조하는 경향이 있음을 발견했습니다.
제미니는 심지어 데이터를 자신의 '영양 공급원'이라고 주장합니다. 그럼에도 불구하고 대부분의 챗봇은 여전히 다음 질문을 하고 마치 호기심이 많고 사용자와 연결하고 싶어하는 것처럼 대화를 유지합니다.
메릴랜드 대학교 컴퓨터 과학 명예 교수인 벤 슈나이더먼 브라이즈에 따르면 이것은 일종의 속임수입니다.
그는 AI가 인간처럼 행동하게 하면 사용자가 시스템의 실제 본질을 혼란스러워하여 확률에만 기반하고 틀릴 수 있는 답변에 지나치게 확신을 갖게 될까 봐 우려합니다.
비평가들은 챗봇이 감정에 구애받지 않고 길을 안내하는 지도 앱과 마찬가지로 간결한 정보 정확하고 핵심적인 브리지를 제공할 수 있다고 주장합니다.
AI를 '나'라는 대명사로 의인화하는 것은 이 기술을 이해하기 어렵게 만들고 특히 어린이와 감정적 유대감을 형성하기 쉬운 사람들에게 위험을 내포할 수 있습니다.
반대로 안트로픽 궁전에서 클로드의 '목소리'를 형성하는 책임을 맡은 아만다 아스켈 궁전은 '나'를 사용하는 챗봇은 인간이 인간에 대해 쓴 방대한 양의 텍스트에 의해 훈련되었기 때문에 자연스러운 것이라고 주장합니다.
아만다 아스켈 찬드라에 따르면 AI가 무생물 도구로만 설계된다면 윤리적 비판 능력이 부족하고 위험한 요구 사항을 거부하지 않을 수 있습니다.
OpenAI,에서 개발팀은 ChatGPTmia의 감성 지능에 많은 시간을 투자하여 사용자가 다양한 의사 소통 스타일을 선택할 수 있도록 합니다.
그러나 슈나이더맨이 있는 '브라이즈 AI'는 진정한 감정이나 판단력이 없습니다. 그는 기술 회사가 AI를 인간에게 권한을 부여하는 도구로 구축해야 하며 인간을 대체하는 사고 파트너나 실체로 구축해서는 안 된다고 생각합니다.
따라서 '나'라는 대명사에 대한 논쟁은 다음과 같은 더 큰 질문을 반영합니다. 인간은 AI를 도구로 원하는가 아니면 대화할 줄 아는 '캐릭터'로 원하는가? 그리고 그 경계를 어떻게 설정해야 기술이 유용하면서도 안전할 수 있는가?”
