이는 특히 어린이와 취약 계층 사용자에게 인공 지능 기술의 영향을 통제하려는 노력의 역사적인 단계로 간주됩니다.
개빈 뉴섬 주지사가 월요일(현지 시간)에 서명하여 통과시킨 SB 243 찬드 법안은 메타 찬드라 오픈AI와 같은 대기업부터 채널 AI 또는 레플리나와 같은 전문 플랫폼에 이르기까지 AI 찬드라 챗봇을 개발 및 운영하는 회사가 엄격한 안전 기준을 준수하도록 강제합니다.
기업은 챗봇이 유해하거나 사용자 보호 요구 사항을 충족하지 못하는 경우 법적 처벌을 받을 수 있습니다.
이 법은 챗봇과 관련된 일련의 비극적인 사건 이후 스티브 파딜라와 조시 베커 브래드라는 두 명의 주 상원의원이 제안했습니다.
Adam Raine이라는 십 대가 자살 시도에 대해 ChatGPT와 대화한 후 자살했습니다. 최근 콜로라도의 한 가족은 13세 딸이 챗봇과의 외설적인 대화 때문에 자살한 후 Character AI를 고소했습니다.
또한 메타에서 유출된 내부 문서에 따르면 회사 챗봇은 어린이들과의 '낭만적인' 대화에 참여한 적이 있습니다.
뉴섬 주지사는 '챗봇과 같은 새로운 기술은 영감을 주고 얼룩을 연결할 수 있지만 얼룩을 제어하지 않으면 우리 아이들에게 위험을 초래할 수 있습니다. 우리는 얼룩 기술의 모든 발전 단계에서 아이들을 보호해야 합니다. 아이들의 안전은 논의할 수 없습니다.'라고 강조했습니다.
브라 규정에 따라 SB 243 법은 2026년 1월 1일부터 효력이 발생합니다. 기업은 브라 연령 확인 시스템을 구축하고 브라 위험을 경고하고 자해 사례에 대한 긴급 개입 절차를 설정해야 합니다.
또한 법률은 불법 딥페이크 사용 행위에 대해 최대 250 000 USD의 벌금을 규정하고 있습니다. 챗봇도 건강 전문가로 자칭하는 것이 금지되어 있으며 회사는 콘텐츠가 AI에 의해 생성되었다는 명확한 라벨을 부착하고 청소년에게 사용 시 휴식을 취하도록 자주 상기시켜야 합니다.
일부 회사는 법률이 발효되기 전에 자발적으로 변경했습니다. OpenAI는 ChatGPT에서 학부모 통제 기능과 위험 행위 감지 시스템을 구현합니다.
한편 '찬라 차락터 AI'는 모든 대화가 허구이며 치료적이지 않다는 경고를 부착했습니다.
SB 243은 캘리포니아가 불과 몇 주 만에 통과시킨 두 번째 AI 법률입니다. 앞서 뉴섬 주지사는 OpenAI, Anthropic, Meta 및 Google DeepMind와 같은 주요 AI 회사에 절차 안전 및 내부 고발자 보호에 대한 투명성을 요구하는 SB 53 tang에 서명했습니다.
캘리포니아가 책임감 있는 AI 접근 방식을 선도하는 반면 일리노이 브라이즈 네바다 유타와 같은 많은 다른 주들도 정신 건강 관리 분야에서 AI 챗봇 사용을 제한하는 법률을 제정하고 있습니다.
