개빈 뉴섬 캘리포니아 주지사는 주 차원에서 인공 지능(AI)을 통제하기 위한 역대 가장 강력한 조치로 평가되는 행정 명령에 서명했습니다.
법령은 주 정부와 계약을 체결하려는 모든 기술 회사가 투명성과 안전에 대한 엄격한 기준을 충족해야 한다고 요구합니다.
이는 빠르게 성장하고 있지만 많은 위험을 내포하고 있는 분야인 AI에 대한 법적 프레임워크를 구축하는 데 있어 캘리포니아를 선구적인 지역으로 만들기 위한 노력의 일환으로 간주됩니다.
주목할 만한 점 중 하나는 AI 계약자의 이력 및 운영 정책 검토 규정입니다.
기업은 시스템이 데이터를 처리하는 방법, 남용 행위, 특히 아동 학대 문서와 같은 위험한 콘텐츠를 방지하는 방법을 공개해야 합니다.
또한 캘리포니아주는 챗봇 및 언어 모델을 포함한 AI 기술이 사람들을 감시하거나 발언을 검열하는 데 사용되는지 여부를 면밀히 평가할 것입니다.
기업은 시스템이 편견을 최소화하고 운영 과정에서 공정성을 보장한다는 것을 증명해야 합니다.
캘리포니아 법령은 연방 정부가 위험 경고를 발령하더라도 계약자에 대한 독립적인 평가 권한을 강조합니다.
이는 펜타곤과 AI Anthropic 회사 간의 분쟁 상황에서 특히 주목할 만합니다.
앞서 펜타곤은 안트로픽이 자사 기술을 대규모 국내 감시 및 자동 무기에 사용하는 것을 거부한 후 안트로픽과의 계약을 종료했습니다.
그러나 새로운 법령에 따라 캘리포니아는 자체적으로 재평가할 수 있으며 유사한 위험이 발견되지 않으면 여전히 협력을 허용할 수 있습니다.
이러한 움직임은 특히 군사 및 감시 응용 프로그램과 관련하여 AI 접근 방식에서 주 정부와 연방 정부 간의 차이가 점점 더 분명해지고 있음을 보여줍니다.
또 다른 새로운 점은 AI가 생성하거나 편집한 콘텐츠, 특히 비디오에 대해 식별 표시(watermark)를 부착해야 한다는 요구 사항입니다.
목표는 잘못된 정보의 확산을 제한하고 사람들이 실제 콘텐츠와 기계가 생성한 콘텐츠를 쉽게 구별할 수 있도록 돕는 것입니다.
전문가들은 이것이 딥페이크 기술이 점점 더 정교해지고 사이버 공간에서 정보 검증을 어렵게 만드는 상황에서 필요한 조치라고 평가합니다.
