이러한 움직임으로 인해 양측 간의 최대 2억 달러 규모의 계약이 취소될 수 있습니다.
Anthropic이 자사 기술이 자동 무기 제어 또는 미국 영토 내 감시 배치에 사용되는 것을 막는 기술 장벽을 제거하는 것을 거부한 후 논란이 일었습니다.
펜타곤 대변인 숀 파넬은 X 소셜 네트워크에 전쟁부가 AI를 사용하여 미국 시민을 대량 감시할 의도가 없으며, 인간의 통제 없이 완전히 작동하는 자동 무기를 개발하고 싶어하지 않는다고 썼습니다.
그는 펜타곤이 안트로픽의 AI 모델을 모든 합법적인 목적으로 사용하도록 요구하고 회사가 결정을 내릴 기한을 정했다고 밝혔습니다. 동의하지 않으면 펜타곤은 협력을 종료하고 안트로픽을 "공급망 위험"으로 간주할 것입니다.
2월 26일 성명에서 Anthropic CEO 다리오 아모데이는 회사가 대규모 국내 감시 또는 완전 자동 무기 운용에 모델을 사용하는 것을 반대한다고 단언했습니다. 그는 현재의 첨단 AI 시스템이 생존 임무에 충분히 신뢰할 수 없다고 말했습니다.
회사와 가까운 소식통에 따르면 Anthropic은 펜타곤이 이러한 방향으로 AI를 배치할 계획이 없다고 비난하지 않고 기술 안전에 대한 평가만 제공했습니다.
소식통에 따르면 AI는 새로운 상황에서 예측 불가능하게 행동하여 오발, 임무 실패 또는 의도치 않은 긴장 고조의 위험을 초래할 수 있습니다. 대규모 감시에 AI를 사용하는 것도 우려스럽습니다. 왜냐하면 현행법은 AI가 빅데이터에서 추론할 수 있는 추론을 명확하게 제한하지 않기 때문입니다.
아모데이 씨는 계약이 취소되면 안트로픽이 다른 공급업체로의 이전 과정을 지원할 것이라고 말했습니다. 그러나 그는 펜타곤 측의 압력, 즉 시스템에서 회사를 제거하겠다는 위협이나 국방 생산법을 인용하는 것은 회사의 입장을 바꾸지 않을 것이라고 강조했습니다.
에밀 마이클 전쟁부 차관은 X에 답변하면서 아모데이를 비판하고 펜타곤은 항상 법을 준수하며 이익을 추구하는 기술 회사가 국방 정책을 지배하도록 허용하지 않는다고 단언했습니다.
구글과 아마존의 지원을 받는 안트로픽은 현재 미국 전쟁부와 최대 2억 달러 규모의 계약을 체결했습니다. 회사는 여전히 대화를 계속하고 운영 중단을 방지할 준비가 되어 있다고 밝혔습니다.
200명 이상의 Google 및 OpenAI 직원이 Anthropic의 입장을 지지하는 공개 서한에 서명했습니다. Google과 OpenAI는 즉시 논평하지 않았습니다.
Anthropic은 샌프란시스코에 본사를 둔 인공 지능 회사로, 다리오 아모데이를 포함한 전 OpenAI 리더들이 2021년에 설립했습니다. 회사는 클로드와 같은 AI 모델을 개발하고 구글과 아마존으로부터 막대한 투자를 받고 있습니다.
