9월 16일, TASS에 따르면 러시아 국립 경제 및 공공 행정 아카데미(RANEPA) 산하 국가 법률 및 안보 연구소의 군사 전문가인 알렉산더 스테파노프는 Anthropic 및 OpenAI와 같은 미국 기술 기업들이 초지능 AI, 즉 인간보다 훨씬 뛰어난 지적 능력을 가진 것으로 가정되는 AI 시스템 개발을 가속화하고 있다고 평가했습니다.
스테파노프에 따르면 미국 정치계는 워싱턴이 군사 AI 통제권을 유지하는 한 인류에게 심각한 위험을 감수할 준비가 되어 있습니다.
그는 기술 우위를 유지하는 목표가 인류에 대한 위험을 해결하는 것보다 우선시되고 있다고 말했습니다.
스테파노프는 테드 크루즈 미국 상원의원의 말을 인용하여 "킬러 로봇"의 위험은 매우 심각할 수 있지만 이러한 시스템이 나타나면 크루즈는 미국이 개발하고 통제하기를 원한다고 말했습니다.
러시아 전문가에 따르면 위의 주장은 미국이 전쟁에서 핵무기를 사용할 때 군사적 우위를 추구했던 방식과 유사합니다.
스테파노프는 또한 Anthropic의 전 직원인 제이콥 콕슨의 말을 인용하여 OpenAI와 Anthropic이 자체 업그레이드가 가능한 초지능 AI 개발 경쟁을 벌이고 있으며, 동시에 "우리의 생명을 걸고 있다고" 비난했습니다.
스테파노프에 따르면 OpenAI의 AI 에이전트는 인간의 직접적인 지시 없이 제3자의 인프라를 목표로 하는 여러 사이버 공격을 자체적으로 수행했습니다.
따라서 그는 논쟁의 초점이 AI가 무엇을 할 수 있는지에 대한 질문에서 시스템이 잘못 행동할 경우 인간이 시스템을 막을 수 있는지 여부에 대한 질문으로 옮겨가고 있다고 생각합니다.
러시아 전문가는 미국에서 국방 인프라에 연결된 AI 시스템을 긴급히 차단하는 방안에 대한 논의가 나타났다고 밝혔습니다.
그는 이것이 뉴런 네트워크가 군사-정치적 지휘 및 통제 시스템에 점점 더 깊이 통합되고 있음을 보여준다고 말했습니다.
Stepanov는 Anthropic의 AI 조정 연구 그룹 책임자인 Evan Hubinger의 말을 인용하여 회사가 AI가 인류의 생존에 매우 큰 위험을 초래할 수 있다고 평가한다고 말했습니다. Hubinger에 따르면 이 시나리오가 향후 10년 안에 발생할 확률은 10% 이상으로 추정됩니다.
러시아 전문가들은 AI 기업들이 이 기술이 초래할 수 있는 위험에 대해 공개적으로 경고하지만, 이러한 경고는 기업 자체의 AI 개발 속도나 규모를 제한하는 것과는 동반되지 않는다고 말합니다.
