미국에 본사를 둔 AI 안전 연구소인 미래 생명 연구소의 최근 발표된 보고서는 세계 최고의 AI 기업 9곳의 안전 순위를 매겼습니다.
이 보고서를 수행하기 위해 7명의 연구원과 경영 전문가가 기업이 제공하는 공개 데이터와 정보를 기반으로 순위를 결정했습니다. 그룹은 위험 평가, 현재 피해, 안전 프레임워크, 생존 안전, 관리 및 책임, 정보 공유의 6가지 다른 범주에서 노력을 평가했습니다.
어떤 AI 회사도 어떤 부문에서도 "A"를 받지 못했지만, 미국 인공 지능 회사인 Anthropic은 전체적으로 "C+"로 가장 좋은 점수를 받았습니다. Meta는 2단계 상승하여 4위를 차지했고, xAI는 3단계 하락하여 7위를 차지했으며, 중국의 DeepSeek와 프랑스의 Mistral이 바로 그 뒤를 이었습니다.
Mistral은 처음으로 목록에 포함되었지만 AFP가 최종 위치에 대해 묻자 이 회사는 보고서의 프레임워크가 회사의 AI 모델 개발 방법과 일치하지 않는다고 밝혔습니다. 프랑스 회사는 사용자가 제품을 다운로드하고 편집할 수 있는 개방형 모델을 개발합니다.
Anthropic, OpenAI 및 Google DeepMind를 포함하여 폐쇄형 AI 모델을 개발하는 Mistral의 많은 경쟁자도 목록에 포함되었습니다.
MIT 교수이자 미래 생명 연구소 소장인 맥스 테그마크는 AFP와의 인터뷰에서 "특히 유럽이 실제로 AI 안전에서 선두를 달리고 있기 때문에 그들이 최하위를 기록한 것을 보고 매우 실망했습니다."라고 말했습니다. "우리는 여러 번 연락했지만" 미스트랄은 조직의 설문 조사에 응답하지 않았다고 그는 덧붙였습니다. 알리바바, xAI, 딥섹도 설문 조사에 응답하지 않았습니다.
보고서에 포함된 중국 AI 개발자 3명도 개방형 모델을 생산하고 있으며 순위표 하위 절반에 속합니다. DeepSeek(5위), Alibaba Cloud(6위), Z.ai(8위).
미래 생명 연구소 보고서는 이전에 군사 분야에서 기술 사용을 금지했던 일부 회사들이 Anthropic을 포함하여 "점차 관점을 바꾸고 있다"고 지적합니다.
보고서에 따르면 9개 회사 모두 "일반 인공 지능" 또는 AGI라고 불리는 인간 수준의 지능에 도달하는 모델을 추구하는 것과 같은 "현존하는" 위협에 대처하는 데 실패했습니다. "건설적인 노력"이 있었지만 광범위한 노력은 모두 "완전히 충분하지 않았습니다".
다른 위험에는 사이버 공격을 수행하거나 인간에게 해를 끼칠 수 있는 작업을 수행하기 위해 모델을 남용할 가능성이 포함됩니다.
Anthropic은 최근 Mythos 회사의 가장 강력한 AI 모델을 출시하여 주목을 받았습니다. 4월 초, 미국 샌프란시스코에 본사를 둔 이 회사는 악의적인 대상에 대한 사이버 보안 취약점을 감지하는 능력 때문에 소수의 신뢰할 수 있는 조직에 Mythos를 출시했습니다.
