인공 지능 회사인 Anthropic은 Glasswing이라는 사이버 보안 이니셔티브의 틀 내에서 회사에서 가장 강력한 시스템 중 하나로 평가되는 Mythos라는 새로운 AI 모델의 미리보기를 발표했습니다.
Anthropic에 따르면 Mythos는 현재 사이버 보안 방어 목적을 위해 소규모 파트너 그룹에만 제한적으로 제공됩니다.
Glasswing 프로젝트에는 Amazon, Apple, Microsoft, Cisco 및 CrowdStrike를 포함한 12개의 주요 조직이 참여합니다. 또한 약 40개의 다른 조직도 시험 접근 권한을 부여받을 것입니다.
사이버 보안에 대한 별도의 교육을 받지는 않았지만 Mythos는 내부 소프트웨어 시스템과 오픈 소스를 스캔하여 취약점을 감지하도록 배포되었습니다.
몇 주간의 테스트에서 이 모델은 수천 개의 제로데이 취약점을 발견했으며, 그 중 많은 심각한 오류가 10년에서 20년 동안 존재했습니다.
Mythos는 Anthropic의 Claude 생태계에 속하는 다기능 모델로, 향상된 프로그래밍 및 추론 능력이 특징입니다.
회사는 이것이 자동 에이전트 구축 또는 대규모 시스템 분석과 같은 복잡한 작업을 처리할 수 있는 AI 시스템 개발에 있어 중요한 진전이라고 밝혔습니다.
그러나 이러한 힘 자체도 우려를 불러일으킵니다. 이전에 유출된 문서에 따르면 Mythos(코드명 "Capybara")는 프로그래밍, 학술 및 사이버 보안과 같은 분야에서 이전 모델보다 훨씬 뛰어납니다.
이는 악당의 손에 넘어가면 AI가 취약점을 해결하는 대신 찾아 악용될 수 있음을 의미합니다.
Anthropic은 Mythos 사용에 대해 미국 연방 기관과 논의 중이라고 밝혔습니다.
그러나 감독 및 개인 정보 보호 문제와 관련된 회사와 정부 간의 법적 분쟁으로 인해 교환이 복잡해집니다.
Mythos 출시는 Anthropic이 몇 가지 보안 문제에 직면한 상황에서도 이루어졌습니다.
이전에는 인간 오류로 인해 이 모델에 대한 내부 문서가 유출되었습니다. 또한 회사는 클로드 코드 소프트웨어와 관련된 또 다른 사고에서 실수로 거의 2천 개의 소스 코드 파일과 50만 줄 이상의 코드를 유출하여 GitHub의 수천 개의 코드 저장소에 영향을 미쳤습니다.
여전히 많은 논란이 있지만 Anthropic은 Glasswing이 파트너가 실제 구현 경험을 공유할 때 기술 산업이 방어 능력을 향상시키는 데 도움이 될 것이라고 주장합니다.
그러나 Mythos는 점점 더 강력해지는 AI가 사이버 공간에서 "양날의 칼"이 되고 있다는 것을 분명히 상기시켜 줍니다.
