기술 회사들이 제품에 AI 브라우저 에이전트를 도입하기 위해 경쟁하는 가운데 새로운 보안 위험에 대한 경고가 점점 더 우려스러워지고 있습니다.
해커가 웹사이트에 악성 지시를 숨겨 AI가 불법 행위를 수행하도록 제어하는 간접 알림을 삽입하는 공격은 빠르게 부상하는 위협으로 평가됩니다. 이러한 현실에 직면하여 Google은 Chrome 사용자를 보호하기 위한 새로운 조치를 발표했습니다.
최근 Google은 특별한 보안 계층인 PCI를 사용하여 Chrome을 업그레이드하고 있다고 발표했습니다. 그중에서도 User Alignment Critic이라는 크고 독립적인 언어 모델이 주목할 만합니다.
이 모델은 신뢰할 수 없는 웹 콘텐츠와 완전히 분리되어 작동하며 AI 브라우저 에이전트가 제안하는 모든 작업을 검사하는 임무를 수행합니다.
비정상적인 징후가 감지되면 모델은 즉시 거부하고 조정을 요청합니다. 이것은 AI가 정교한 삽입 명령에 속을 위험에 대한 첫 번째 방패로 간주됩니다.
이러한 움직임은 Google이 미국 사용자용 브라우저에 Gemini 챗봇을 도입한 후 Chrome이 AI Camera 지원 기능을 통합하는 테스트를 진행하는 동안 이루어졌습니다.
눈 감시 AI 계층 외에도 구글은 AI 에이전트의 상호 작용 범위를 임무와 직접 관련된 페이지 또는 허용된 사용자 목록에만 국한하는 원산지 분리(origin OTT) 기능을 구현했습니다.
Google은 새로운 방어 계층이 다층 전략을 따르고 있다고 밝혔습니다. 다층 전략에는 민감한 작업에서 사용자의 수동 확인 요청 gia 실시간 위협 감지 시스템 gia 및 브라우저의 내구성을 지속적으로 확인하기 위한 시뮬레이션 공격 인프라가 포함됩니다.
또한 Chrome은 간접 공격 위험을 감지하기 위해 열려 있는 모든 웹사이트를 스캔하기 위해 알림 삽입 분류기를 작동합니다.
이러한 업데이트는 간접 삽입 공격의 위험 수준을 보여주는 최근 연구에서 비롯되었습니다.
이전에는 브레이브 보안 전문가들이 퍼플렉시티 브래드의 코멧 에이전트에서 해커가 AI 브라우저를 장악하고 이메일이나 은행 정보와 같은 민감한 데이터에 액세스할 수 있는 취약점을 발견했습니다.
Google의 새로운 AI 에이전트 개발 플랫폼인 Antigravity,조차도 이 유형의 공격에 취약한 것으로 밝혀졌습니다.
구글에 따르면 크롬의 새로운 방어층은 세 가지 주요 구성 요소로 구성됩니다. 사용자 격리 크리틱 브릿지(제한된 사용자 기원 집합) 사용자 제어 브릿지 모니터링 시스템(브릿지 제어).
이 세 가지 메커니즘은 무단 거래 또는 데이터 도난을 유발하는 명령 숨김 악성 코드가 포함된 iframe 또는 웹사이트를 통해 AI 에이전트가 제어될 가능성을 최소화하는 목표와 결합됩니다.
커뮤니티 참여를 장려하고 AI60 생태계의 안전을 강화하기 위해 Google은 Chrome의 새로운 보안 계층과 관련된 취약점 발견에 대해 최대 20 000 USD의 보상금을 발표했습니다.
이 기술 대기업은 잠재적인 위험이 완전히 새로운 세대의 사이버 공격을 일으킬 수 있기 때문에 AI 핵 샘플 보안이 최우선 순위라고 주장합니다.
