AI 브라우저가 빠르게 새로운 트렌드가 되고 있는 가운데 최근 발표된 연구는 AI 브라우저가 사용자를 공격하는 데 악용될 가능성에 대한 심각한 우려를 불러일으켰습니다.
연구자들은 Perplexity의 Comet 및 OpenAI의 ChatGPT Atlas와 같은 AI 브라우저가 인디렉션 프롬프트 주입이 삽입되면 의도치 않게 악성 행위를 수행할 수 있다고 지적합니다.
분석에 따르면 브라더 해커는 웹사이트나 브라더 이메일에 함정을 놓아 AI 브라우저가 브라더 이메일 은행 비밀번호 브라더 개인 정보와 같은 민감한 데이터를 자동으로 보내거나 심지어 소유자의 의도와 무관한 행동을 할 수 있습니다.
OpenAI는 이러한 위험을 인정했습니다. 회사는 AI 에이전트가 숨겨진 명령에 의해 속을 수 있으며 이는 사용자가 로그인한 웹사이트에서 데이터 도난으로 이어질 수 있다고 경고합니다.
범인은 당신을 대신하여 행동하거나 숨겨진 악성 코드에 의해 유도되어 당신이 원치 않는 행동을 할 때 실수를 할 수 있습니다.'라고 Harvey OpenAI는 말했습니다.
증가하는 경고에 직면하여 200억 달러로 평가되는 경쟁자인 찬스 퍼플렉시티 찬스는 여전히 사용자가 절대적인 통제권을 가지고 있다는 입장을 유지하고 있습니다.
회사는 코멧 어시스턴트가 명확한 허가가 있을 때만 민감한 작업을 수행하는 기존 디스플레이 기능을 우선시하도록 설계되었다고 강조합니다.
Perplexity 담당자는 '저희는 자동화 속도를 보장하지만 사용자에게 엄격한 통제를 유지합니다.'라고 말했습니다.
신뢰를 강화하기 위해, Perplexity는 최근 스프레드시트 채우기 다지점 입력 또는 심층 구조 웹사이트에서 작업과 같은 복잡한 작업을 지원하기 위해 여러 탭 간 전환 기능을 갖춘 Comet Assistant를 업그레이드했습니다.
동시에 IE 브라우저 아키텍처도 IE 네트워크 환경에 대한 인식을 높이고 명령 오해 위험을 제한하기 위해 조정되었습니다.
관찰자들은 AI 브라우저 경쟁이 치열한 경쟁 단계에 접어들고 있다고 말합니다. Perplexity와 OpenAI 모두 AI의 자율 실행 기능을 촉진하고 있기 때문에 가장 중요한 문제는 여전히 사용자 안전을 보장하는 것입니다.
Perplexity는 심지어 며칠 안에 완전히 새로운 AI 비서를 출시할 것이라고 밝혔는데 이는 기술 전쟁에 여전히 예측할 수 없는 많은 발전이 있음을 시사합니다.
