미국의 유명 기술 잡지 WIRED,에 따르면 최근 보안 연구원 그룹이 인공 지능(AI)이 스마트 홈 장치에 통합될 때 잠재적인 위험에 대한 경고를 목표로 대담한 실험을 수행했습니다.
그들은 스마트 홈에서 전등을 끄고 전기 장치를 제어하는 구글 최고의 AI 챗봇인 구글 제미나를 장악하는 방법을 찾아냈습니다.
WIRED,에 따르면 세 연구원은 전기 장치 상태를 변경해야 하는 숨겨진 지침이 있는 Google Calendar의 초대를 '전염'시키는 데 성공했습니다.
제미니가 은행 업무 일정을 요약하라는 요청을 받았을 때 이러한 명령이 실수로 은행을 활성화하여 은행 조명이 꺼지게 되었고 이는 원격 조작 가능성을 분명히 보여줍니다.
이것은 생성형 AI 시스템이 환경과 물리적 장치에 영향을 미치는 데 악용되었을 때 이 유형의 첫 번째 공격으로 간주됩니다.
nesInvitation is All You Needoth라는 프로젝트는 또한 AI 에이전트 로봇 컨트롤 IoT 장치 자율 주행차 등을 통해 대규모 언어 모델(LLM)이 현실 세계와 점점 더 밀접하게 연결되는 위험을 강조합니다.
텔아비브 대학교(이스라엘):의 연구원 중 한 명인 Ben Nassi는 다음과 같이 경고했습니다. 'LLM은 곧 자율 주행차 인간형 로봇형 로봇에 탑재될 것입니다... 효과적인 보안 메커니즘이 없다면 그 결과는 개인 정보 보호 문제가 아니라 생명의 안전에 대한 위협이 될 수 있습니다.
Google 측은 2월부터 이 취약점에 대해 통보받았다고 확인했습니다. Google 대변인 Andy Wen은 현재 취약점이 해커에 의해 악용되었다는 징후는 없지만 회사는 향후 유사한 공격을 방지하기 위해 패치 및 방어 강화 조치를 긴급히 구현하고 있다고 말했습니다.
이 사건은 AI가 단순한 도구일 뿐만 아니라 특히 인간의 실제 삶과 점점 더 밀접하게 관련되어 있는 상황에서 엄격하게 통제되지 않으면 위협이 될 수 있다는 강력한 알림입니다.
