미국 국무부는 미국 언론이 발표한 내부 메모에서 폭로된 바에 따르면 전 세계 미국 대사관에 경고를 발령했습니다.
사건은 6월 중순에 시작되었는데 용의자가 암호화된 메시지 앱인 Signal,를 사용하여 가짜 주소 'marco.rubio@state.gov Do'로 계정을 등록한 다음 마르코 루비오의 목소리와 문체를 정확하게 모방한 AI로 만든 문자 메시지와 음성 메시지를 최소 3명의 외국 외무장관 미국 상원의원 주지사에게 보냈습니다.
미국 관리는 메시지가 '너무 정교하지 않다'고 말했고 목적을 달성하지 못했습니다. 그러나찬은 미국 대사관에 보낸 각서에서 외교부는 찬가 사칭 작전이 미국 국무부의 네트워크 보안 시스템에 직접적인 해를 끼치지 않는다고 경고했습니다. 찬가 속은 사람들이 그것이 진짜라고 믿고 제3자 찬가와 정보를 공유하면 정보가 유출될 위험이 있습니다.
미국 국무부 대변인 태미 브루스는 7월 8일 이 사건을 확인하면서 국무부가 문제를 모니터링하고 처리하고 있다고 밝혔습니다. 그녀는 '우리는 정보 보호 책임에 대해 진지하며 미래의 사건을 방지하기 위해 사이버 보안 시스템을 지속적으로 개선하고 있습니다.'라고 강조했습니다.
미국 당국이 AI 남용 행위에 직면한 것은 이번이 처음이 아닙니다. 5월에 연방수사국(FBI)은 AI로 가상 음성을 사용하여 미국 고위 관리를 사칭하는 '유해한 대상'에 대해 경고했습니다. 경고는 수지 와일즈 백악관 비서실장의 전화가 해킹되어 그녀의 연락처로 수많은 가짜 전화와 메시지가 전송된 사건 이후에 나왔습니다.
이번 사건은 심각한 결과를 초래하지는 않았지만 인공 지능 기술이 외교 안보 분야에서 만들 수 있는 허점에 대한 큰 우려를 불러일으켰습니다.
