친척"으로부터의 구조 요청 영상 통화, "상사"로부터의 긴급 송금 요청, 유명인의 투자 홍보 클립이 소셜 네트워크에 점점 더 많이 등장하고 있습니다. 이러한 콘텐츠의 공통점은 이미지와 음성이 모두 매우 사실적이어서 많은 사람들이 경각심을 잃고 함정에 빠진다는 것입니다.
AI 기술이 강력하게 발전하는 상황에서 딥페이크 생성 도구는 그 어느 때보다 접근하기 쉬워지고 있습니다. 페이스북의 몇 장의 사진, 틱톡 비디오 또는 공개 녹음만으로도 악당은 높은 수준의 사실성을 가진 가짜 비디오와 음성을 만들 수 있습니다.
이 문제에 대해 노동 신문과 인터뷰에서 사이버 보안 전문가 응오 민 히에우(히에우 PC)는 현재 가장 큰 위험은 많은 사람들이 여전히 "눈으로 보고 귀로 듣는 것"이 진실과 같다고 믿는 것이라고 말했습니다. 반면에 AI는 직접 통화에서 얼굴, 목소리, 표정 및 배경을 위조할 수 있게 되었습니다.
이 전문가에 따르면 딥페이크 사기 사건의 목표는 돈뿐만 아니라 피해자의 신뢰도도 겨냥하는 것입니다. 딥페이크는 사고, 응급 상황, 계정 잠금 또는 OTP 인증 요청과 같은 긴급 상황에서 피해자의 공황 심리를 이용하여 정보를 확인할 틈도 없이 행동하게 만듭니다.
오늘날 흔한 시나리오 중 하나는 친척을 사칭하여 돈을 빌리는 것입니다. 사기꾼은 소셜 네트워크에서 데이터를 수집하고, 가짜 목소리나 비디오를 만들고, 심리적 압박을 가하기 위해 긴급한 이야기를 만듭니다. 많은 피해자들이 "정확한 얼굴, 정확한 목소리, 정확한 말투" 때문에 신뢰합니다.
개인뿐만 아니라 딥페이크도 기업에 위험이 되기 시작했습니다. 히에우 PC는 자금 이체를 요청하거나 내부 문서를 보내기 위해 리더의 목소리를 흉내내는 많은 사례가 전 세계에 나타났다고 경고했습니다. 심지어 일부 직원은 딥페이크 비디오 회의에 참석한 후 이상 징후를 발견하지 못한 채 수백만 달러를 이체하기도 했습니다.
금융 투자 분야도 강력하게 악용되고 있습니다. 유명인 이미지, KOL을 사용하여 암호화폐, 수익 창출 애플리케이션 또는 투자 펀드를 홍보하는 많은 비디오가 소셜 네트워크에서 확산되고 있습니다. 히에우 PC에 따르면 유명인이 비디오에 등장한다고 해서 그들이 실제로 참여하거나 해당 제품을 확인하는 것은 아닙니다.
딥페이크는 점점 식별하기 어려워지고 있지만 전문가들은 여전히 입 모양이 말과 일치하지 않거나, 눈빛이 부자연스럽거나, 빛이 배경과 맞지 않거나, 목소리가 고르고 감정이 부족한 것과 같은 몇 가지 비정상적인 징후가 있다고 말합니다. 그러나 히에우 씨는 사용자가 가짜를 감지하기 위해 육안에만 의존해서는 안 된다고 강조합니다.
히에우 PC는 "가짜인지 보는 것에서 그 요구 사항이 합리적인지 보는 것으로 초점을 전환하십시오."라고 권장합니다.
이에 따라 송금 요청, OTP 제공 또는 비디오 통화를 통한 중요한 정보를 받으면 사용자는 몇 초 동안 멈춰서 다른 채널로 확인하고, 익숙한 번호로 다시 전화하거나, 실행하기 전에 관련자에게 직접 연락해야 합니다.
