진짜와 가짜의 경계가 지워지고, 사용자가 딥페이크의 표적이 되었습니다.
국가 사이버 보안 협회가 실시한 2025년 개인 사용자 지역 사이버 보안 조사 연구 보고서에 따르면 약 555명 중 1명이 사기 피해자입니다.
흥AI 크리에이티브의 전문가인 부주이흥 씨는 딥페이크가 인공 지능 시대의 가장 심각한 과제 중 하나가 되고 있다고 말했습니다. 왜냐하면 진실과 거짓 사이의 경계가 점점 흐려지고 있기 때문입니다. 이미지, 음성에서 비디오에 이르기까지 현재 AI 도구는 높은 진정성, 접근성 및 육안으로 구별하기 매우 어려운 가짜 콘텐츠를 만들 수 있게 해줍니다.
국가 사이버 보안 협회에 따르면 2025년 1분기에만 딥페이크 사기로 인한 전 세계 총 피해액이 2억 달러에 달했으며, 공격 빈도는 5분마다 1건입니다.
실제 기록에 따르면 딥페이크를 이용한 사기 수법은 더 이상 경고 수준에 머무르지 않고 피해자의 심리를 정확히 파악하는 매우 구체적인 시나리오로 나타났습니다.
하노이의 한 회사 회계사인 응우옌 투 람 씨(32세)는 2025년 11월 말에 회사 대표 사진과 이름이 회사 임원과 똑같은 계정에서 텔레그램 앱을 통해 영상 통화를 받았다고 회상했습니다. 통화에서 이 사람은 얼굴과 목소리가 자신의 상사와 매우 흡사한 모습으로 나타나 외국 파트너와의 계약을 처리하기 위해 3억 7천만 동을 급히 이체하라고 요구했습니다.
“그는 재빨리 말하고 매우 안절부절못하며 다른 부서를 방해하지 말라고 요구했습니다. 이미지와 목소리가 너무 비슷해서 의심할 여지가 없었습니다.”라고 하 씨는 회상했습니다. 돈을 이체하고 이사의 개인 전화번호로 다시 전화했을 때 비로소 사기를 당했다는 것을 깨닫고 충격을 받았습니다.
또 다른 사례가 박닌에서 발생했습니다. 사업장 주인인 따꽝한 씨(45세)는 중국에서 유학 중인 아들과 똑같은 목소리로 낯선 번호로부터 전화를 받았다고 말했습니다. 이 사람은 사고를 당했고 병원비를 내기 위해 1억 5천만 동을 급히 이체해야 한다고 말했습니다.
목소리가 떨리고, 가족 내 호칭이 정확해서 조금도 의심하지 않았습니다. 저는 돈을 이체한 후에야 비디오를 통해 아이에게 다시 전화했고, 아무 일도 없다는 것을 알게 되었습니다."라고 한 씨는 회상했습니다.
AI 전문가이자 AIZ 개발 책임자인 부탄탕에 따르면, 가짜 이미지, 음성, 비디오를 사용하는 사기는 딥페이크의 징후일 수 있습니다. 이 기술은 높은 진정성을 가지고 사람을 재현하여 피해자가 인식하기 어렵게 만듭니다. 시간 압박 시나리오, 지인 또는 권한 있는 사람 사칭 시나리오를 결합하면 딥페이크는 기술에 정통한 사람들까지 속일 수 있는 특히 위험한 사기 도구로 변질되는 데 이용됩니다.
이러한 사건의 공통점은 범죄자들이 소셜 네트워크에서 이미지 및 음성 데이터를 수집한 다음 AI 도구를 사용하여 개인화된 사기 시나리오를 구축하는 경향이 있다는 것입니다.
딥페이크는 또한 조회수를 높이기 위해 비디오, 이미지를 만들고, 상품을 판매하고, 유명인을 사칭하고, 잘못된 발언을 편집하여 이익을 취하는 데 이용됩니다. 실제로 딥페이크는 점점 더 정교해지는 수준으로 삶에 스며드는 실존적인 위험이 되었습니다.
딥페이크 제품 배후 기술 플랫폼으로 통제 강화
쩐반선 국립 디지털 기술 및 디지털 전환 연구소(과학기술부) 부소장은 현재 대부분의 생성형 AI 시스템은 사용자에게 혼란을 야기하거나 부정적인 영향을 미치는 콘텐츠를 생성할 가능성이 있기 때문에 중간 위험 그룹으로 분류된다고 밝혔습니다. 이것은 또한 딥페이크 제품 뒤에 있는 기술 플랫폼이며, 높은 진정성을 가진 가짜 이미지, 사운드 및 비디오를 생성하여 사기 및 법률 위반 행위에 이용될 위험을 증가시킵니다.
AI법(2026년 3월 1일부터 효력이 발생하는 인공 지능법)은 문제 발견, 시정 기술 조치 적용, 심지어 필요한 경우 시스템 일시 중지 또는 회수에 대한 관련 주체의 책임을 명확히 규정합니다. 공급업체와 구현 단위는 또한 사용 목적, 작동 원리 및 위험 관리 조치에 대해 관할 당국에 설명해야 합니다.
주목할 만한 점은 법률이 딥페이크 기술을 사용하여 사기 또는 법률 위반을 하는 행위를 엄격히 금지한다는 것입니다. 생성된 AI 시스템은 AI가 생성하거나 편집한 콘텐츠에 대해 라벨을 부착해야 하며, 관리 및 추적 작업을 위해 식별 솔루션을 적용해야 합니다. 위험 통제 요구 사항을 충족하지 못하는 경우 시스템은 고위험군으로 분류되어 더 엄격한 감시를 받을 수 있습니다.
쩐반선 씨는 딥페이크를 사용하여 아동을 성폭행하거나 사회 질서를 어지럽히는 것과 같은 심각한 위반 행위에 대해 관련 개인 및 조직은 행정 처벌뿐만 아니라 형사 책임을 물을 수 있으며 법률 규정에 따라 손해 배상을 해야 한다고 강조했습니다.
법적 관점에서 XTVN 유한 법률 회사의 부국장인 쩐테안 변호사는 딥페이크에 대한 별도의 죄목은 없지만 이 기술을 악용하는 행위는 여전히 현행 규정에 따라 처리될 수 있다고 말했습니다.
딥페이크를 사용하여 재산을 횡령하는 행위는 2015년 형법(2017년 개정) 제174조에 따라 재산 사기죄로 처벌될 수 있으며, 최고 형량은 무기징역입니다. 가짜 콘텐츠를 유포하여 조직이나 개인에게 영향을 미치는 경우 형법 제288조 또는 제155조에 따라 처벌될 수 있습니다.
형사 책임 추궁 수준에 이르지 않은 경우, 위반자는 법령 15/2020/ND-CP(2022년 수정 및 보완)에 따라 온라인에서 허위 정보를 제공하고 공유하는 행위에 대해 1천만 동에서 2천만 동의 벌금형에 처할 수 있습니다.
변호사는 국민들에게 사이버 공간의 비정상적인 콘텐츠, 특히 급한 송금 요청 전화나 비디오에 대한 경각심을 높일 것을 권장합니다. 사기 함정에 빠지지 않으려면 여러 독립적인 채널을 통해 정보를 확인하는 것이 필요합니다.
또한 사용자는 개인 사진이나 비디오를 소셜 네트워크에 함부로 공유해서는 안 됩니다. 왜냐하면 이것은 악의적인 대상이 사기 목적으로 딥페이크 제품을 만들 수 있는 입력 데이터가 될 수 있기 때문입니다. 비정상적인 징후가 발견되면 처리 지원을 받기 위해 즉시 기능 기관에 신고해야 합니다.
