소셜 네트워크의 폭발적인 발전과 인공 지능(AI)의 발전 속도는 많은 편의를 제공했지만 동시에 기술 남용 행위가 점점 더 정교해지는 조건을 만들었습니다.
그중에서도 가장 우려스러운 것은 AI와 딥페이크 기술이 유명인을 사칭하여 이익을 취하고 사기를 치고 허위 정보를 유포하는 데 사용된다는 것입니다.
이 문제는 최근 많은 베트남 예술가들에게 악몽이 되고 있습니다.
많은 베트남 예술가들이 이런 방식으로 이미지를 악용당한 것에 대해 목소리를 높였습니다. 가장 최근에 응오탄반은 AI가 그녀의 목소리를 사칭하여 그녀가 호화로운 저택을 소유하고 있다는 이야기를 꾸며내고 가짜 제품 광고에 참여했다는 긴급 공지를 게시해야 했습니다.
여배우는 '저는 많은 광고 페이지와 소셜 네트워크의 일부 콘텐츠가 이미지 이름 심지어 AI까지 제 목소리를 가짜로 만들어 사실이 아닌 이야기에 연결하는 것을 봅니다. 제가 호화로운 빌라 부유한 재산을 소유하고 있다고 날조하는 것부터 제가 사용하거나 협력한 적이 없는 제품에 저를 연결하는 것까지 말입니다.'라고 말했습니다.
이러한 잘못된 정보는 개인의 명예에 영향을 미칠 뿐만 아니라 관객들이 오해하게 만들고 믿음을 잃게 만들고 심지어 제가 전혀 광고하거나 보증하지 않은 제품을 잘못 구매하게 만듭니다. 이것은 저를 정말 슬프게 합니다.
응오탄반은 다른 사람들이 오해를 받거나 품질이 낮은 제품을 구매하도록 속는 것을 피하기 위해 시청자들에게 가짜 콘텐츠를 신고해 달라고 요청했습니다.
응오탄반(Ngo Thanh Van)뿐만 아니라 미땀(My Tam)도 딥페이크(AI 음성 얼굴 가짜 기술)의 피해자입니다. 11월 9일 저녁 소속사는 여성 가수가 공식 채널 외에 어떤 작품도 대표하지 않는다고 주장해야 했습니다.
미땀 대표는 “예술가의 이미지와 목소리를 불법적인 상업적 목적으로 사용하는 것은 불법입니다. 우리는 플랫폼 및 기능 기관과 협력하여 처리하고 있습니다.”라고 강조했습니다.
BTV 호아이안도 증권 투자를 유치하기 위해 그녀를 사칭한 가짜 페이스북 계정이 만들어졌습니다. 배우 한투이는 동료에게 돈을 빌리기 위해 사칭당해 당국에 신고해야 했습니다.
한편 브라 호아 민지는 여러 차례 사칭 상황에 직면했습니다. 11월 초 여가수는 자신의 이미지를 사용하여 허위 광고를 실행하는 웹사이트에 대해 다시 경고했습니다. 이전에는 브라 4월에 한 개인이 하롱에서 가짜 공연 계약을 체결하기 위해 그녀의 매니저를 사칭하기도 했습니다.
람쯔엉(Lam Truong) 쩐탄(Tran Thanh) 브라(Va) 판만뀐(Phan Manh) 브라(Quynh) 칵비엣(Khac Viet) 브라(Bria)와 같은 많은 예술가들도 사기성 비디오를 만들기 위해 브라(Bria) 음성 이미지를 사용했는데 이는 이 문제의 확산 정도를 보여줍니다.
2024년 통계에 따르면 베트남의 온라인 사기 피해액은 약 18조 9천억 동에 달합니다. 국제 보고서에 따르면 딥페이크는 전체 사기 건수의 약 6~5%를 차지하며 이 비율은 3년 동안 2137% 증가했습니다. 이는 경각심을 불러일으키는 수치입니다.
당국은 사이버 범죄자들이 점점 더 진짜처럼 보이는 가짜 비디오를 만들기 위해 딥페이크 브라 딥보이스(가짜 음성) 기술 응용을 강화하고 있으며 이는 육안으로 확인하기 어렵다고 경고합니다.
AI가 단 몇 초 만에 '신원을 훔칠' 수 있는 상황에서 사용자는 특히 경계해야 합니다. bat는 예술가의 공식 채널 정보만 믿어야 합니다. bat는 돈을 이체하거나 제품을 구매하기 전에 게시 출처를 주의 깊게 확인하고 bat는 확산을 제한하기 위해 의심스러운 콘텐츠를 즉시 보고해야 합니다.
