AI, 사칭 사기 적발
3월 11일(현지 시간) 발표에 따르면 Meta는 사기꾼들이 유명인, 브랜드 또는 평판 좋은 조직을 사칭하여 사용자를 속이는 등 더 정교한 수법을 사용하고 있다고 밝혔습니다.
이로 인해 회사는 AI 응용 프로그램을 확대하고 사기 행위를 조기에 발견하고 예방하기 위해 법 집행 기관과의 협력을 강화해야 합니다.
Meta는 새로운 AI 시스템이 유명인의 이미지를 이용하거나 브랜드를 사칭하는 사기를 탐지하도록 설계되었다고 밝혔습니다.
시스템은 텍스트 내용, 이미지, 계정 동작 및 관련 맥락과 같은 다양한 요소를 분석합니다.
데이터 신호를 종합함으로써 AI는 가짜 팬 표현, 오해를 불러일으키는 약력 정보 또는 공인과의 비정상적인 관계와 같은 의심스러운 징후를 식별할 수 있습니다.
이 기술은 또한 사기 링크와 가짜 도메인 이름을 감지하는 데 도움이 됩니다. 이러한 웹사이트는 일반적으로 사용자에게 개인 정보 또는 재정 데이터를 제공하도록 유도하기 위해 합법적인 플랫폼과 유사하게 설계됩니다.
Meta에 따르면 새로운 시스템은 이전보다 더 많은 사기 행위를 감지하는 데 도움이 되며 온라인 환경에서 위조 위험으로부터 수천 개의 브랜드를 보호하는 데 기여합니다.
앱에서 안전 경고 증가
서버 측 탐지 도구와 함께 Meta는 또한 자체 애플리케이션에서 많은 안전 경고를 직접 테스트하고 있습니다.
페이스북에서 회사는 의심스러운 친구 요청에 대한 경고를 테스트하고 있습니다. 초대를 보낸 계정에 공통 친구가 거의 없거나 실제 위치와 다른 국가를 기재하는 등 이상 징후가 있는 경우 시스템은 사용자가 수락하기 전에 고려할 수 있도록 알림을 표시합니다.
한편, WhatsApp은 계정 탈취를 방지하기 위해 경고를 추가할 것입니다.
현재 흔한 수법은 사용자를 속여 인증 코드를 입력하거나 QR 코드를 스캔하여 계정을 범인의 장치에 연결하는 것입니다. 새로운 시스템은 의심스러운 요청을 감지하고 즉시 경고합니다.
페이스북 메신저에서 메타는 또한 AI를 이용한 사기 탐지 기능을 더 많은 국가로 확장했습니다.
이 도구는 의심스러운 구직 제안이나 가짜 투자 제안과 같은 일반적인 사기 패턴을 플래그 지정할 수 있으며, 사용자가 계정을 차단하거나 보고하기로 결정하기 전에 AI가 분석할 수 있도록 가장 최근 대화를 보낼 수 있도록 허용합니다.
광고 강화 및 법 집행 협력
메타는 사기 적발 외에도 광고주 확인 프로세스를 확대하고 있습니다. 회사는 2026년 말까지 확인된 광고주가 광고 수익의 약 90%를 차지하는 것을 목표로 하고 있으며, 이는 현재 70%에서 증가한 수치입니다.
Meta는 법 집행 기관과의 협력이 여전히 사기 방지 전략의 중요한 부분이라고 강조합니다.
2025년에 회사는 플랫폼에서 1억 5,900만 개 이상의 사기 광고를 제거했으며, 그 중 92%는 사용자가 보고하기 전에 발견되었습니다.
메타는 또한 사기 센터와 관련된 페이스북과 인스타그램에서 1,090만 개의 계정을 삭제했습니다.
