AI를 이용한 신원 위조에 대한 우려
생성형 AI(GenAI)의 폭발적인 성장은 가짜 뉴스 및 딥페이크 생성 능력을 새로운 차원으로 끌어올려 현실과 가상 사이의 경계를 매우 희박하게 만들었습니다. AI(인공 지능)는 단순한 이미지 편집에 그치지 않습니다. 이 기술은 몇 초의 샘플 데이터에서 음성을 위조하고 얼굴 표정, 입술 움직임이 소리와 완전히 일치하는 사기성 비디오를 만들 수 있습니다.
예측에 따르면 2026년에는 온라인 콘텐츠의 최대 90%가 AI에 의해 생성될 수 있습니다. 세계 경제 포럼의 2026년 글로벌 리스크 보고서는 또한 허위 정보와 왜곡된 정보를 AI 시대의 향후 2년 동안 두 번째로 큰 위협으로 분류했습니다.
베트남에서 AI로 인한 가짜 뉴스 및 사기 문제로 인한 경제적 피해는 더 이상 이론적인 수치가 아닙니다. 공안부와 국가 사이버 보안 협회의 통계에 따르면 2025년 첫 11개월 동안 베트남의 온라인 사기 총 피해액은 6조 동에 달하는 것으로 추정됩니다.
베트남의 사이버 보안 기술 솔루션인 ManageEngine의 성장 부서 책임자인 제이 레디에 따르면 AI를 이용한 신원 위조 기술은 기존 생체 인식 인증 시스템에 대한 신뢰 위기를 야기하고 있습니다. 이전에는 얼굴 특징이나 목소리와 같은 생체 인식 요소가 가장 불변하고 위조하기 어려운 "열쇠"로 여겨졌습니다.
그러나 GenAI의 등장으로 이러한 고유한 특성은 조작되거나 완전히 복사될 수 있는 데이터로 바뀌었습니다. 전자 식별 시스템(eKYC)은 사이버 범죄자가 생명체 탐지(liveness detection) 검사 레이어를 통과하기 위해 정교한 도구를 사용할 때 침해 위험에 직면해 있습니다. 이로 인해 컴퓨터는 AI가 재현한 비디오와 실제 사람 사이를 거의 구별할 수 없으며 지연률은 거의 0입니다.
해결책
사이버 보안 문제에서 AI의 강점을 최적화하기 위해 ManageEngine 전문가들은 베트남의 디지털 신원 관리에 대한 4가지 솔루션을 제안했습니다. 이는 기업의 사이버 보안에 중요한 문제입니다.
안전한 디지털 식별에 대한 표준 프레임워크 구축: 베트남은 누가 액세스 권한을 가지고 있는지, 그리고 그 권한으로 무엇을 할 수 있는지에 대한 지속적인 표시 기능을 제공하는 기본 식별 구조를 구축하기 위한 기술 표준을 신속하게 완료해야 합니다.
위협에 대한 정보 공유 모델 촉진: 기업과 정부 기관은 최신 AI 공격 모델에 대한 정보를 실시간으로 공유하는 네트워크를 형성해야 합니다. 집단적 힘은 범죄자가 악성 코드를 변경하는 속도보다 빠르게 초국가적 AI 사기 작전을 식별하고 방지할 수 있게 해줄 것입니다.
내부에서 AI 사용 관리: AI 보안은 외부 위협에 대한 방어일 뿐만 아니라 조직은 AI 도구의 적용, 모니터링 및 제어 방법을 결정하기 위해 내부 관리 프레임워크를 구축해야 합니다.
디지털 인간"에 대한 투자: 가장 중요한 권장 사항은 전문가 팀과 최종 사용자 모두의 정보 평가 능력을 향상시키는 것입니다. 기술이 공격의 99%를 막을 수 있지만 나머지 1%는 인간의 경계에 달려 있습니다. AI 요인은 인간의 엄격한 감시가 있을 때만 신뢰할 수 있습니다.
