AI에 대한 신뢰가 약점이 될 때
ChatGPT, Claude 또는 Gemini라는 이름의 앱이 온라인에 등장했으며, 실제 제품과 거의 유사한 인터페이스를 가지고 있으며, 추가 기능이 있거나 무료로 사용할 수 있다고 광고됩니다. 새로운 인공 지능(AI) 도구를 빠르게 시도하고 싶은 사람의 경우 다운로드 및 설치는 몇 분 안에 완료될 수 있습니다.
그러나 그 친숙한 아이콘 뒤에는 인공 지능이 없을 수도 있습니다. Kaspersky GReAT 연구 그룹의 전문가들은 2026년에 약 92,000건의 가짜 AI 서비스 공격을 발견했습니다. 그중 49%는 ChatGPT를 사칭하여 45,000건 이상에 해당합니다. 18%는 Claude를 사칭하고 18%는 Gemini를 사칭합니다.
이 수치는 우려스러운 추세를 보여줍니다. AI를 신뢰하고 사용하는 사람이 많을수록 유명 AI 브랜드는 사이버 범죄자에게 더 매력적인 "미끼"가 됩니다.
악당이 기술적 취약점을 악용해야 하는 이전의 많은 공격 형태와 달리 AI 사칭은 사용자 심리를 직접적으로 타격할 수 있습니다. 익숙한 서비스의 이름을 보면 사용자는 해당 소프트웨어가 안전하다고 쉽게 가정하여 필요한 검사 단계를 건너뛸 수 있습니다.
보안 전문가들은 AI 에이전트 소프트웨어 형태로 위장된 15,000개 이상의 악성 코드 샘플을 발견했습니다. 여기에는 트로이 목마, 스파이웨어, 악성 코드, 악성 코드 다운로드 코드, 악성 코드 설치 코드 및 백도어 악성 코드가 포함됩니다. AI 도구의 외관을 벗어도 실제 기능은 여전히 유해한 행위를 수행하는 것입니다. 가짜 응용 프로그램을 한 번 다운로드하여 실행하면 사용자는 실수로 공격자에게 장치를 열어줄 수 있습니다.
첫 번째 위험은 데이터입니다.
컴퓨터와 휴대폰은 이제 사진이나 연락처만 저장할 수 없습니다. 직장인의 경우 장치는 업무 문서, 고객 정보, 이메일 계정, 기업 내부 데이터를 저장할 수 있습니다. 개인 사용자의 경우 비밀번호, 익명성 기록, 개인 파일 및 기타 민감한 정보가 있을 수 있습니다.
악성 코드가 장치에 설치되면 해당 데이터가 도난당할 위험이 있습니다. 더 위험한 것은 일부 악성 코드가 원격 액세스를 설정할 수 있다는 것입니다. 이는 공격자가 사용자가 AI 응용 프로그램만 설치했다고 생각한 시점 이후에도 계속 침입하여 장치를 제어할 수 있다는 것을 의미합니다.
위험은 개인에게만 국한되지 않습니다. 악성 코드에 감염된 컴퓨터가 기업에서 사용되는 장치인 경우 직원의 부주의한 조작이 더 큰 침입의 시작점이 될 수 있습니다.
보고서에 따르면 SilverFox 공격 그룹이 가짜 Claude 앱을 사용하여 조직에 침입한 사례가 있습니다. SilverFox는 여러 단계를 거쳐 악성 코드를 배포하고 탐지 가능성을 줄이기 위해 공격의 각 단계에 대한 자체 인프라를 구축하는 형태를 사용하는 강력한 APT 그룹 중 하나로 확인되었습니다.
이 그룹의 최근 캠페인은 여러 국가의 산업, 컨설팅, 상업 및 운송 분야의 기업을 대상으로 합니다. 사용되는 방법 중 하나는 "세금 위반 목록"이 포함된 것으로 추정되는 압축 파일을 다운로드하도록 받는 사람에게 요청하는 가짜 세금 검사 통지 이메일입니다. 2026년 첫 2개월 동안만 Kaspersky는 이 캠페인과 관련된 1,600건 이상의 악성 이메일을 기록했습니다.
주목할 만한 점은 공격자들이 신뢰를 구축하기 매우 쉬운 두 가지 요소를 결합하는 방법을 알고 있다는 것입니다. 공식적으로 보이는 텍스트와 널리 사용되는 AI 도구입니다.
수신자는 문서 처리 과정에서 Claude라는 이름의 앱이 나타나는 것을 의심하지 않을 수 있지만, 바로 그 "Claude"가 악성 소프트웨어일 수 있습니다.
문서에 인용된 보안 전문가에 따르면 아시아 태평양 지역은 SilverFox가 활발하게 활동하고 있으며, 공격 건수는 나머지 지역에서 기록된 총 건수를 훨씬 초과합니다. 이는 해당 지역의 사용자와 기업이 출처가 불분명한 AI 제품에 대해 특별히 주의해야 함을 더욱 보여줍니다.
다른 수준에서 AI는 악성 코드의 "피막이"로 사용될 뿐만 아니라 공격 과정 자체에 더 깊이 참여하기 시작합니다.
이는 새로운 과제를 제기합니다. 사용자는 점점 더 현실적으로 보이는 속임수뿐만 아니라 유연하고 자동화되고 감지하기 어려워질 수 있는 공격에 직면해야 합니다.
AI 브랜드가 보편화될수록 악용되기 쉬워집니다.
역설이 나타나고 있습니다. 즉, AI 플랫폼이 유명할수록, 더 많은 사람들이 사용할수록 브랜드 가치가 커집니다. 그러나 바로 그렇기 때문에 사이버 범죄자에게 이용당하기 쉽습니다.
사람이 이름 모를 낯선 앱을 보면 자연스러운 반사는 경계심일 수 있습니다. 그러나 해당 앱의 이름이 ChatGPT, Gemini 또는 Claude인 경우 경계 수준이 쉽게 떨어집니다.
Axios를 겨냥한 공격은 사이버 범죄자들이 많은 사람들과 기업들이 신뢰하는 소프트웨어 구성 요소를 표적으로 삼을 수 있음을 시사하는 문서에 언급되어 있습니다. Axios는 널리 사용되는 JavaScript 라이브러리로, 매주 1억 건 이상의 다운로드가 있으며 17만 개 이상의 소프트웨어 패키지에 통합되어 있습니다. 공격자는 프로젝트 담당자의 컴퓨터에 침입하여 소스 코드 저장소의 계정에 접근한 다음 악성 코드가 포함된 버전을 배포한 것으로 추정됩니다.
AI 에이전트가 소프트웨어 개발 프로세스에 점점 더 통합되고 더 많은 액세스 권한을 부여받는 환경에서 이 위험은 더욱 주목할 만합니다. 위조된 도구 또는 악성 코드가 설치된 구성 요소가 내부 리소스에 접근하는 경로가 될 수 있습니다.
편리함 때문에 검증 단계를 건너뛰지 마십시오.
AI의 가장 큰 매력은 편리성입니다. 그러나 더 빠르고, 더 무료 또는 더 많은 기능을 원하는 심리가 사용자를 함정에 빠뜨릴 수 있습니다.
우선 사용자는 이상한 링크, 이메일, 출처가 불분명한 광고 또는 공식 채널 외부에서 공유되는 설치 파일을 통해 배포되는 AI 소프트웨어에 주의해야 합니다. 앱이 유명 서비스의 올바른 이름과 로고를 사용한다고 해서 그것이 실제 제품이라는 의미는 아닙니다.
기업의 경우 요구 사항이 훨씬 더 높습니다. Kaspersky 전문가는 소프트웨어 개발에 사용되는 외부 콘텐츠와 내부 리소스 사이에 명확한 보안 경계를 설정해야 한다고 권장합니다. 동시에 통합 개발 환경뿐만 아니라 확장 유틸리티, 작업 공간 및 AI 에이전트에 부여된 권한도 제어해야 합니다. 기업은 또한 소프트웨어가 개발 환경에 도입되는 방법과 시스템에서 발생하는 활동을 모니터링하는 방법을 제어해야 합니다.
전문가들은 또한 위협을 적극적으로 감지하기 위해 AI 기술 자체를 사용하는 "AI 대 AI" 접근 방식을 제안했으며, 제로 트러스트 아키텍처 및 장치, 네트워크, 애플리케이션 및 데이터에 대한 포괄적인 방어 시스템과 결합했습니다.
AI는 사람들이 더 빨리 일하고 더 많은 새로운 기회를 열어주고 있습니다. 그러나 기술이 신뢰할수록 더 정교한 함정을 만들기 위해 악용될 가능성이 더 큽니다.
사용자에게 큰 위험은 때로는 AI를 사용하는 방법을 모르는 것이 아니라 AI라는 이름만 가진 것을 너무 믿는 것입니다. 가짜 소프트웨어를 설치하기 위한 클릭 한 번에 몇 초밖에 걸리지 않을 수 있습니다. 그 결과 데이터 손실, 장치 제어 권한 상실, 심지어 악당이 기업 시스템 전체에 침입할 수 있는 문을 여는 것까지 발생할 수 있습니다.
AI 시대에는 기술을 사용하는 방법을 아는 것이 필수적입니다. 그러나 자신이 사용하는 기술이 실제로 스스로 인정하는 것인지 확인하는 것은 똑같이 중요한 안전 기술이 되고 있습니다.
