이는 글로벌 사이버 보안 및 디지털 보안 기업인 카스퍼스키가 최근 발표한 중요한 발견 중 하나입니다.
Kaspersky의 중동 터키 아프리카 및 아시아 태평양 지역 담당 글로벌 연구 및 분석 그룹(GReAT) 책임자인 세르게이 로즈킨은 2015년부터 ChatGPT가 2023년까지 전 세계적으로 보편화된 이후 그들의 사이버 보안 전문가들은 비디오 제작과 같은 일반적인 작업부터 위협 탐지 및 분석과 같은 기술적 작업에 이르기까지 다양한 목적으로 AI(인공 지능)를 유용하게 적용하는 것이 급증했다고 강조했습니다.
그러나 찬란한 시대는 반대로 악당들도 AI를 이용하여 사이버 공격 능력을 향상시키고 있습니다. '우리는 AI가 방어를 위한 방패 역할을 하는 사이버 보안 및 사회의 새로운 시대로 접어들고 있습니다. 찬란한 시대는 AI가 사이버 공격에서 위험한 무기로 변합니다.'라고 세르게이 로즈킨은 말했습니다.
다크 AI는 악성 비윤리적 또는 불법 목적을 위해 완전한 시스템 또는 챗봇 기반에 국한되지 않는 대규모 언어 모델(LLM)을 로컬 또는 원격 수준에서 배포하는 것을 의미합니다.
이러한 시스템은 엄격한 감독 없이 브리더 사기 브리더 조작 사이버 공격 또는 데이터 마이닝과 같은 행위를 수행할 수 있도록 하는 브리더 안전 브리더 관리 준수 및 제어 규범 외부에서 작동합니다.
로즈킨은 현재 AI 남용의 가장 일반적인 형태는 2023년 중반부터 등장한 블랙햇 GPT 얼라인먼트 모델의 등장이라고 말했습니다.
이것들은 불법적인 부도덕한 목적을 위해 특별히 개발되거나 조정된 AI 모델입니다. 예를 들어 부도덕한 악성 코드 생성 유창하고 설득력 있는 방식으로 피싱 이메일 작성 대규모 공격과 특정 목표를 겨냥한 공격 모두에 사용 가짜 음성 생성 및 딥페이크 비디오 등입니다.
블랙햇 GPT는 완전 또는 비공개 AI 모델 형태로 존재할 수 있으며 사이버 범죄 사기 및 악성 자동화 활동을 지원하도록 설계되었습니다.
조직이 Dark AI,의 위협에 대한 방어 능력을 강화하는 데 도움이 되도록 사이버 보안 전문가들은 다음과 같이 권장합니다.
- AI가 생성한 악성 코드를 탐지하고 공급망의 위험을 제어하기 위해 차세대 보안 솔루션을 사용합니다.
- AI가 제어하는 취약점 악용 행위를 감시하기 위해 실시간 위협 정보 도구를 적용합니다.
- 어두운 영역의 AI 현상(Shadow AI) 및 데이터 유출 위험을 제한하기 위해 액세스 제어 및 직원 교육 강화.
- 위협을 모니터링하고 사고에 신속하게 대응하기 위해 사이버 보안 운영 센터(SOC)를 설립합니다.
