OpenAI는 ChatGPT에 대한 두 가지 새로운 보안 조치를 발표했습니다. 여기에는 잠금 모드(Lockdown mode)와 고위험 경고 시스템이 포함되어 데이터 보호를 강화하고 사용자가 업무에서 인공 지능을 사용할 때 더 잘 제어할 수 있도록 돕습니다.
고위험 환경을 위한 잠금 모드
OpenAI에 따르면 이 두 기능은 보안 위험에 대한 더 명확한 정보를 제공하기 위해 병행하여 작동하며, 사이버 공격 위험이 높은 조직 및 개인에게 더 엄격한 시스템 제어 계층을 추가합니다.
락다운 모드는 고급 보안 기능으로 옵션이며 현재 기업 리더, 보안 전문가 또는 대규모 조직과 같이 보안 요구 사항이 높은 소규모 사용자 그룹만을 위한 것입니다.
활성화되면 이 모드는 ChatGPT가 외부 시스템과 상호 작용하는 능력을 엄격하게 제한하고 악성 명령을 통해 악용될 수 있는 일부 도구를 비활성화합니다.
예를 들어 잠금 모드로 웹 서핑을 할 때 시스템은 네트워크 요청을 OpenAI 보안 환경 외부로 직접 보내는 대신 보조 메모리에 저장된 콘텐츠에만 액세스합니다.
기능이 충분히 강력한 데이터 보호 수준을 보장할 수 없는 경우 해당 기능은 완전히 꺼질 수 있습니다.
작업 공간 관리자는 시스템 설정에서 전용 역할을 생성하여 잠금 모드를 켤 수 있습니다.
활성화되면 이 모드는 기존 보안 구성에 대한 추가 제한을 적용하고 관리자가 허용되는 응용 프로그램 또는 작업을 유연하게 선택할 수 있도록 합니다.
또한 준수 일지 기록 도구도 제공되어 애플리케이션 사용, 공유 데이터 및 연결 시스템을 모니터링하여 기업이 관리 및 감사 요구 사항을 충족하도록 돕습니다.
고위험 기능에 대한 명확한 경고
두 번째 업데이트는 정보 투명성에 중점을 둡니다. 인터넷 또는 외부 시스템에 액세스할 수 있는 일부 AI 기능은 더 높은 보안 위험을 내포할 수 있습니다.
사용자가 더 잘 이해할 수 있도록 OpenAI는 ChatGPT, ChatGPT Atlas 및 Codex에 속하는 기능에 일관된 "고위험" 경고 라벨을 부착합니다.
이러한 경고는 기능을 켤 때 어떤 영향을 받는지, 발생할 수 있는 위험, 사용해야 할 시기를 구체적으로 설명합니다.
예를 들어, 프로그래밍 도구를 통한 네트워크 액세스를 허용하면 보안 취약점 위험이 증가할 수 있으며, 시스템에서 이를 명시할 것입니다.
OpenAI는 보안 조치가 새로운 위협에 따라 계속 개발될 것이라고 밝혔습니다.
위험이 감소하거나 보호 기술이 개선되면 일부 기능에서 "고위험" 라벨이 제거될 수 있습니다.
잠금 모드와 새로운 경고 시스템을 추가한 것은 OpenAI의 목표가 사용자를 더 잘 보호하고 AI가 작업 환경과 비즈니스 활동에 점점 더 깊이 통합됨에 따라 더 명확한 선택을 제공하는 것임을 보여줍니다.
