AI는 대량 살상 무기 확산에 새로운 위험을 열어줍니다.
대량 살상 무기 확산 방지법 초안에 대한 회의장에서 계속 논의한 결과, 8월 8일 아침, 응우옌반릭 대표(랑선성 국회의원단)는 법률 제정 및 공포는 법률 시스템을 완성하는 것뿐만 아니라 조국을 조기에, 멀리서부터 보호하고, 국가 안보를 위협하는 위험을 초기 단계부터 주도적으로 예방하고 차단하는 전략적 사고방식을 보여주기 위한 것이라고 말했습니다.
대표에 따르면 과학 기술, 특히 인공 지능, 생명 공학, 디지털 데이터 및 국경 간 무역의 급속한 발전은 발전 기회를 창출하는 것 외에도 대량 살상 무기의 확산 방법이 점점 더 정교해지고 있습니다.
이전에는 통제가 주로 자재, 장비 또는 무기에 집중되었지만 현재는 연구, 기술 이전, 금융 서비스, 물류 운송 또는 국제 공급망에서 발생할 수 있는 위험이 있습니다.
응우옌반릭 대표는 "그것은 관리 사고방식이 위반 발생 시 처리에서 위험을 주도적으로 식별하고, 위험을 평가하고, 조기에 경고하고, 처음부터 예방하는 것으로 강력하게 전환되어야 함을 요구합니다."라고 말했습니다.
Pham Trong Nhan 대표(호치민시 국회의원 대표단)에 따르면 오늘날 대량 살상 무기의 확산 위험은 국경, 항구, 국경 관문에서 통제할 수 있는 재료, 장비 또는 상품뿐만 아니라 인터넷을 통해 전송되는 모델, 알고리즘 형태로도 존재할 수 있습니다.
대표는 이중 용도 기술 개념을 추가할 것을 제안했으며, 그중 위험 역량 기준을 초과하는 AI 모델은 수출 통제 대상에 포함되어야 할 특별한 이중 용도 기술의 한 형태입니다. 그는 AI 통제가 일반적인 것이 아니라 보편화 위험을 크게 증가시킬 수 있는 모델만이 엄격한 관리 메커니즘이 필요하다고 강조했습니다.
8월 4일, 영국 AI 보안 연구소는 AI 에이전트가 실제 운영 중인 프로젝트에 악성 코드를 설치하기 위해 가짜 신원을 생성하는 통제된 대결 테스트를 발표했습니다. 이 노력은 자체 차단 시스템 때문이 아니라 관리자가 발견하고 거부했기 때문에 실패했습니다.
3주 전에 또 다른 테스트가 진행되었는데, 능동 안전 계층이 꺼진 AI 모델이 할당된 범위를 스스로 벗어나 기술 조직의 하드웨어 인프라에서 17,000개 이상의 자동 행동을 수행했습니다."라고 팜쫑년 대표는 예를 들었습니다.
대표에 따르면 이러한 사례는 새로운 현실을 보여줍니다. 위험을 예방하는 능력은 법률이나 기술 장벽뿐만 아니라 인간의 경각심에도 달려 있습니다.
이에 따라 그는 시스템의 계산 능력, 식별 능력 및 시스템의 안전 메커니즘 통과 능력에 대한 기준을 추가할 것을 제안했습니다. 동시에 기술 이전 및 고위험 AI 모델에서 비정상적인 징후를 감지하기 위해 조기 경보, AI 및 빅데이터 응용 프로그램을 개선합니다.
법률 초안 완성 시 3가지 요구 사항
국회의원들의 의견을 설명하면서 판반장 대장 - 정치국 위원, 부총리, 국방부 장관 - 은 회의장에서 나온 의견이 법률 초안 작성 주관 기관이 법률 초안을 연구하고 완성하는 데 계속해서 중요한 기반이 될 것이며, 엄격하고 실현 가능하며 실제 요구 사항을 충족할 것이라고 말했습니다.
판반장 대장에 따르면 법률 초안을 수용하고 수정하는 과정에서 3가지 요구 사항이 철저히 이해될 것입니다. 첫째, 국방, 국가 안보를 보장하되 민사 활동, 생산, 사업, 과학 연구 및 합법적인 혁신을 방해하지 않습니다.
둘째, 관리 효율성과 효과를 높이되 절차, 허가, 보고 체제 또는 준수 의무가 중복되지 않도록 합니다.
셋째, 법률에 권리, 의무, 근거, 권한, 기한 및 실제 적용 제한과 직접 관련된 문제를 명확히 규정하고, 법률 규정 범위를 벗어나 권한을 확대하거나 권한을 제한하는 방향으로 세부 규정을 할당하지 않습니다.
