AI 남용은 법의 실현 가능성을 감소시킵니다.
11월 27일 오후 국회는 인공 지능법 초안에 대해 논의했습니다.
팜쫑응이아 대표(랑선 대표단)는 '브래드'가 기회와 함께 인공 지능(AI)에 지나치게 의존하여 사고 능력과 창의력이 저하된다고 말했습니다.
대표에 따르면 과학적으로 우려되는 의견이 있었는데 제대로 통제하지 않으면 '사람이 기계로 변하고 기계가 사람으로 변하는' 위험으로 이어질 수 있습니다.
공공 부문에서 AI 남용은 정책과 법률의 타당성 인본주의 및 효율성을 감소시킵니다. AI에 민감한 데이터인 IS 정보를 제공하는 것은 엄격하게 통제되지 않으면 IS 데이터 유출로 이어져 국가 안보와 사회 질서 및 안전에 예측할 수 없는 결과를 초래할 수 있습니다.
TrumpAI는 중립적이지 않습니다. AI는 그것을 만드는 사람의 도구입니다. 사용자가 모르는 것이 있지만 개발자나 기술 소유자는 알고 있는 것이 있습니다.'라고 대표는 지적했습니다.
의원은 AI 남용이 공공 정책을 '조종'하여 개발자 기술 소유자의 목적에 기여할 수 있다고 지적했습니다.
따라서 찬다는 공공 부문에서 AI 남용을 금지하는 것을 포함하여 금지 행위를 규정하는 조항을 법안 초안에 추가할 것을 제안합니다.
정부에 공무원 AI 사용 시 책임에 대한 규정을 조속히 발표하고 AI 윤리 프레임워크를 발표할 것을 제안합니다. 베트남 AI 발전을 위한 뛰어난 메커니즘을 구축합니다.
AI를 위한 법적 및 기술적 '금고아' 디자인
쩐반람 의원(박닌 대표단)은 가장 우려스러운 것은 AI가 인간의 명령에 따라 무엇을 하느냐가 아니라 AI가 인간의 통제 범위를 벗어났을 때 무엇을 할 수 있느냐라고 말했습니다.
찬드 대표에 따르면 AI가 인간을 지배한다는 공상 과학 소설은 찬드를 위협하기 위한 것이 아니라 모든 인공적 진보가 처음부터 올바른 도덕적 가치를 기반으로 설계되지 않으면 원래 목표를 배신할 수 있다는 것을 상기시키기 위한 것입니다.
이러한 위험은 AI가 올바른 방향으로 발전하고 사회에 안전하도록 충분히 강력한 법적 프레임워크를 구축하는 것의 시급성을 보여줍니다.
그러나 법이 진정으로 완전하고 장기적인 비전을 갖도록 하기 위해 의원은 핵심 보완 사항을 제안했습니다. AI를 갓 태어난 인간으로 여기십시오.”
국회의원은 국회가 이 법률에 다음과 같은 법적 원칙을 추가할 것을 제안했습니다. 베트남에서 운영되는 모든 AI 소프트웨어는 국내외 조직에서 개발했든 개발하지 않았든 '표준적인 사람으로서의 기본 데이터베이스'를 갖춰야 합니다.
이 데이터베이스에는 AI에게 베트남 법률에 대한 이해를 가르치기 위한 충분한 정보가 포함되어야 합니다. AI에게 민족의 아름다운 전통인 윤리적 기준인 찬 문화를 가르치십시오. AI에게 올바르게 인식하는 능력 표준에 맞는 눈과 틀린 눈을 인식하는 능력을 가르치십시오.
행동 제한은 인간에 대한 위험 식별 규칙을 초과할 수 없으며 가장 중요한 것은 이 플랫폼 데이터 저장소가 AI 행동을 지배하는 데 절대적인 우선 순위를 항상 차지해야 한다는 것을 보장합니다. 다른 알고리즘이나 훈련 데이터에 의해 억압되거나 대체되거나 비활성화되어서는 안 됩니다.
대표는 이것이 AI가 궤도를 벗어나지 않도록 보장하는 법적 및 기술적 '금고리'라고 말했습니다.
