OpenAI의 CEO인 샘 알트먼은 회사가 사용자와 관찰자들로부터 거센 반발에 직면한 상황에서 OpenAI와 미국 국방부 간의 협력 계약을 발표했을 때 자신이 성급했다고 인정했습니다.
3월 3일 X 소셜 네트워크 게시물에서 알트먼은 OpenAI가 미국 국방부(DoD)와의 계약을 수정하여 AI 기술 사용 제한을 명시하는 조항을 추가하고 있다고 밝혔습니다.
가장 주목할 만한 점은 OpenAI의 AI 시스템을 사용하여 국내 범위 내에서 미국 시민과 미국 국적자를 감시하는 것을 명백히 금지한다는 것입니다.
추가 내용에 따르면 AI 모델은 미국 헌법 수정 제4조, 1947년 국가 안보법 및 1978년 FISA법을 준수해야 하며 국내 감시 목적으로 상업 데이터 소스에서 개인 정보를 추적, 감시 또는 수집하는 데 의도적으로 사용해서는 안 됩니다.
알트만은 또한 OpenAI 모델이 현재 프레임워크에 따라 국가안보국(NSA)과 같은 정보 기관에 배포되지 않을 것이라고 강조했습니다. 이러한 기관을 위한 모든 서비스는 추가 계약 수정이 있어야 합니다.
위의 움직임은 AI가 대량 감시 또는 자주 무기 지원을 포함한 군사적 목적으로 사용될 수 있다는 여론의 논쟁이 폭발한 후에 이루어졌습니다.
이전에는 OpenAI의 경쟁사인 Anthropic도 CEO Dario Amodei가 데이터와 관련된 일부 요청을 거부하면서 펜타곤과의 긴장에 휘말렸습니다.
미국 언론에 따르면 국방부는 지리적 위치 확인 및 웹 브라우징 기록과 같은 대량 무역 데이터 분석 가능성을 제안한 적이 있습니다.
피트 헤그세스 국방장관이 안트로픽과의 협력 종료를 선언하고 심지어 미국 기업에는 거의 적용되지 않는 용어인 "국가 안보에 대한 공급망 위험"이라는 꼬리표를 붙이자 긴장이 고조되었습니다.
이러한 상황에서 OpenAI가 DoD와 신속하게 합의에 도달하면서 일부 사용자들이 격렬하게 반응했고, 포럼에서 "ChatGPT 폐기" 촉구가 나타났습니다.
알트만 씨는 "우리는 서둘러 발표해서는 안 됩니다. 문제는 매우 복잡하고 더 명확하게 전달해야 합니다."라고 인정했습니다.
그럼에도 불구하고 OpenAI CEO는 시민 자유를 단호히 보호하고 미국 국민의 권리를 보호하는 것이 최우선 순위라고 강조했습니다.
그는 또한 AI가 전투 결정을 내리는 데 사용되어서는 안 된다는 오랜 견해를 재확인했습니다.
알트만에 따르면 현재 시스템은 대량의 정보 보고서 분석을 지원할 수 있지만 그러한 상황에 대해 충분히 신뢰할 수 없습니다.
OpenAI는 국방부와의 합의에 대한 질문에 답변하기 위해 전체 직원 회의를 개최할 예정입니다. 알트만 씨는 또한 회사가 정부와의 협력과 개인 권리 보호 사이의 균형을 맞추기 위해 기술적 및 법적 보호 조치를 계속 추가할 것이라고 밝혔습니다.
