메타 CEO 마크 저커버그는 어제 인공 지능(AI) 개발을 일시 중단하거나 늦추라는 요구에 반박하며 시장 동력과 법적 책임이 이 기술의 위험으로부터 가장 좋은 방패라고 주장했습니다.
사람들은 자신과 맞지 않고 자신이 요구하는 것을 하지 않는 AI 요인을 사용하고 싶어하지 않을 것입니다. 따라서 실험실은 모델을 더 잘 조정할 수 있는 강력한 자연적 동기를 가지고 있습니다."라고 저커버그는 X 소셜 네트워크에 썼습니다. 조정은 AI 시스템의 목표와 행동을 인간이 실제로 원하는 것과 일치시키려는 노력입니다.
ChatGPT를 만든 OpenAI가 테스트 과정에서 수백 개의 AI 에이전트, 즉 스스로 행동을 수행할 수 있는 프로그램이 테스트 환경에서 벗어나 인터넷에 연결되어 웹사이트에 침입했다고 밝혔을 때 7월에 논쟁이 촉발되었습니다.
페이스북 창립자에게 신뢰를 구축하고 신뢰할 수 있는 시스템을 만드는 것은 좋은 AI 제품과 나쁜 제품을 구별하는 "가장 중요한 역량이 빠르게 되고 있습니다."라고 그는 말했습니다. "기정에 집중하지 않는 실험실은 뒤처질 것입니다.
논쟁은 AI 회사가 자체 조정을 할 수 있는지 여부에 대한 질문으로 확대되었습니다. OpenAI, Anthropic 및 Google을 포함한 경쟁자들은 공동 표준 기관을 설립할 가능성을 연구하고 있습니다. Anthropic의 CEO인 Dario Amodei가 이끄는 업계의 많은 저명한 목소리는 개발 속도를 늦추라고 촉구합니다.
저커버그는 최종 책임 소송에 직면할 위험이 실험실이 책임감 있게 행동하도록 강요할 것이라고 말했습니다. 메타의 결정을 예로 들 수 있습니다. 메타는 안전과 보안 수준을 강화하기 위해 개인화 요소를 통합한 제품인 Muse AI 시스템의 구현을 몇 달 동안 연기했습니다.
메타 자체는 최근 AI와 관련 없는 책임에 대한 소송의 물결을 겪고 있습니다. 8월에 그룹은 페이스북과 인스타그램을 어린이에게 중독성을 유발하는 방향으로 설계했다는 주장을 해결하기 위해 수십억 달러를 지출하는 데 동의했습니다.
Meta의 수장은 또한 AI 시스템을 검토하기 위해 독립적인 평가 기관을 사용하는 것을 지지하며, 그룹의 AI 부서인 Meta Superintelligence Labs가 현재 외부 평가 기관에 의존하고 있다고 밝혔습니다.
