최근 The Tucker Carlson Show,와의 인터뷰에서 OpenAI CEO Sam Altman은 ChatGPTmia를 포함한 인공 지능 모델이 위험한 생물학적 위협을 설계하는 데 악용될 수 있으며 심지어 COVID-19와 유사한 대유행을 일으킬 수 있다는 가능성에 대해 깊은 우려를 표명했습니다.
Altman은 AI가 현재 생물학 분야에서 매우 잘하고 있으며 이는 기회와 위험을 모두 가져온다고 생각합니다.
알다시피 AI가 COVID-19와 유사한 유형의 대유행을 일으킬 수 있다는 사실은 항상 저를 그것에 대해 걱정하게 만들었습니다. 그러나 갈증에 대한 우려 때문에 우리와 업계의 많은 사람들이 이 위험을 완화하는 효과적인 방법을 신중하게 생각하고 찾고 있습니다.”라고 Altman은 강조했습니다.
위의 우려는 고급 언어 모델의 발전과 관련이 있습니다. OpenAI가 GPT-5를 출시했을 때 회사는 AI가 악의적인 목적으로 남용될 위험을 방지하기 위해 다층 영양 생물학적 방어 시스템을 포함한 입체 안전 메커니즘에 대한 자세한 설명을 공개했습니다.
생물학적 위협 외에도 바 알트만은 ChatGPT가 인간 행동에 미치는 더 미묘한 영향도 지적했습니다. 그는 그것을 '많은 사람들이 패턴과 상호 작용하고 글이나 사고방식 언어에서 새로운 습관을 점차 형성할 때 나타나는 사회적 규모의 효과'라고 불렀습니다.
Altman은 많은 ChatGPT 사용자가 텍스트에서 하이픈(-)을 더 많이 사용하기 시작하는 현상을 예로 들었습니다. 이것은 한때 덜 일반적인 문장 부호였지만,는 온라인 쓰기에서 점점 더 자주 나타나고 있으며 cho는 누군가가 그것을 AI가 만든 텍스트 인식 신호로 간주할 정도입니다.
알트만 브라다에 따르면 이것은 사소하지만 AI가 전례 없는 방식으로 사회적 행동을 형성할 수 있다는 증거입니다.
알트만은 '우리는 도전적인 새로운 세계로 나아가고 있습니다.'라고 결론지었습니다.
인공 지능의 급속한 발전으로 인해 알트만의 경고는 이 기술이 위협이 되는 대신 인류의 이익에 기여하도록 보장하기 위해 글로벌 관리 및 안전 메커니즘을 구축해야 할 긴급한 필요성을 제기합니다.
