AI는 인간 기술 개발을 지원할 뿐만 아니라 차세대 AI 구축에도 참여할 수 있습니다. 이는 세계 최고의 AI 개발 기업 중 하나인 Anthropic이 인공 지능의 미래에 대한 새로운 보고서에서 방금 발표한 주목할 만한 의견입니다.
Anthropic은 AI 모델의 급속한 발전이 인공 지능 시스템이 자체 후계 버전을 설계, 개선 및 개발하는 데 점점 더 큰 역할을 하는 새로운 단계로 이어질 수 있다고 주장합니다.
이 개념을 "역전 자기 개선"(RSI)이라고 합니다. 간단히 말해서, AI 시스템이 인간의 과도한 개입 없이 더 나은 새 버전을 자동으로 설계하고 개발할 수 있는 능력입니다.
Anthropic에 따르면 세계는 아직 이 단계에 도달하지 못했습니다. 그러나 그러한 시나리오에 필요한 조건이 점차 형성되고 있습니다. 현재의 첨단 AI 모델은 프로그래밍, 소프트웨어 디버깅, 연구 및 문제 해결 능력을 점점 더 효과적으로 보여주고 있습니다.
이는 AI가 더 강력한 AI 시스템 구축을 지원하여 개발 과정을 계속 촉진하는 루프를 만들 수 있습니다.
Anthropic은 이러한 추세가 계속되고 충분한 컴퓨팅 능력이 수반된다면 AI가 대규모로 자체 개선 능력에 더 가까워질 수 있다고 말합니다. 일부 연구자들은 이 전망을 "지능 폭발"이라고 부르며, AI 시스템이 인간의 연구 능력을 훨씬 뛰어넘는 속도로 지속적으로 능력을 업그레이드할 수 있는 시점이라고 합니다.
안트로픽의 공동 창립자인 잭 클라크는 Axios(미국의 미디어 및 디지털 뉴스 사이트)와의 인터뷰에서 향후 몇 년 동안 AI의 발전 속도가 둔화되는 대신 계속 가속화될 수 있다고 말했습니다. 그는 이것이 과학, 의학 및 기타 여러 분야에서 큰 돌파구를 가져올 잠재력이 있다고 생각합니다.
그러나 Anthropic은 또한 이익이 클수록 도전 과제가 더 중요해진다고 강조합니다. 가장 큰 우려는 통제력에 있습니다. AI가 빠르고 지속적으로 스스로 개선할 수 있다면 인간은 시스템이 작동하는 방식과 내부에서 일어나고 있는 변화를 이해하는 데 어려움을 겪을 수 있습니다.
이 회사에 따르면 미래의 AI 시스템은 예측 불가능한 행동, 안전 취약점 악용 또는 인간의 의도와 완전히 일치하지 않는 목표 추구를 나타낼 수 있습니다. 해를 끼칠 의도가 없더라도 그러한 행동은 여전히 예상치 못한 결과를 초래할 수 있습니다.
또 다른 과제는 발전 속도입니다. AI가 너무 빠르게 발전하면 관리 기관과 사회가 적응할 시간이 없을 수 있습니다. 따라서 Anthropic은 AI 회사가 국제 협력을 강화하고 심각한 위험 징후가 나타날 때 발전 과정을 늦추거나 일시 중단할 준비가 되어 있어야 한다고 생각합니다.
그럼에도 불구하고 기술 전문가들은 AI가 완전히 자체적으로 후계 버전을 구축하는 시나리오가 아직 발생하지 않았다고 인식합니다. 현재 첨단 AI 시스템 개발에는 여전히 많은 양의 데이터, 컴퓨팅 인프라, 전문 하드웨어 및 인간의 엄격한 감독이 필요합니다.
