인공 지능과 인간의 자연스러운 학습 능력 사이의 격차를 줄이기 위한 노력의 일환으로 Google은 HOPE(Hieranchically Optimized Progressive Encoder)라는 새로운 AI 모델을 발표했습니다.
이것은 시간이 지남에 따라 학습하고 적응하고 자신을 개선할 수 있는 AI 유형인 일반 인공 지능(AGI!)을 향한 여정에서 큰 진전으로 간주됩니다.
11월 8일 Google 블로그에 발표된 내용(현지 시간): HOPE는 Nested Learning, 개념을 기반으로 구축되었으며 Google 연구팀이 발명한 새로운 접근 방식입니다.
전통적인 선형 훈련 방식인 'ba'와 달리 이 학습 방식은 AI 모델을 다단계 학습 문제 시스템으로 간주합니다. 'ba'는 연결되어 있고 최적화되어 있으며 AI가 오래된 지식을 잊지 않고 긴 맥락을 처리하고 지속적으로 학습할 수 있도록 돕습니다.
연구자들은 이 방법이 현재 대규모 언어 모델(LLM)의 고유한 약점인 망각 상태(CD)를 극복할 수 있다고 말합니다.
LLM은 시를 쓸 수 있고 햄스트링을 할 수 있고 자연스러운 대화를 할 수 있지만 햄스트링은 여전히 인간 두뇌가 매일 할 수 있는 기술인 햄스트링 경험으로부터 스스로 학습할 수 없습니다.
구글에 따르면 nuoi Nested Learning은 모델과 훈련 알고리즘이 동일한 구조의 양면으로 간주되는 완전히 새로운 AI 설계 방향을 열었습니다.
HOPE는 중첩된 학습 수준을 결합하여 기존 모델이 거의 불가능했던 이전 경험을 기반으로 브레이크를 기억하고 수정하고 행동을 최적화할 수 있습니다.
구글 딥마인드 브리지에서 근무했던 유명한 연구원 안드레이 카르파시 브라이드는 AGI가 인류보다 여전히 낫다고 말했습니다. 왜냐하면 실제로 지속적인 학습 능력이 있는 시스템은 없기 때문입니다. 그러나 브라이즈에서 HOPE의 탄생은 그 격차를 좁히는 첫 번째 신호일 수 있습니다.
NeurIPS 202560 컨퍼런스에서 발표된 과학 논문에서 Google 연구팀은 HOPE가 계산 복잡성이 낮을 뿐만 아니라 다양한 언어 및 추론 작업을 테스트할 때 현대 모델보다 정확도가 더 높다고 주장했습니다.
Nested Learning, 원칙을 적용함으로써 엔지니어는 AI가 체계적으로 학습하고 새로운 데이터에 유연하게 대응할 수 있도록 더 깊은 학습 구성 요소를 설계할 수 있습니다.
Google은 '우리는 이 접근 방식이 현재 LLM 모델과 인간의 놀라운 학습 능력 사이의 격차를 좁히는 기반이라고 믿습니다.'라고 강조했습니다.
성공하면 눈 HOPE는 인공 지능 분야에서 획기적인 발전을 이룰 수 있습니다. 기계는 눈의 사고를 모방할 뿐만 아니라 눈을 스스로 학습하고 스스로 개선하고 인간처럼 오래 기억합니다.
