스위스 다보스에서 열린 세계 경제 포럼에서 "인공 지능의 아버지" 중 한 명이자 Meta의 전 AI 과학 이사인 Yann LeCun 교수는 ChatGPT와 같은 대규모 언어 모델(LLM)을 포함한 현재 AI 시스템에는 여전히 기본적인 제한 사항이 있다고 강조했습니다.
그에 따르면 모델 규모를 계속 확장하고 데이터, 매개변수 및 계산력을 늘리는 것만으로는 인간과 동등한 지능을 달성하기에 충분하지 않을 것입니다.
LeCun 교수는 "우리는 이러한 시스템을 더 크게 만들거나 더 잘 조정하는 것만으로는 인간이나 초지능과 같은 지능을 달성할 수 없을 것입니다. AI 산업은 규모를 확장하는 것뿐만 아니라 모델 변화가 필요합니다."라고 말했습니다.
그의 가장 큰 우려 사항 중 하나는 인간을 대신하여 자동으로 계획하고 행동을 수행할 수 있는 AI 비서인 에이전트 시스템 개발 추세입니다.
LeCun은 이러한 시스템이 행동의 결과를 예측하는 능력이 부족한 LLM 플랫폼을 기반으로 구축되어 실제 환경에서 안전하고 스마트하게 작동하기 어렵다고 말했습니다.
LeCun은 "시스템이 다음에 무슨 일이 일어날지 예측할 수 없다면 어떻게 행동의 사슬을 계획할 수 있습니까?"라고 질문했습니다.
LeCun에 따르면, 지능적인 행동은 AI가 세상을 모델링하고 물리 법칙, 원인-결과 실제 환경의 복잡한 변동을 이해할 수 있는 능력을 갖춰야 합니다.
자신의 관점을 설명하기 위해 Yann LeCun은 인간의 학습 능력을 인공 지능과 비교했습니다. 10세 어린이는 장기간의 훈련 없이 새로운 임무에 빠르게 익숙해지고 완료할 수 있는 반면, 17세 청소년은 몇 시간 만에 운전을 배울 수 있습니다.
한편, 자율 주행 시스템은 수백만 시간의 데이터로 훈련되지만, 인간은 여전히 수준 5의 자율 주행 기술, 즉 차량이 인간의 개입 없이 완전히 작동할 수 있는 기술을 달성하지 못했습니다.
LeCun에 따르면 이는 현재 AI 플랫폼과 아키텍처가 인간만큼 유연하고 포괄적인 지능을 재창조하기에 여전히 충분하지 않다는 것을 보여줍니다.
그는 또한 언어 모델이 데이터가 주로 텍스트인 "단축된 우주"에서 작동하고 있다고 지적했습니다. 반면에 현실 세계는 다차원적이고 지속적이며 노이즈 감각 데이터로 훨씬 더 복잡합니다.
텍스트에서 다음 단어를 예측하는 것은 물질 세계를 이해하고 상호 작용하는 것만큼 어렵지 않습니다."라고 르쿤은 말했습니다.
기술적 과제 외에도 그는 소수의 대규모 기술 기업에 AI 권력이 집중될 위험에 대해 깊은 우려를 표명했습니다.
LeCun에 따르면 AI가 미국이나 중국의 몇몇 회사에 의해 통제된다면 문화와 가치 체계에서 사회가 수신하는 전체 정보 흐름을 지배할 수 있습니다.
그는 "우리는 사회가 언론의 다양성을 필요로 하는 방식과 유사하게 다양한 AI 생태계가 필요합니다."라고 말하면서 기술 독점 위험을 줄이기 위해 오픈 소스를 촉진할 것을 촉구했습니다.
로봇이 인류를 지배할 가능성에 대해 우려하지는 않지만, Yann LeCun은 현재 AI 개발 방향이 광범위한 사회적 결과를 초래할 수 있다고 경고합니다.
그의 관점은 기술 산업에 큰 질문을 던집니다. AI의 미래는 현재 모델 확장에 기반할 것인가, 아니면 완전히 새로운 건축 혁명이 필요한 것인가?
