최근 몇 년 동안 Google, Meta, Microsoft, OpenAI 또는 Perplexity와 같은 기술 대기업은 데이터 센터를 구축하고 확장하는 데 수십억 달러를 과감하게 투자했습니다.
분석가들의 예측에 따르면 이 인프라에 대한 총 지출은 10년 말까지 1조 달러에 육박할 수 있습니다. 그러나 업계의 모든 사람이 데이터 센터가 영원히 인공 지능의 "척추"가 될 것이라고 믿는 것은 아닙니다.
Perplexity CEO Aravind Srinivas는 데이터 센터에 대한 가장 큰 위협은 인공 지능이 사용자 장치에 통합되어 직접 작동하는 능력이라고 주목할 만한 견해를 제시했습니다. 이때 AI는 더 이상 거대한 중앙 집중식 시설에서 모든 데이터를 처리할 필요가 없습니다.
현재 ChatGPT, Gemini 또는 Perplexity와 같은 대부분의 인기 있는 AI 채팅봇은 사용자 요청을 처리하기 위해 데이터 센터에 배치된 서버 시스템에 의존합니다.
이러한 시설은 엄청난 양의 전력을 소비하고 높은 유지 보수 비용을 요구하며 냉각을 위해 물에 많이 의존합니다. 이것이 AI 인프라가 지속 가능성에 대한 질문이 점점 더 제기되는 이유이기도 합니다.
스니브니스에 따르면 AI 모델이 장치에서 국지적으로 실행될 수 있다면 데이터 센터의 역할이 크게 줄어들 것입니다.
개인용 컴퓨터나 휴대폰에서 즉시 처리하면 전력 및 작동 비용을 절감할 뿐만 아니라 개인 정보 보호에 대한 명확한 이점을 제공합니다.
사용자 데이터는 원격 서버로 전송할 필요가 없어 누출이나 불법 악용 위험을 줄일 수 있습니다.
퍼플렉시티 CEO에 따르면 장치에서 실행되는 AI의 또 다른 장점은 개인화 기능입니다. 모델이 "기기 바로 위에" 있으면 AI는 복잡한 클라우드 인프라에 의존하지 않고도 각 사용자의 습관과 선호도에 쉽게 적응할 수 있습니다.
그럼에도 불구하고 스리니바스는 현재 가장 큰 장벽은 AI 모델의 규모와 자원 소비 수준이라고 인정합니다.
현재 모델의 대부분은 스마트폰이나 노트북에서 효율적으로 작동하기에는 여전히 너무 무겁습니다.
그러나 그는 특히 애플이나 퀄컴과 같은 회사의 칩 기술의 급속한 발전이 곧 상황을 바꿀 수 있다고 믿습니다.
또한 퍼플렉시티 CEO는 AI가 잘못된 정보를 생성하지만 설득력이 있는 것처럼 들리는 현상인 "환각" 문제도 언급했습니다.
그는 현재 시스템이 여전히 이 오류를 겪고 있음을 인정했지만, 향후 5년 안에 환각 현상이 완전히 해결될 수 있다고 예측했습니다.
스니브니스의 평가는 AI 산업에 대한 또 다른 전망을 보여줍니다. 거대한 데이터 센터에 대한 무거운 의존에서 인공 지능은 점차 개인 장치로 이동할 수 있습니다.
이것이 현실이 된다면 미래의 AI 경쟁은 인프라 규모뿐만 아니라 사용자 주머니 속의 소형 칩의 힘에도 달려 있을 수 있습니다.