AI 투자는 거품이 아니다: CapEx 급증을 정당화하는 '인프라 부족' (26.1.20)

AI 투자는 거품이 아니다: CapEx 급증을 정당화하는 '인프라 부족' 

최근 빅테크 기업들의 천문학적인 AI 설비 투자(CapEx)를 두고 "과도한 거품이 아니냐"는 우려가 제기되기도 합니다. 챗봇 하나에 이렇게 많은 돈을 쏟아부어야 하는지 의문을 갖는 시선도 존재합니다.

하지만 AI 인프라의 공급과 수요 데이터를 뜯어보면 정반대의 결론에 도달하게 됩니다. 현재 시장은 '거품'은커녕, 폭발하는 수요를 감당하기에 턱없이 부족한 '구조적 공급 부족(Structural Shortage)' 상태에 직면해 있습니다.

최근 공개된 OpenAI의 비즈니스 현황과 글로벌 컴퓨팅 인프라 분석 보고서를 바탕으로, 왜 지금의 공격적인 투자가 합리적인지, 그리고 왜 우리는 지금보다 훨씬 더 많은 컴퓨팅 파워가 필요한지 분석해 보았습니다.

 

1. 토큰(Token)은 지식 노동의 새로운 전력(kWh)이다

많은 사람들이 AI 모델의 가격이 내려가면 수요가 포화될 것이라고 착각합니다. 하지만 실제로는 정반대 현상이 일어납니다. AI 인프라 분석 자료에 따르면, 토큰당 가격이 하락할수록 사용자는 더 싼 질문을 하는 것이 아니라, 기하급수적으로 더 복잡한 질문을 던지게 됩니다. 이를 '멀티모달 램프(The Multimodal Ramp)'라고 부릅니다.

 

• 단순 텍스트 질문: 수백 토큰 소모

• 도구를 사용하는 에이전트: 수천 토큰 소모

• 이미지와 텍스트 혼합: 수만 토큰 소모

• 오디오가 포함된 비디오: 수십만 토큰 소모

• 로봇 공학 시뮬레이션: 실행당 수백만 토큰 소모

 

단순히 사용자가 늘어나는 것이 아니라, 작업의 '질적 복잡도'가 폭발하고 있습니다. OpenAI는 이를 두고 단순한 호기심 충족 도구에서 "일상을 이해하고 업무를 처리하는 인프라"로의 전환이라고 설명합니다. 에이전트(Agent)가 계획을 세우고, 도구를 사용하고, 스스로 성찰하는 과정에서 연산 부하는 단순 추론 대비 3배 이상 증가합니다.

 

2. '8배에서 50배' 부족한 컴퓨팅 공급

그렇다면 현재의 인프라는 이 수요를 감당할 수 있을까요? 분석 결과는 충격적입니다.

소비자 추론 수요만 계산하더라도 하루에 약 3.5~7.5 엑사플롭스(EFLOPs)의 연산이 필요합니다. 하지만 현재 전 세계적으로 가속 컴퓨팅(Accelerated Compute)이 가능한 최신 인프라(Frontier AI compute)의 설치 기반은 약 13 GW에 불과한 것으로 추정됩니다.

더 심각한 것은 '효율성 누수'입니다. 칩 하나의 스펙은 훌륭할지 몰라도, 실제 데이터센터 클러스터 단위에서는 전력 배분, 냉각, 가동률(MFU), 구형 장비와의 혼합 등으로 인해 스펙 대비 5~10% 수준의 효율밖에 내지 못합니다.

이 모든 변수를 고려했을 때, 현재의 공급 계획으로는 성숙한 에이전트 및 멀티모달 수요 대비 최소 8배에서 최대 50배의 컴퓨팅 부족(Shortage)이 발생할 것으로 예상됩니다.

 

3. "컴퓨팅이 곧 매출이다": OpenAI의 증명

이러한 '인프라 부족' 가설은 OpenAI의 실제 실적에서 증명됩니다. OpenAI CFO인 Sarah Friar는 "컴퓨팅(Compute)이 AI에서 가장 희소한 자원"이라고 단언합니다.

지난 3년(2023~2025) 동안 OpenAI의 성장은 정확히 컴퓨팅 용량의 증가와 비례했습니다.

• 컴퓨팅 용량: 0.2 GW → 1.9 GW (9.5배 증가)

• 매출(ARR): 20억 달러 → 200억 달러 (10배 증가)

매출 곡선이 컴퓨팅 공급 곡선을 그대로 따라갔다는 것은, 만약 더 많은 컴퓨팅 자원이 있었다면 더 빠른 성장과 수익화가 가능했을 것이라는 점을 시사합니다. 즉, 지금의 CapEx 급증은 막연한 미래 베팅이 아니라, 공급되는 즉시 매출로 전환되는 확실한 수요에 대한 대응인 것입니다.

 

 

4. 2026년, 에이전트와 실용적 채택의 해

우리는 이제 막 시작점에 섰습니다. OpenAI는 2026년의 핵심을 '실용적 채택(Practical Adoption)'으로 정의하며, AI가 과학 연구, 에너지 시스템, 금융 모델링 등 실제 경제의 기반이 될 것으로 전망합니다.

구글 내부적으로도 텍스트에서 시작해 이미지, 비디오를 거쳐 결국 물리적 세계를 다루는 '월드 모델(World Models)'과 로봇 공학으로 나아가는 로드맵을 가지고 있습니다. 이 과정에서 필요한 서빙 용량은 4~5년 내에 1,000배로 확장되어야 합니다.

 

결론: 인프라 투자는 생존을 위한 필수 조건

현재의 막대한 AI 투자는 '닷컴 버블'과 같은 과열이 아닙니다. 오히려 폭증하는 토큰 복잡성과 멀티모달 수요를 따라잡기 위한 필사적인 '따라잡기(Catch-up)' 과정에 가깝습니다.

"상상력은 기술이다(Imagination is a skill)"라는 말이 있습니다. 현재의 단순한 챗봇 사용량만 보고 미래를 재단한다면 지금의 투자가 과해 보일 수 있습니다. 하지만 에이전트가 업무를 대행하고, AI가 물리적 로봇을 제어하는 세상에서의 '토큰 소비량'을 상상해 본다면, 우리는 아직도 엄청난 인프라 갭(Compute Gap) 속에 있다는 것을 알 수 있습니다.

 

Working Cite

[1]  https://x.com/DratchCap/status/2003517655555440669?s=20

[2]  https://openai.com/index/a-business-that-scales-with-the-value-of-intelligence/