엔비디아 H100 재고 정상화, AI 인프라 투자 절정 신호
NVDA(NVIDIA)가 최신 분기 실적에서 고급형 GPU 재고 감소 신호를 공개했다. 이는 단순 공급 안정화가 아니라 생성형 AI 인프라 투자의 과열 국면이 식고 있음을 시사한다. 메모리 칩 가격이 처음 내려가고, 클라우드 제공자들의 신규 장비 발주가 분기 대비 20% 감소한 가운데, 업계는 “AI 붐”에서 “AI 운영 정상화” 단계로 전환하고 있다.
H100 수급 정상화의 의미
H100은 2023년부터 2025년까지 인공지능 인프라의 병목이었다. 메타, 구글, 마이크로소프트 등 빅테크는 생성형 AI 모델 학습 경쟁에서 칩 부족으로 인한 수주 대기 시간이 3~6개월까지 늘어났다. 엔비디아 분기 매출이 역대 최고 127억 달러를 기록한 2023년 Q4 이후, 일 년간 수요는 공급을 초과했다. 하지만 2026년 상반기 데이터센터 칩 판매량 성장률은 전년 대비 45%로 급속히 둔화했다. 대기 시간은 4주 미만으로 정상화됐고, 이는 재고 누적 신호로 해석된다.
네 가지 핵심 압박 요인
1. 클라우드 기업의 투자 속도 조절: 아마존 AWS, 마이크로소프트 애저, 구글 클라우드는 2023~2024년 데이터센터 자본지출(capex)을 연 70억 달러 수준으로 가파르게 늘렸다. 2026년 들어 아마존은 데이터센터 확충 계획을 6개월 미연 조정했고, 마이크로소프트도 신규 AI 칩 발주를 선택적으로 진행 중이다. 최근 분기 결과를 보면, 클라우드 기업들은 이미 장착된 GPU로 충분한 추론(inference) 용량을 확보했다고 판단하고 있다.
2. 생성형 AI 모델 수렴: 2023년 ChatGPT 3.5, 2024년 GPT-4 출시 이후 거대언어모델의 성능 향상 속도가 둔화했다. OpenAI, Anthropic, Google DeepMind 등이 출시한 최신 모델의 벤치마크 개선율은 이전 분기 대비 5~10% 수준으로 떨어졌다. 즉, 추가 학습 인프라 투자 대비 효율이 하락하면서 기업들의 신규 칩 도입 동기가 약화됐다.
3. 경쟁 칩 출현과 가격 경쟁: AMD MI300, 인텔 Gaudi, 스타트업 Cerebras 등이 대안 AI 칩을 경쟁 가격으로 내놓기 시작했다. 메모리 칩 현물가는 2026년 1월 대비 12% 하락했고, 엔비디아 칩의 가격 할인 폭도 기존 1015%에서 2025%로 확대됐다. 클라우드 기업들은 이제 여러 벤더를 병행 조달하며 협상력을 강화했다.
4. 소프트웨어 최적화 혁신: 양자화(quantization), 혼합정밀도 연산, 모델 경량화 기술이 확산되면서 같은 성능을 더 적은 GPU로 달성할 수 있게 됐다. 메타는 올해 초 Llama 3 경량판을 공개했고, 이는 기존보다 40% 적은 메모리로 같은 성능을 낸다. 이러한 소프트웨어 진화는 하드웨어 수요를 구조적으로 억제한다.
구조적 강점과 약점
강점: 엔비디아는 여전히 AI 칩 점유율 80% 이상을 차지한다. H100 수급이 정상화되더라도 다음 세대 GPU 도입 사이클은 피할 수 없고, 소프트웨어 생태계(CUDA) 의존성이 깊어서 단기 이탈은 어렵다. 또한 추론용 전문 칩(L40S, L4) 수요는 여전히 강하다.
약점: 클라우드 기업의 자체 칩 개발이 가속화되는 중이다. 구글의 TPU, 아마존의 Trainium/Inferentia는 점차 성숙해지고 있고, 이들 기업은 자신의 플랫폼 내 AI 서비스를 자체 칩으로 운영하려 할 것이다. 이는 엔비디아 칩의 장기 수요를 침식한다.
정리
NVIDIA H100 재고 정상화는 생성형 AI 투자 사이클의 “과열 완화” 신호다. 클라우드 기업들의 capex 조절, 모델 성능 수렴, 경쟁사 칩 출현, 소프트웨어 최적화가 맞물려 하드웨어 초과 수요 시대는 끝나고 있다. CLOUD, CRM 같은 AI 서비스 기업들은 인프라 비용 안정화로 마진율이 개선될 수 있으나, 엔비디아는 공급 안정화 시대에 성장 둔화를 감수해야 한다.
본 글은 정보 제공 목적이며 투자 권유가 아닙니다.