데이터센터 가속기 추격전: 독점은 유지되는가
생성 AI 붐은 데이터센터 가속기 수요를 폭발적으로 키웠다. NVDA의 지배력은 여전하지만, AMD와 INTC의 기술 추격이 가팔라진다. 하이퍼스케일러 고객들은 이제 선택지를 원한다.
1. 데이터센터 가속기: 급성장한 신경 영역
AI 학습과 추론을 가속하는 GPU·NPU 시장은 2024년 이후 연 50% 이상 성장하고 있다. NVIDIA는 H100·H200 시리즈로 시장의 80% 이상을 차지했으나, 수급 병목과 가격 압력이 생겼다. AMD는 MI300·MI325 라인으로 성능과 가격 경쟁력을 제시했고, Intel은 Gaudi 3와 더 강화된 로드맵을 공개했다. 이 삼각형 경쟁은 향후 2년을 좌우할 시장 구조다.
2. 왜 지금 ‘가속기 전쟁’이 되는가
기술 격차 축소: AMD의 MI325X는 일부 작업에서 H200과 유사하거나 더 나은 성능을 보여준다. 같은 칩 크기에서 메모리 대역폭·에너지 효율이 개선되면서 NVIDIA만의 기술 우위가 약해진다. Intel의 Gaudi 3도 비용당 성능 지표에서 경쟁 수준으로 진입했다. 차세대 출시 주기가 단축되면서 추격이 가속화했다.
고객 공급망 위험 회피: 대규모 클라우드 사업자들은 단일 공급업체 의존도를 낮추려 한다. 단일 공급 리스크는 가격 협상력을 떨어뜨리고 납기 불확실성을 키운다. 대안 칩 도입 테스트가 확대되면서 실제 프로덕션 배포가 시작됐다.
가격-성능비 경쟁 심화: H200의 공급 제약 속에서 AMD는 더 낮은 가격대에 유사 성능을 제시했다. 일부 하이퍼스케일러는 비용당 성능을 우선시하는 회계 신호를 보냈고, 이는 AMD와 Intel에 진입 기회를 준다. 동시에 NVIDIA는 보다 저가형 옵션으로 포트폴리오를 다층화했다.
소프트웨어 생태계 개방화: CUDA 종속성을 벗어나려는 움직임이 확산했다. PyTorch와 같은 프레임워크가 AMD HIP·Intel OneAPI 지원을 강화했고, 오픈소스 모델 커뮤니티도 다중 백엔드 테스트를 늘렸다. 오픈 생태계가 무르익을수록 경쟁 장벽이 낮아진다.
3. 그래도 선두인 이유: 구조적 강점
생태계 선점: CUDA 10년 이상의 이용 관성과 최적화 라이브러리는 쉽게 따라잡기 어렵다. 기존 모델의 포팅 비용과 재검증 부담은 여전히 높다.
성능 리더십 유지: 다음 세대 아키텍처 준비 상황과 파운드리 파트너십에 기반한 제조 공정 우위로 기술 간격을 재확대할 가능성이 있다.
4. 그러나 후발 주자의 기회: 구조적 약점
가격 경직성: 독점적 지위에서 높은 마진율을 유지하려면 가격 경쟁에 응하기 어렵다. 이것이 후발 주자의 발판이 된다.
고객 멀티 소싱 시대 진입: 규모 있는 인프라 투자자는 이제 23개 공급업체를 검증한다. 1020% 성능 손실을 감수할 유연성이 생겼고, 이는 경쟁자들에게 기회가 된다.
정리
선두의 우위는 유지되겠지만 절대적 지배는 약해질 것이다. AMD는 기술과 가격으로 점유율 확대를 노리고, Intel은 잃었던 입지를 되찾으려 분투한다. 향후 2년이 데이터센터 가속기 경쟁 구도를 최종 결정할 분수령이 될 전망이다.
본 글은 정보 제공 목적이며 투자 권유가 아닙니다.