인공지능 스타트업은 클라우드 서비스에서 GPU 접근을 박탈당했고, 그 자원은 Anthropic과 OpenAI가 흡수했다

클라우드 거인 Microsoft, Amazon 및 CoreWeave가 사용 가능한 GPU의 대부분을 차지하여 스타트업은 대기열에 남아 있습니다. 이 현상은 Sequoia Capital, Founders Fund, General Catalyst 및 Andreessen Horowitz와 같은 벤처 펀드가 투자한 기업에도 영향을 미칩니다. 지난 6개월 동안 GPU 임대료는 25% 이상 상승했으며 Azure의 데이터에 따르면 부족 현상이 2026년 말까지 지속될 수 있습니다.

1. 무슨 일이 일어나고 있는가
공급자별 자원 배분
Microsoft: 3단계 구조
• 연간 계약을 맺은 약 1000명의 대형 고객에게 우선권 부여
• 중견 기업에는 매니저 할당
• 소규모 및 마이크로 비즈니스는 파트너를 통해 접근

Amazon & CoreWeave: 유사한 모델이지만 더 엄격한 쿼터 적용
• Blackwell 칩은 최소 1000개와 수천만 달러 규모의 연간 계약 필요
• 구형 NVIDIA 모델은 몇 주에서 몇 개월의 대기 후에야 사용 가능

2. 스타트업이 대기열에 있는 이유
1) 우선권 거래
Microsoft, Amazon 및 CoreWeave는 Anthropic과 OpenAI와 수십억 달러 규모의 계약을 체결해 이들 기업에게 GPU 접근을 보장합니다.

2) 소기업 쿼터 축소
새로운 AI 도구 등장으로 계산 자원 수요가 급증하면서 공급자는 소규모 고객에 대한 한도를 낮추었습니다.

3) 구형 계약 만료
과거 2–3년 기간의 계약이 만료되면서 공급자는 이를 기회 삼아 보다 지불 능력이 높은 고객에게 자원을 재배분합니다.

3. 벤처 펀드의 반응
- General Catalyst
Hemant Taneja 파트너는 포트폴리오 기업에 GPU 접근 여부를 조사하기 위해 설문을 보냈습니다. 그 결과, 공동 컴퓨팅 풀을 구축하고 투자자 대표로 공급자와 협상할 계획임을 발표했습니다.

- Andreessen Horowitz & Index Ventures
2023년 초 대형 공급자가 공개 접근을 축소한 이후 이 펀드들은 포트폴리오 스타트업용 자체 GPU 풀을 형성하기 시작했습니다.

4. 특정 기업에 미치는 영향
기업 | 투자자 | 현재 상황
Anthropic | – | 큰 계약에도 불구하고 자원 부족, Azure는 2026년 말까지 부족 예고
Lightning AI | – | 약 40,000개의 GPU를 관리하지만 400,000칩이 필요한 40개 기업 대기 중. 시간당 비용은 $1.6에서 >$2로 상승(일부 구성에서는 더 높음).
Krea | Andreessen Ventures 및 Bain Capital Ventures의 8300만 달러 투자 | 6개월 전 Blackwell 칩 수백 개를 $2.8/시간에 계약했으나, 모델 학습용 자원 확장 시 공급자가 응답을 중단하거나 부족 사유를 제시함.

5. 숫자로 보는 현황
- 가격 상승: 6개월 동안 GPU 임대료가 25% 이상 증가했습니다.
- Blackwell 칩 쿼터: 최소 1000개와 수천만 달러 규모의 연간 계약 필요.
- 구형 칩 접근성: 몇 주에서 몇 개월, 때로는 그 이상 대기.

6. 앞으로의 방향
1) 펀드들은 자체 GPU 풀을 구축해 대형 공급자 의존도를 낮추려 합니다.
2) 공급자는 접근 통제를 강화합니다: 할당된 칩을 충분히 사용하지 않으면 영구적으로 GPU 접근이 차단될 수 있습니다.
3) 대형 AI 기업과의 장기 계약은 여전히 우선권을 부여하지만, 수요 증가로 인해 제한에 직면하고 있습니다.

결론
클라우드 GPU 부족은 스타트업에게 심각한 장애물이 되고 있습니다. 벤처 펀드는 자체 풀 구축 및 공급자와의 적극적 협상을 통해 대응하고 있지만, 대형 플레이어는 여전히 우선권을 유지합니다. 임대료 상승과 대기 시간이 늘어나고 있는 상황은 향후 몇 년간 면밀히 관찰할 필요가 있습니다