裁剪｜Panda

「H100 是不是转眼从扫数平台上销亡了？」

X 用户 Jino Rohit 发出的这个疑问在外交媒体上连忙扩散，激勉了 AI 圈的无为共识。就连曾参与创立 OpenAI、被无数开发者奉为学习标杆的 Andrej Karpathy 也忍不住发声，赞扬 H100 的获取难度正在成为东谈主们参与 AI 探究和学习的真实瓶颈。

是以，到底发生了什么？为什么扫数东谈主王人嗅觉 H100 的市集供应较着下落了？

张开剩余93%

事实上，这并不是一时的市集波动，也不是某个平台的运营问题。这是一场正在悄然改换 AI 产业样子的算力危机。而它的中枢，远比「芯片不够用」复杂得多。

销亡的 H100

若是你在 2026 年头尝试从 AWS、Google Cloud 或 Azure 的圭臬渠谈租用 H100，能够率会碰壁。

SemiAnalysis 在本年 4 月发布的论说用一句话类比了这种缺陷：「找 GPU 算力就像在临了一班飞机腾飞前订机票 —— 价钱奇高，座位险些莫得。」

数字不错证实问题的严重程度。

H100 SXM5 的一年期租约公约价钱，从 2025 年 10 月的 1.70 好意思元/小时/GPU 低点，一谈飙升至 2026 年 3 月的 2.35 好意思元/小时/GPU，涨幅接近 40%。

https://semianalysis.com/gpu-pricing-index/

与此同期，SiliconData 的 H100 超大限度指数在 4 月底进一步跳涨至 7.49 好意思元。这是一个反直观的景象 —— 明明更宏大的下一代 Blackwell 架构芯片依然启动出货，上一代 H100 的价钱却不降反升。

https://www.silicondata.com/products/silicon-index

在径直采购渠谈，情况更为严峻。来自 Spheron 的数据涌现，H100 SXM5 的交货周期现在广泛在 36 至 52 周之间；H200 更长，卓越 40 周；而最新的 B200 的可用产能已被预订至 2027 年下半年。一家 AI 探究机构形色了躬行碰到：底本预算 4 万好意思元的 Q2 测验任务，在找不到预留算力的情况下，转向按需订价后成本飙升至 8 至 12 万好意思元 —— 若是还能找到算力的话。

https://www.spheron.network/blog/gpu-shortage-2026/

数据中心层面一样告急。一份提交给好意思国证券交往委员会的文献涌现，为止 2026 年头，北好意思数据中心的空置率已降至历史最低的 1.6%，公共 AI 相关支拨展望在 2026 年达到 2.52 万亿好意思元，同比增长 44%。市集上扫数主见在 2026 年 8 至 9 月前上线的算力，据报谈已被全部预订一空。

https://www.sec.gov/Archives/edgar/data/1446159/000117184326002096/exh_991.htm

那么，是谁在推高算力需求？

很赫然，著作启动处的那条推文与 Karpathy 的赞扬并非对牛弹琴，这也让 AI 的门槛从才气门槛变成了资源门槛。正如 X 网友 Rahul Chavan 捉弄的那样：「英伟达悄然成为了扫数这个词行业的瓶颈」。

具体来看，将 H100 从市集上「抽走」的，是一批体量远超个东谈主探究者的超等买家。

微软、谷歌、Meta、亚马逊在 2025 年就已接踵签下数十亿好意思元的 Blackwell GPU（GB200、B200）前置订单，将英伟达 2026 年全年乃至 2027 年头的可用产能基本锁定。这种提前布局的才气，径直将中型企业和学术探究者挤出了正规采购渠谈。

正如行业分析所指出的，这里存在一个权臣的分歧称性：超大限度云厂商和资金淳朴的前沿实验室，在危机真确爆发前的一两年里就通过远期公约锁定了供应。而其他扫数东谈主，只可竞争那些未被预留的现货和按需算力。

这批算力需求的限度令东谈主战栗。OpenAI 喜悦为下一代 AI 基础身手部署至少 10 吉瓦的英伟达系统；Anthropic 主见接收 1 吉瓦的 Grace Blackwell 缠绵容量；摩根士丹利预测，仅英伟达平台的 AI 管事器机柜需求，就将从 2025 年的约 2.8 万台跃升至 2026 年的至少 6-7 万台，限度翻倍多余。

超大限度算力的竞争，致使依然从买卖层面上升到地缘政事层面，「算力」也似乎正在成为国度竞争的策略资源。

真确的瓶颈：不是 GPU，是内存和封装

长入这场危机，有一个重要领路需要厘清：穷乏的中枢不是 GPU 芯片自身，而是围绕芯片的内存与封装工艺。

Spheron 的分析一语中的：这是「一个有两个根柢原因的结构性问题：台积电的 CoWoS 封装产能已被全部占满，SK 海力士的 HBM 产量无法跟上需求。」

HBM 的坐蓐窘境

高带宽内存（HBM）是当代 AI 芯片的中枢组件，H100 使用 HBM3，H200 和扫数这个词 Blackwell 系列则需要更先进的 HBM3e。公共有才气坐蓐 HBM 的厂商唯有三家：SK 海力士、三星和好意思光，而它们同期要为英伟达、AMD 和英特尔供货，同期又在争夺换取的 HBM 分派量。

HBM3e 的坐蓐比 HBM2e 更为暴戾 —— 更高的芯片堆叠数目和更严格的小吏意味着每片晶圆的良率更低。跟着 Blackwell 架构加快量产，2026世界杯中国亚博app官方手机版对 HBM3e 的需求捏续攀升，径直加重了本已疲于逃命的 H100/H200 供应。

TrendForce 的探究论说指出，从 2023 年到 2026 年，公共 HBM 总需求增长了约 3.8 倍（从 1.5BGB 到 5.7BGB）。三家供应商王人有各自的扩产主见，但新工场从拓荒到量产，需要不少时刻。

CoWoS 封装：另一谈卡脖子工序

台积电的 CoWoS（晶圆上晶片上基板）时刻是将 HBM 芯片键合到 GPU 基板的必要工艺。现在，这一封装产能已被预订至至少 2027 年中期 —— 事实上，部分订单的可见度已蔓延至 2028 年。

https://www.digitimes.com.tw/tech/dt/n/shwnws.asp

TrendForce 展望台积电 CoWoS 产能将在 2025 年达到每月约 7.5 万片晶圆，并在 2026 年底达到约 12 至 13 万片，但增长速率仍跟不上需求。

CoWoS 是 GPU 产量的瓶颈。当封装产能推论时，GPU 出货量才能真确提高；而在此之前，即便芯片制造工艺一切平素，也无法措置供应不及的问题。

HBM 穷乏的连锁效应

HBM 的供应病笃不单是让数据中心 GPU 变得稀缺，还产生了多重四百四病：

其一，消费级 GPU 坐蓐被大幅削减。据供应链媒体 Benchlife 等起首的报谈，英伟达在 2026 年上半年将 RTX 5000 系列（Blackwell 架构）产量削减了 30 至 40%，径直原因是 GDDR7 内存供应病笃，以及公司策略向数据中心 SKU 歪斜。消费级 GPU 市集如今一样干涸。

其二，HBM 的紧缺推高了 GPU 的合座租用成本，即使是手头有库存的云管事提供商，也濒临更高的硬件采购成本，并将其传导至租价。这评释了为何 H100 的现货价钱莫得因为 Blackwell 的出现而垮塌。

其三，AI 对内存的合并依然蔓延到了扫数这个词芯片产业链。正如机器之心此前报谈的，2026世界杯赛事竞猜最新版V2026.FIFAHBM 紧缺的压力正在向普通 DRAM、LPDDR 致使 CPU 市集传导。参阅《离谱：256G 内存比 RTX5090 还贵，你要为 AI 买单吗？》

谁在受伤？危机对 AI 生态的冲击

算力危机的影响并不均匀散布，它沿着资源才气的梯度，将 AI 生态的参与者折柳红了迥然相异的处境。

中袖珍团队：被动再行主见

按照 Spheron 的分析，算力危机对 AI 团队产生了三个层面的冲击：

测验延误：主见在 2026 年第二季度开展测验的团队，发现超大云平台的预留算力已被现存客户锁定，按需订价的成本进步 2 至 3 倍，且随时可能无法赢得算力。 推理成本激增：H100 按需价钱的飞腾让部分面向用户的 API 管事濒临单 token 成本超出盈利临界点的窘境，被动转向更小的模子或更低价的 GPU—— 这不是架构聘请，而是财务必要。 主见周期崩溃：曩昔企业不错「需要时再购买算力」，如今面对 36 至 52 周的采购周期和提前半年以上预订的云霄产能，这种弹性依然不复存在。

学术与零丁探究者：门槛正在升高

Karpathy 的担忧涉及了一个更深层的问题：当 H100 成为 AI 探究的事实圭臬，而 H100 又只对巨头绽开，那么「参与 AI」这件事的准初学槛是否正在被本钱决定？

关于高校实验室、零丁探究者和初创团队而言，这是切切实实的实践窘境。

应答策略

面对结构性的算力紧缺，产业界正在变成一套应答要领论。

向算力专属云搬动

AWS、Google Cloud、Azure 等通用云平台在算力病笃时优先保险自身 AI 业务和头部企业客户，对中小用户的按需算力供应日趋不雄厚。

与此同期，CoreWeave、Lambda、Spheron、Hyperstack 等「新式算力云（Neo-cloud）」正在填补这一空白。它们专注 GPU 供应，莫得里面 AI 业务与用户竞争产能，在库存和可用性上反而有结构性上风。

充分运用 Spot 实例

所谓 Spot 实例，是云平台将暂时闲置、尚未被长期公约预订的 GPU 算力以扣头价对外绽开的一种临时租用方式；代价是平台在需要回收资源时不错随时中断你的任务，因此也被称为「可被霸占的实例」。

正因为存在中断风险，Spot 实例的价钱远低于雄厚的按需实例 —— 时常低 40% 至 70%。合作自动化查验点时刻（每 15 至 30 分钟保存一次模子景色），即便任务被中断也只亏损最近一个归档点的程度，不错大幅镌汰测验成本。

据报谈，一支 12 东谈主团队曾借助这一方式，将一个 70B 参数模子的测验成本限度在约 1.12 万好意思元。

https://www.spheron.network/blog/spot-gpu-training-case-study/

模子优化以镌汰硬件需求

当 GPU 数目难以不时扩展时，减少对 GPU 显存与带宽的依赖成为另一条旅途。比较 FP16/BF16，FP8 量化时常可将模子权重内存占用镌汰约 50%，在推理场景下权臣减少 GPU 需求；更激进的 INT4 量化致使可让部分 13B 模子运行在单块 24GB 消费级 GPU 上。Blackwell 架构则启动相沿 MXFP4 等 FP4 微缩放神情，而 NVIDIA 自家的 NVFP4 神情还能进一步镌汰内存占用与带宽压力。

时时彩app官方网站下载

混杂内行（MoE）架构恰是凭借「每 token 只激活小数参数」的特点赢得了新一轮爱好。通过激活部分参数，能让缠绵成本大幅镌汰。

学问蒸馏则是另一个聘请：用大模子生成的输出测验小模子，让 7B 参数的学生模子在特定任务上达到大模子 85 至 95% 的推崇，同期将推理时的 GPU 需求镌汰 10 至 20 倍。

多云编排与故障升沉

单一供应商依赖在算力穷乏期间是一种危急，因此主动在两至三家算力平台间分派职责负载，并竖立自动切换机制，能够在某家平台突发断供时保险业务连气儿性。

算力穷乏并非无解，但需要时刻

供给侧：扩展已在路上，但时刻表滞后

SK 海力士与好意思光正在捏续推论 HBM3e 与 HBM4 产能，新增供给展望将在 2026 年逐渐爬坡，并于下半年后更较着缓解供应病笃。与此同期，台积电也在捏续扩展 CoWoS 先进封装产能，AI GPU 的封装瓶颈有望逐渐松动。

不外，NVIDIA 下一代 Rubin 架构天然仍主见于 2026 年下半年推出，却濒临供应链挑战。TrendForce 在 2026 年 4 月的论说中，将 Rubin 在 NVIDIA 高端 GPU 出货中的占比预测从 29% 下调至 22%，原因包括 HBM4 考证周期延长、ConnectX-9 网罗升级适配、更高功耗，以及更复杂的液冷系统需求。与此同期，Rubin 平台自身也将挥霍多数新增 CoWoS 产能，使先进封装资源短期内仍看护病笃。

比较之下，更教训的 Blackwell 平台将在短期内不时承担主力供应变装。TrendForce 展望，以 GB300/B300 为代表的 Blackwell 系列，将占 NVIDIA 2026 年高端 GPU 出货量的约 71%。

需求侧：Jevons 悖论正在献技

更令东谈主忧虑的是需求端的逻辑。表面上，模子效果的提高应该减少对算力的需求；实践中，效果提高只会让 AI 器用的应用界限扩大，进而带来更高的总算力挥霍。

效果提高不会减少需求，只会加快需求的扩展——这恰是工业史上闻明的杰文斯悖论（Jevons Paradox）。

从 SemiAnalysis 对 Claude Code 使用量的跟踪来看，AI 编程器用的普及正以惊东谈主速率接纳算力：他们预测 Claude Code 将在 2026 年底前占到公共日均代码提交量的 20% 以上。

https://newsletter.semianalysis.com/p/claude-code-is-the-inflection-point

普通消费者：买单者的时刻窗口

关于普通消费者和中袖珍企业而言，这场算力危机依然通过内存加价、消费级 GPU 减产、电脑手机竖立缩水等方式悄然侵入日常。多家产业探究机构展望，即便供应链捏续扩产，HBM 与先进封装等重要资源在翌日几年内仍将看护病笃景色；SK 集团董事长崔泰源（Chey Tae-won）曾经劝诫，AI 基础身手的供需失衡可能捏续数年。

若是说有什么详情味，能够是：翌日数年，先进算力资源仍将是 AI 行业最重要的瓶颈之一；而对算力、动力与基础身手的争夺，也将捏续决定谁能站在 AI 海潮的前排。

跟着下一代 Rubin Ultra 等 AI 系统功耗捏续攀升，机柜级供电、散热与液冷系统的要紧性和价值量也在快速上升。比较芯片自身，电源、网罗、封装与数据中心基础身手，正在成为 AI 武备竞赛中越来越重要的构成部分。

AI 的武备竞赛还远未竣事，而芯片只是这场竞赛中最看得见的战场。

参考荟萃

https://newsletter.semianalysis.com/p/the-great-gpu-shortage-rental-capacity

https://xueqiu.com/9993624771/360569153

https://www.spheron.network/blog/gpu-shortage-2026/

https://www.chyxx.com/industry/1251434.html

https://benchlife.info/nvidia-will-adjust-geforce-rtx-50-suppy-due-gddr7-shortage/

https://www.trendforce.com/news/2025/01/02/news-tsmc-set-to-expand-cowos-capacity-to-record-75000-wafers-in-2025-doubling-2024-output/

https://www.trendforce.com/presscenter/news/20260408-13003.html

https://www.koreatimes.co.kr/amp/business/companies/20260317/sk-chairman-warns-global-memory-shortage-may-last-through-20302026世界杯赛事竞猜官方版

发布于：河北省