长访谈 · 知识速览
速览
AI 摘要
文字稿 · 2506
名词表 · 12
万亿订单 vs 全面瓶颈——英伟达想当「AI 工厂」,但产能砸不出来、CUDA 没那么神了,而数据中心真正卡的,是土地和电力。
66分钟
18个章节
6条金句
12个名词
2506段对话

核心要点

💰
万亿订单 vs 全面瓶颈
黄仁勋称 2027 年 Blackwell+Rubin 累计订单 1 万亿;但 CoWoS、HBM、电力每个环节都卡,产能砸钱也砸不出来。
🔁
现金流在推理
训练是一次性投入、推理是长期现金流;成本占比正从 70% 训练滑向 70% 推理。
Groq/LPU 走偏锋
纯 SRAM、无 DRAM,延迟极低,agentic 场景 token/s/user 比 GPU 高 30 倍;未来是异构系统。
🔌
真正的瓶颈是电
数据中心铺设很快,卡在 land and power;美国电网 bone dry,新建多是 on-site 天然气、模块化集装箱。
🏰
英伟达两条护城河
快速执行力(一年发 7 款、内部 100% 用 AI)+ 供应链把控(老黄拿走大部分 CoWoS 产能)。
🧩
CUDA 没那么神了
kernel 级 AI 能写到 90%,但系统 know-how 和开发者生态仍是壁垒;私有化部署在变重要。
🤖
SaaS → Agent as a Service
软件从「标准化产品」变「AI 劳动力」,从 IT 预算变劳动力预算;没有模型能力的 SaaS 危险。
☁️
GPU 云拼的是稳定
20 多万个零件随时会坏;有卡只是起点,运维稳定性和把 token 成本打下来才是核心。

话题脉络 点哪跳哪 ↡

出场名词

人物黄仁勋 / GTC
概念1 万亿订单
人物张璐(Fusion Fund)
概念AI 工厂 / Token 经济学
概念CoWoS / HBM 瓶颈
产品Groq / LPU
概念communication 能耗
概念Agent as a Service
产品TPU
概念CUDA 护城河
人物GMI Cloud(Alex)
概念land and power