这集讲什么
Naveen Rao 认为，AI 的长期竞争不只是造出更好的模型，而是谁能以更低的能源成本，将智能可靠地送进软件与物理世界；这将重塑芯片、投资和机器人市场。
1-3要点
- 能源是约束，效率是战略：AI 扩张既需要新电力，也需要降低完成同一任务所需的能耗。
- 模型不能与硬件分开优化：精度、稀疏性、内存和互连共同决定实际效率。
- AI 将稀缺性从生产转向验证：快速生成产物后，定义正确目标和判断结果成为关键。
0:00 / --:--
The Twenty Minute VC (20VC) · 10 月 24 日
Naveen Rao 认为 AI 的长期竞争是谁能以更低能源成本将智能送进软件与物理世界，这将重塑芯片、投资和机器人市场。
Naveen Rao 认为，AI 的长期竞争不只是造出更好的模型，而是谁能以更低的能源成本，将智能可靠地送进软件与物理世界；这将重塑芯片、投资和机器人市场。
这集还没有学习卡。生成后会保存在这一集，下次直接打开。
All-In Podcast· 2026-09-21Naveen Rao：四维计算、AI 的能源瓶颈与超越生物学Naveen Rao: 4D Computing, AI's Energy Wall & Beating Biology同一位嘉宾：Naveen Rao
a16z Show· 2026-10-09芯片、内存与电力｜Pat GelsingerChips, Memory, and Power | Pat Gelsinger同主题：能源与资源
No Priors· 2026-10-02为前沿 AI 实验室打造前沿芯片，嘉宾：Fractile 创始人兼 CEO Walter GoodwinFrontier Chips for Frontier AI Labs, with Walter Goodwin, Founder/CEO of FractileThe Twenty Minute VC (20VC)
20VC: Why Robotics Will be 100x Bigger than Coding Agents | Inference Will Be a $10TRN Market: What No One Sees | Why Software Investors are F***** Today with Naveen Rao, Unconventional
音频
Rao 曾创办 AI 公司 Nervana 和 MosaicML；主持人在开场介绍，MosaicML 后来以约 13 亿美元出售给 Databricks。他如今创办 Unconventional AI，关注为智能计算重新设计底层系统。这使他同时从模型训练、芯片架构和创业投资的角度讨论 AI，而非只谈应用增长。
本集从数据中心电力谈起，逐步转向模型与硬件协同设计、AI 产物的验证、数据和强化学习、推理市场的利润分配，最后讨论机器人与深科技投资。以下时间点依据英文转写标记；开场含广告，正文从约 05:09 开始。
这场对话的核心，是把 AI 看成一套“能源转化为可用智能”的系统。Rao 判断，数据中心眼下主要在消耗电网原有的富余容量；若需求继续增长，瓶颈就会从购买 GPU 转向新增发电、输配电和可部署算力。因此，他创办新公司的出发点并非单纯追求更快的芯片，而是让模型、计算架构与物理硬件共同降低每份智能的能耗。
这一视角也解释了他对利润分配的判断：普通模型能力和每 token 价格可能下降，但能显著提高能源转换效率的硬件仍有差异化空间。与此同时，AI 已让研发团队更快地产生代码与设计方案，稀缺环节却转为定义目标、检验结果，以及判断结果能否用于真实任务。他因此既看好 AI 加人类专家交付法律、工程等服务，也不相信企业会仅因生成速度提高就普遍摆脱专业人员。
最激进的部分是市场规模预测：他预计推理将在十年内达到 10 万亿美元，并认为机器人市场可达智能体编程市场的百倍。不过，他并不把“市场巨大”等同于“产品现在成熟”：对机器人，他给出的路径仍是先出现特定任务原型，再逐步形成市场。这些判断为硬件和深科技投资提供了方向，也留下了必须检验的问题——电力建设成本能否下降、验证能否规模化，以及物理智能能否从演示走向可靠交付。
💬 他们说了什么：Rao 引述行业估算称，新增 1 吉瓦电力相关基础设施可能需要约 500 亿美元，高于他所举的 200 亿—300 亿美元半导体晶圆厂建设成本。他认为，美国数据中心近年的新增用电，相当一部分来自提高既有系统利用率：美国电网平均输出约 900 吉瓦，峰值能力则可能达 1.2—1.3 太瓦。谈及中国建设速度，他强调两国在集中规划与前沿创新上各有优势。
💡 为什么重要：买到芯片，不等于获得能够长期运行芯片的电力。若项目只按 GPU 交付数量规划，而忽略并网、发电与建设周期，算力投放可能被更慢的基础设施环节卡住。
⚡ 争议点：每吉瓦成本、各国装机与建设速度均是访谈中的概括性数字；发电项目、输配电项目和可供数据中心使用的电力，也不能直接视为同一种容量。
💬 Rao 预计，按其所理解的 AI 增长速度，未来几年可迅速取得的富余电力会趋于稀缺，新增算力最终须匹配基础设施实际建设速度。他不相信当前条件下能一年新增 40 吉瓦；即便建成 10 吉瓦，按其成本口径也相当于约 5000 亿美元。他同时认为需求尚未充分释放，当前融资或债务市场的紧张更可能是波动，而非 AI 需求泡沫破裂。部分数据中心采用表后供电交易，愿意支付高于普通电网电价的费用。
💡 AI 电力可能出现按用途分层的价格：若推理收入足以覆盖更贵的电，数据中心会主动争取专门供电。这让能源项目经济性与模型服务的实际毛利紧密相连。
⚡ “几年内耗尽富余容量”取决于需求增长、地理位置及电网调度；他举出的更高电价和计算收入倍数主要是说明机制，并非统一的市场成交价。
💬 Rao 将计算效率分为物理器件、计算架构和模型三个层次。他认为，过去依靠器件缩小获得的效率改善已不如从前；近几代显著进展更多来自数据精度变化，例如从 32 位降至 16、8、4 位，减少搬运和计算的数据量。更未充分开发的空间，是在模型层约束数据移动、提高局部性，并与下层架构共同设计。
💡 如果主要负载已从通用计算转为提供智能，评估一台计算机就不应只看峰值速度，还要看完成特定模型任务所消耗的能源和数据搬运成本。
⚡ 把物理层效率视为“基本停滞”是他的判断；不同制程、封装、内存及系统设计仍可能提供改进，不能据此推断所有硬件创新只剩模型层。
💬 Rao 说，单在标准 GPU 上通过软件利用稀疏性，可能只得到有限增益；若物理内存和计算连接方式也为稀疏性设计，就可能释放更大收益。他因此看好针对神经网络负载的专用架构，而不是把当前模型结构当成不可更改的前提。他也肯定 NVIDIA 较早识别 AI 负载并持续投入，但认为市场足够大，不会因专用化就自动令其机会消失。
💡 这把竞争单位从“单颗芯片性能”扩展为模型、内存、互连、系统及部署方式的整体效率。专用芯片的价值，必须在实际负载中兑现，而不是仅靠规格表证明。
⚡ 专用化能提高效率，也可能损失灵活性；如果主流模型架构快速变化，围绕一种负载设计的硬件还面临适配风险。
💬 Rao 提出贯穿全场的框架：创造智能需要能源，而芯片、系统、网络和云共同承担将能源转化为智能的工作。他认为智能需求会持续扩张，因此不认同硬件会很快成为无差别商品。被问及公司覆盖面是否过宽时，他以团队设计耦合振荡器芯片的经验说明：过去一个可能花约 两周才得到初步结果的模拟问题，如今可借助模型生成代码，在约 一小时内展开探索。
💡 AI 不只是公司的销售产品，也是加快硬件研发的工具；团队能够更频繁地提出假设、模拟并修正设计。
⚡ “智能需求无限”是宏观世界观，不是可直接用于估值的需求预测。生成代码也只是缩短探索时间，模拟结果是否正确仍须独立核验。
💬 Rao 区分了娱乐性的 AI 生成内容和企业内部更棘手的“产物过剩”：代码、模型及设计方案能快速生成，却未必正确。他说问题正在从“如何生产”转向“如何验证”。但只掌握验证也不够，系统还须定义有用的任务规格，检查每项产物是否正确，并确认最终结果真正满足规格。他以外科医生的长期训练说明，关键不只是执行动作，而是在复杂情境下作判断。
💡 AI 工作流的护城河可能存在于完整的“目标定义—执行—检验”闭环，而非单独的生成器或测试工具。任务链越长，局部看似合理却整体偏离目标的风险越高。
⚡ Rao 不主张现阶段对所有任务一律信任智能体；但不同任务的可验证程度差异很大，不能把高风险医疗决策的要求原样套到普通开发工作上。
💬 Rao 预计数据公司会走向专业化，而不是全部沦为采集量的竞争。高质量代码数据、推理轨迹及针对任务设计的训练材料，决定模型学会什么。他把预训练、监督微调、强化学习等阶段的安排视作“课程”：重要的不只是持有什么数据，也包括按何种顺序、用什么目标塑造行为。他认为，大型模型公司当前相当多的能力进展来自数据筛选与训练方法组合。
💡 数据资产的价值需从“量”转向“能否培养可验证的专业能力”。对于垂直行业，难以复制的可能是经验、任务反馈和课程设计，而不是原始文档数量。
⚡ 专业数据有价值，不代表数据公司必然取得利润；模型厂商、客户或交付服务的一方仍可能控制分销及定价。
💬 Rao 以练习网球发球解释强化学习：先有对好结果的判断，再反复尝试并依据反馈调整。无法为世界上每项任务收集足够示例，因此针对重要任务建立可验证奖励很有吸引力。不过他也认为，按每单位算力或资金带来的改善衡量，强化学习未必比其他训练方式更高效。他预计未来会进入“后 Transformer”阶段，理由是当前依赖上下文检索和多条输出轨迹实现推理的方法，可能并非最有效路径。
💡 当奖励能够可靠测量时，系统就能针对任务持续改进；而基础架构若变化，又会影响训练方式与专用硬件的最优设计。
⚡ 后 Transformer 的具体替代架构、效率收益及到来时间，访谈中都没有给出可验证的路线图。这是技术判断，而非已发生的范式转换。
💬 Rao 认为部分模型能力已经开始商品化：较早发布的开放模型仍足以完成许多任务。随着每 token 价格下降，提供模型托管与推理服务的运营商必须从硬件利用率中挤出利润；他判断未来 10 年硬件更值得关注，并直言只沿用纯软件投资思路会很困难。不过他随后澄清：传统 SaaS 的利润逻辑受冲击，不等于 AI 加人工专家、直接交付法律或工程成果的企业没有机会。
💡 同样被称为“AI 软件”的公司，可能分别出售席位、推理服务或经验证的工作成果，成本结构与议价能力完全不同。
⚡ 推理价格下降不必然令运营商利润下降，利用率、软件优化和规模也会影响结果。“软件投资者处境不利”是刻意鲜明的判断，不能替代对具体公司的分析。
💬 主持人以企业开发人员薪酬及编程工具支出为例，追问技术支出占比会如何变化。Rao 认为比例可能大致稳定，因为高水平开发者的价值在于判断代码质量、验证输出及决定要解决什么问题。他举例说，一家公司即便仍每年花 1000 万美元开发软件，也可能因为 AI 的加入，将客户过去等待一年的更新逐步缩短到按周、甚至按小时交付；投入不一定减少，产出和需求却会增加。他以机器人承担建筑中 80%任务的假设，说明建造周期缩短也可能刺激更多项目启动。
💡 分析 AI 对就业或软件预算的影响，不能只固定任务总量、计算单次任务节省多少；供给变快变便宜，也可能改变客户对交付频率的期望。
⚡ 需求增长能否吸收效率提升，取决于行业、监管、支付能力及项目数量。建筑例子是用于说明机制的假设，不能当成已实现的机器人能力。
💬 面对主持人对机器人应用投资时机的质疑，Rao 预计，部分任务将在未来 2—3 年出现可用原型，市场则可能在 5—7 年逐步形成。他进一步预测，AI 模型本身在未来几年可形成万亿美元级市场，推理市场在 10 年内达到 10 万亿美元；若每 token 的交付效率提升一个数量级，原本不经济的用途会变得可行。他因此判断，机器人市场最终可能是智能体编程市场的 100 倍。投资上，他目前更偏向技术栈，并猜测机器人模型公司最后会把模型与整机一起交付，而非仅售卖模型。
💡 编程智能体主要作用于数字任务，机器人若能动态处理清洁、维修和建造等物理问题，可触及另一类规模庞大的劳动与服务支出。
⚡ 10 万亿美元和100 倍都属于嘉宾预测，访谈没有提供统一的市场口径或测算模型。原型、规模交付和可靠盈利也是三个不同里程碑。
💬 Rao 说，投资深科技时，若需求本身足够明确，应更关注技术问题是否被逐步攻克，而非套用 SaaS 式的早期市场验证。他不看好缺少独特能力、只把现有人工任务快速自动化的项目，也质疑编程智能体界面或工具层能保留多少价值。谈及模型使用量，他预计约 80% 的 token 流量可能来自开放模型，同时认为前沿闭源模型仍能在重要任务上收取溢价，支出未必按流量比例分布。结尾他强调，最令自己兴奋的是 AI 扩大科研人员能够探索的问题范围。
💡 投资判断需要区分“市场是否存在”和“技术是否可行”；使用量、营收与利润也不应混为一谈。他对科学探索的乐观，建立在 AI 能增强人类研究能力，而非已经自动解决重大科学难题之上。
⚡ 开放模型的 80% token 占比是预测；深科技项目即使面对明确需求，仍有制造、监管和商业化风险。关于编程工具价值最终流向模型厂商的观点，也可能低估工作流与客户关系。
“我们不把模型奉为不可更改的东西；我们的思维方式首先考虑能源。”——Rao，意译
“问题已经从生产转向验证。”——Rao，意译
“能源转化为智能，中间承担转换工作的就是硬件。”——Rao，意译
“你投资的是开车的人，而不只是那辆车。”——Rao 谈早期深科技投资，意译
