🔬 未来的实验室应该像数据中心一样——Andy Beam、Rafa Gómez-Bombarelli｜Lila Sciences🔬 The Lab of the Future Should Feel Like a Data Center — Andy Beam & Rafa Gómez-Bombarelli, Lila Sciences

播出信息

• 播出日期：2026-07-16
• 节目：Latent Space Science
• 嘉宾：
• Andy Beam：Lila Sciences 首任首席技术官（CTO），长期从事 AI、医疗与生命科学研究。
• Rafa Gómez-Bombarelli：Lila Sciences 联合创始人、物理科学首席科学官（Chief Scientific Officer for Physical Sciences），背景横跨计算化学、材料科学、分子模拟与生成式 AI。
• 主持人：Brandon、RJ
• 场合：Latent Space Science 播客访谈，围绕 Lila Sciences 的科学基础模型、AI Science Factory、实验室自动化、真实实验数据、材料与生命科学的差异，以及科学强化学习的计算和实验瓶颈展开。
• 标题：The Lab of the Future Should Feel Like a Data Center
• 音频标称时长：约 5753 秒，即 01:35:53。
• 转写异常提示：所给英文转写在约 12:37 至 1:33:25 之间被明确标记为“中段省略”，而尾部文字时间码继续到约 1:40:58，长于所给“全集时长约 5753 秒”。因此，下文不会臆造缺失段落的具体表述；中段只能依据用户提供的正式时间戳主题标签概括议程，无法把标签扩写成未经转写支持的事实。

背景

AI 数据瓶颈。Andy Beam 认为，过去约 4、5、6 年的大语言模型进展依赖规模化计算与规模化数据的结合，而数据主要来自人类生成的互联网。他引用 Ilya 在 NeurIPS 的说法：“我们只有一个互联网。”在他的比喻中，互联网数据像一种已经被开采的化石燃料；AI 接下来的问题，是哪里还能出现互联网规模的新数据集。

从互联网语料转向科学实验。Lila 的答案不是继续重复采集同质数据，而是把科学方法本身变成数据生成机制：模型提出实验或协议，实验室执行，现实世界与自然规律提供反馈，然后反馈用于训练模型。Andy 将其称为“science as an infinite token generator”，即把科学视为持续生成训练 token 的系统。

实验室不是单纯的自动化工厂。Lila 强调自己不是“automation maximalist”，而更接近“token generation maximalist”和“flexibility maximalist”。其优先级不是把所有动作都自动化，也不是只追求单位时间内重复同一种实验的最高吞吐，而是让模型能够设计此前没有被人工预先穷举的新实验协议，并获得有信息价值的反馈。

跨学科出发点。Andy 的经历涵盖神经网络、医疗 AI、Harvard Medical School、Generate Biomedicines 和学术实验室；Rafa 则来自计算化学、分子模拟、材料科学与生成式化学。两人的共同判断是：仅靠计算生成的数据不足以完成从虚拟预测到现实科学发现的闭环，必须把模型连接到真实实验。

范围说明。本笔记不额外引入 Lila Sciences 的融资额、公司估值、实验室规模、模型参数量、合作项目细节或外部行业数据。凡涉及公司目标、10 万亿 token、CAR-T、Flagship、Mission Genesis 等内容，若在现有可见转写中没有完整展开，均会标记为“仅由时间戳提示确认主题”或列入“需核实”。

总结分析

这期访谈的主线不是“如何用机器人替代实验员”，而是如何把科学实验改造成 AI 的下一种规模化训练资源。Lila 接受“苦涩教训”：长期来看，能够随着计算、数据和通用方法一起扩展的系统，往往会胜过高度依赖人工规则与狭窄领域技巧的系统。互联网曾为大语言模型提供海量人类数据，但 Andy 认为这一资源已经被充分开采；科学模型若想继续扩展，就需要一种能够主动生成、验证并筛选新数据的机制。Lila 因而把实验室定义为“scaled verifier”：模型生成假设和实验动作，自然与实验结果判断哪些轨迹有效，再把反馈用于后训练或强化学习。

这套构想的关键新意，是将数据规模化问题重新表述为实验系统工程问题。实验不是瞬时返回：不同生物、化学和材料任务可能需要不同反馈周期，其中一些以天或周计。实验数据也并非越多越好；重复测量已经进入收益递减区的数据，未必能为模型提供多少新增信息。因此，Lila 更重视灵活性、实验覆盖面和“下一个 token 的信息价值”，而不是单一检测平台的极限吞吐。其实验室被描述为由仪器节点和物理运输边构成的图，96 孔板通过磁悬浮平面电机系统在仪器间移动，类似计算机主板上的 PCI 总线。

但这仍是一项有明显风险的宏大工程。实验室自动化存在很长的尾部问题，甚至取下试管盖都可能很难自动化；物理实验反馈慢于纯数字环境；材料模拟与真实世界之间还有 sim-to-real 缺口；强化学习本身的 GPU 利用率也可能只有约 5%—6%。更重要的是，转写中没有给出模型性能、实验成功率、数据质量、单位 token 成本或通用模型优于专用模型的直接对照结果。因此，这期节目最有价值之处是提出了一套清晰的系统架构与规模化论点，而不是已经完成了对全部技术和商业假设的验证。

节目结构 / 议程

1. 开场命题：互联网数据耗尽之后，科学实验能否成为下一片数据大陆 — 00:00 🎧 · ▶️
2. 两位嘉宾的共同轨迹：从学术研究走向规模化 AI for Science — 00:46 🎧 · ▶️
3. “苦涩教训”：通用、可扩展的方法优先于人工特化系统 — 05:36 🎧 · ▶️
4. 有价值的下一个 token：拒绝把重复数据量误当成科学信息量 — 10:01 🎧 · ▶️
5. 实验室的“PCI 总线”：把仪器、运输和协议抽象成可编排系统 — 14:34 🎧 · ▶️
6. 模型才是产品：10 万亿 token 与通用科学模型路线 — 28:16 🎧 · ▶️
7. 不只是 TechBio：材料、化学和真实世界验证 — 35:25 🎧 · ▶️
8. 从实验发现到现实转化：CAR-T、zero-FTE 与临床风险 — 44:12 🎧 · ▶️
9. 开放式探索与实验室即数据中心：从发现机制到规模化编排 — 59:40 🎧 · ▶️
10. 材料与生物的难点不同：价值确认、开放生态与政府角色 — 84:22 🎧 · ▶️
11. 最终技术瓶颈之一：材料模拟到现实的 sim-to-real 缺口 — 91:33 🎧 · ▶️
12. 计算侧瓶颈：RL 的 MFU 只有约 5%—6%，以及最后的招聘信息 — 95:53 🎧 · ▶️

分节详解

1) 开场命题：互联网数据耗尽之后，科学实验能否成为下一片数据大陆 — 00:00 🎧 · ▶️

💬 他们说了什么： 开场直接抛出 Lila 的核心立场：他们“all in on the bitter lesson and scale”，相信可扩展且通用的方法会击败无法扩展的方法。Andy 援引 Ilya 在 NeurIPS 的说法：“We have but one internet”，并把互联网比喻为已经被压裂开采的化石燃料。过去的大模型从互联网中提取了尽可能多的数据，因此问题转为“下一套互联网规模的数据集从哪里来”。主持人把这一设想概括为：在 compute、data、parameters 等扩展轴之外，为科学数据增加一种新的扩展方式。Lila 给出的视觉化答案是，未来实验室应当像数据中心，由密集排列且重视能源效率的“机架”式基础设施组成。

💡 为什么重要： 这将 AI for Science 的问题从“已有科学数据上训练一个更好的模型”，改写为“建设能主动生产训练数据的物理基础设施”。如果实验可以像计算任务一样被调度、验证和回流，那么实验室就可能成为模型训练系统的一部分，而不只是模型输出之后的验证场所。

⚡ 争议点： “互联网数据已经用尽”在节目中是一种方向性判断，转写没有提供互联网数据利用率或剩余高质量数据量的测算。实验室能否达到“互联网规模”也缺乏成本、速度和信息密度方面的直接证据。

2) 两位嘉宾的共同轨迹：从学术研究走向规模化 AI for Science — 00:46 🎧 · ▶️

💬
Andy 自称已经从事 AI 研究约 20 年，经历过 SVM、随机森林和深度学习兴起前后的阶段。他约在 2010—2014 年攻读神经网络博士，当时自动微分库尚未成熟，他笑称自己需要手写反向传播。受身为医生的妻子影响，他开始关注医疗和生命科学中的 AI，随后在 Harvard Medical School 做医学 AI 的早期工作。他还帮助创办 Generate Biomedicines，并担任创始机器学习负责人；之后约 5 至 6 年同时从事 Harvard 学术研究和创业相关工作。由于学术界难以提供规模化计算与资源，他在两年前离开学术岗位，成为 Lila 首任 CTO。

Rafa 是 Lila 联合创始人及物理科学首席科学官，早期是一名计算化学家。他描述了一个转变：随着分子模拟所用计算资源扩大，研究者在 2010 年代早期开始遭遇数据问题；他曾与 David Duvenaud、Ryan Adams 合作，把深度学习引入科学研究。Rafa 还提到自己较早用自动编码器处理 token 化分子，从事生成式化学研究。约在 2015—2016 年间，他把博士后工作衍生为一家计算材料平台公司，随后前往 MIT，在材料科学与工程领域建立研究组。到 2022—2023 年，他越来越明确地认为，AI 必须跨越“计算材料科学”与“真实材料科学”之间的缺口。

💡
两位嘉宾分别代表生命科学 AI 与物理/材料科学 AI，这解释了 Lila 为什么不是只针对单一药物发现任务。更重要的是，他们都从学术路线转向规模化基础设施路线，说明公司的基本判断是：模型能力突破需要实验、计算、数据和组织资源的共同扩展。

⚡
个人经历可以解释战略来源，却不能直接证明该战略有效。“较早从事生成式化学”等历史定位属于嘉宾自述，转写没有提供论文或日期清单进行独立比较。

3) “苦涩教训”：通用、可扩展的方法优先于人工特化系统 — 05:36 🎧 · ▶️

💬
Andy 表示，Lila 全面押注“苦涩教训”和规模化，认为通用且能扩展的方法最终会胜过不能扩展的方法。他承认这个命题听上去很直接，但实际上与 AI 约 70 年历史中的许多研究习惯相反。过去约 4、5、6 年的大语言模型进展，来自规模化计算和规模化互联网数据的结合。进入预训练之后，AI 开始大量使用“带可验证奖励的强化学习”；Andy 把 RL 解释为模型生成自身数据，再通过奖励信号强化好数据、惩罚坏数据的机制。数学和编程之所以适合这种框架，是因为答案较容易验证；Lila 则认为，科学方法、自然和真实实验是这一框架的终极版本。

他们把正在建设的系统称为 AI Science Factories，即科学领域的规模化验证器。其目标是支持大规模后训练，并推动推理模型能力边界。面对实验运行时间不同的问题，Andy 承认生物系统存在自然速度限制，例如不能随意让核糖体更快；部分实验的周期可能以天或周计算。Lila 的解决思路是并行生成不同类型、不同时间尺度的数据，并在数据生成之后同步训练。

💡
这把科学实验放进了强化学习闭环：模型不只是阅读论文或预测结果，而是通过实验行动获得可验证反馈。其潜在优势是奖励信号来自现实世界，而不是纯粹依赖人类偏好、静态答案库或模拟器。

⚡
真实实验并不天然等于干净、快速、无歧义的奖励函数；转写也没有说明噪声、失败实验、多目标优化和不可重复结果如何被编码为奖励。所谓“无限 token 生成器”是架构愿景，不代表实验成本、时间和物理资源真正无限。

4) 有价值的下一个 token：拒绝把重复数据量误当成科学信息量 — 10:01 🎧 · ▶️

💬
主持人追问：科学 token 类型很多，并不是每个 token 都提供同样的信息量。以 NGS 为例，理论上可以持续采集大量数据，但另一个人类基因组相对参考基因组可能只增加“几 KB”信息。Andy 同意，平台不应反复生成同一种、已经进入收益递减区的数据。因此，Lila 的实验平台优先考虑 generalizability and flexibility over raw throughput，即通用性和灵活性高于原始吞吐量。理想状态下，模型应能设计新的实验协议、执行该协议并接收反馈，即使这项实验此前没有被团队人工设想过。

Andy 强调，他们不希望媒体把 Lila 简单描述成自动化公司。公司并非自动化最大化主义者，而是 token 生成和灵活性最大化主义者。判断标准不是机器替代了多少手工动作，而是“下一个增量 token”是否真的能教会模型新东西。

💡
这是对“大数据即好数据”的直接修正：真正稀缺的不是原始记录数量，而是能改变模型认知、降低不确定性或验证新假设的数据。它也意味着实验平台必须支持任务多样性，而不能只围绕单一高通量检测流程优化。

⚡
节目没有给出“token 价值”的正式度量方法，也没有说明模型如何在探索性、成本、风险与预期信息增益之间取舍。NGS 例子用于说明边际信息递减，但不能直接推广到所有科学数据类型。

5) 实验室的“PCI 总线”：把仪器、运输和协议抽象成可编排系统 — 14:34 🎧 · ▶️

💬
Andy 建议把实验室想象成一张图：每台仪器是一个节点，节点之间的边表示物理运输层。Lila 使用平面电机系统，使 96 孔板以磁悬浮方式在轨道上移动，并能以毫米级精度控制其位置。他将这一结构比作 PCI bus：在计算机主板上，新显卡或硬盘通过总线与系统其他部分通信；在实验室中，新仪器也应接入共同运输和控制基础设施。该方案正在越来越多地覆盖生物与材料系统，但 Andy 明确表示还没有完全实现。

自动化存在很长的尾部问题，材料科学尤其缺少现成的高通量自动化设备，因此 Lila 也在开发定制仪器。Andy 用“80/20”描述接入策略：容易自动化的部分直接连接到总线；暂时难以自动化的部分仍由人移动样本。甚至从试管上取下盖子都可能难以自动化，因为很多实验室操作默认执行者拥有灵活的对生拇指。团队会随着收益变得明确而逐步自动化，而不是把全自动化当作先决条件。

💡
这表明 Lila 的系统不是单一机器人或单一检测设备，而是一种面向异构仪器的实验编排层。保留人在环也降低了“必须先解决通用实验机器人，才能开始生产数据”的门槛。

⚡
时间戳把后续部分标记为安全、科学严谨性、奖励投机和思维链病理，但相应正文位于省略区，无法确认嘉宾具体提出了哪些控制机制。现有转写也没有给出仪器接入时间、故障率、维护成本或实验复现率。

6) 模型才是产品：10 万亿 token 与通用科学模型路线 — 28:16 🎧 · ▶️

💬
用户给出的时间戳将 28:16 的主题明确标为“Why Lila isn't a biotech: the model is the product”，并在 32:36 标为“10 trillion tokens & why the general model wins”。这与前段可见转写的总论点一致：Lila 不希望被理解成只做实验室自动化或单一生物技术资产的公司，而是希望训练能解决科学问题的前沿模型。Andy 在个人介绍中也说，吸引他加入的原因是“science as an infinite token generator to train models at scale”，并反问为什么不去创造一个能解决科学问题的新前沿模型。所给结尾转写再次提到，当拥有 10 trillion tokens 时，需要尽可能高效地把这些数据送入模型，并继续在其上进行强化学习。

不过，现有正文在这一段被省略，无法确认“10 万亿 token”是已经持有的数据量、目标数据量、设计容量，还是对未来规模的假设。也无法从现有转写还原通用模型优于领域专用模型的实验论据、评测任务或性能比较。

💡
如果模型是产品，实验室就不是最终商业交付物，而是类似训练集、验证器和数据引擎的基础设施。这决定了公司应优化跨任务迁移与通用推理，而不是只优化某个候选药物或材料项目的短期成功率。

⚡
“通用模型胜出”是核心战略主张，但可见转写没有提供基准测试或消融实验。10 万亿 token 的定义、模态构成、质量控制、真实实验占比与去重方法都需要进一步核实。

7) 不只是 TechBio：材料、化学和真实世界验证 — 35:25 🎧 · ▶️

💬
时间戳提示这一段覆盖材料、量子点、MOF，以及材料科学的“bittersweet lesson”；但对应逐句转写没有提供，不能复原具体实验与成果。可见的前段内容显示，Rafa 的长期目标是把 AI 从计算材料科学推进到“actual material science”，即接受真实实验验证，而不只是处理模拟数据。他指出 Meta、DeepMind 和 Microsoft 都有面向计算材料科学的 AI 团队，但 Lila 认为仍需跨越从计算结果到现实实验的缺口。结尾处 Rafa 进一步解释，团队会模拟“gooey stuff”的分子系统，也会对“hard stuff”做电子结构模拟，但这些模拟“还不够具有预测性”。

他认为，若模拟已经足够准确，团队也许就不必为材料建设自驱动实验室。过去约十年 AI for Materials 一直在追问：用计算数据训练的模型，能否回答真实世界的实验问题。Rafa 还指出，AlphaFold 实际上是在实验数据上训练的，而不是一个依靠物理模拟数据完成突破的例子。

💡
材料科学把 Lila 的理论置于更严苛环境：模拟数据可以极大规模生成，却可能系统性偏离现实。真实实验因此不仅用于最终验证，还可能负责纠正模型从近似模拟中继承的偏差。

⚡
量子点、MOF 和所谓材料“苦乐参半教训”的具体论证处于缺失转写中，不能据此判断项目成熟度。关于各公司团队和 AlphaFold 数据来源的说法在节目中没有附带引用，应结合原始论文进一步核实。

8) 从实验发现到现实转化：CAR-T、zero-FTE 与临床风险 — 44:12 🎧 · ▶️

💬
所给时间戳把 44:12 标记为“in-vivo CAR-T proof point”，49:13 标记为“zero-FTE startup model”，52:56 标记为“clinical translation & loading the die”。这些标签说明访谈曾讨论体内 CAR-T、接近零全职人员配置的创业模式，以及如何提高临床转化成功概率。由于该段正文完全被省略，无法确认具体项目名称、实验对象、疗效数字、公司结构或“proof point”究竟指技术演示、动物实验还是其他层级的证据。也不能确认“zero-FTE startup”是已经运行的实体模式，还是一种未来组织设计设想。

从结尾可见内容看，嘉宾认为生命科学资产一旦通过临床试验，其经济价值通常更容易被市场识别，而生产成本很少成为首要阻碍。相较之下，材料公司即使拥有重要技术，也可能只是现金流良好但公众不熟悉的供应商。因此，“临床转化”不仅是科学问题，也与资产融资和价值确认方式有关。

💡
这一段触及 AI Science Factory 如何从训练模型走向可转化资产：模型发现并不等于产品成功，仍须经过现实验证、临床或工程资格认证。若实验闭环只能提升早期发现速度，却不能改善后续转化概率，其商业价值会受到限制。

⚡
“体内 CAR-T proof point”是一个很强的措辞，但缺失转写没有提供足够证据判断其含义。涉及临床、疗效和安全性的内容必须查阅正式实验报告，不能仅依据章节标题推断。

9) 开放式探索与实验室即数据中心：从发现机制到规模化编排 — 59:40 🎧 · ▶️

💬
时间戳显示 59:40 讨论 Ken Stanley 与 open-endedness，61:07 开始实验室视频 walkthrough，并以“lab as a data center”为核心比喻。后续 67:07 的主题是编排、扩展和更快的 assays，74:54 则是仪器接入及 10 万亿 token 数据集。虽然逐句转写缺失，但前段对实验室图结构的解释提供了技术框架：仪器是节点，物理运输是边，样本在系统中流动，而模型需要能够组合不同节点形成新实验协议。所谓“像数据中心”并不只是外观相似，还意味着设备标准化接入、任务调度、并行执行、利用率优化和故障处理应成为核心工程问题。

Lila 同时拒绝只追求单一 assay 的最大吞吐。它希望系统能在不同反馈时间尺度上并行生成数据，再把这些数据同步用于模型训练。开放式探索在这里意味着模型不应只执行固定的人类配方，而应有能力提出此前未被预先列举的实验路径。

💡
这把实验室设计与模型探索策略联系起来：如果物理系统只能运行少数固定流程，再开放的模型也无法把新想法转化为实验。反过来，仪器接入越灵活，模型可搜索的科学行动空间就越大。

⚡
现有转写无法确认节目如何定义 Ken Stanley 的 open-endedness，也无法确认 Lila 已实现多少自主实验编排。10 万亿 token 数据集的规模、状态和质量仍然没有充分披露。

10) 材料与生物的难点不同：价值确认、开放生态与政府角色 — 84:22 🎧 · ▶️

💬
时间戳显示该段先讨论 Lila 与 Flagship 生态，随后在 91:33 比较材料和生物哪个更难。可见转写中，嘉宾指出生物资产相对容易被承保或融资：如果通过临床试验，资产会被视为具有明确价值，而制造成本通常很少成为主要阻碍。材料领域则不同，重要材料可能应用广泛、产生稳定现金流，但制造公司的公众知名度远低于大型制药公司。嘉宾以超导体为例追问听众是否知道制造超导材料的公司名称，并提到 MRI 是他们知道的商业应用之一。

他们还认为，大型材料公司的核心问题往往在“闭门”环境中，外部团队首先需要让企业说出什么问题真正重要，因此开放创新生态弱于生命科学。Rafa 补充，政府资助和国家安全在化学、尤其材料创新中是重要驱动力。Lila 表示自己与英国政府有合作，与美国政府和多家国家实验室保持关系，并称自己是 Mission Genesis 的具名合作伙伴之一。

💡
同一套科学模型若横跨生物与材料，其商业化和合作机制不能完全相同。生命科学依赖临床里程碑和资产价值，材料科学则更可能依赖产业客户、资格认证、供应链和政府项目。

⚡
Flagship 生态的具体机制处于省略段落，无法判断其如何影响公司治理与项目孵化。Mission Genesis、政府奖项和国家实验室合作的范围、期限与交付物，需要依据正式公告核实。

11) 最终技术瓶颈之一：材料模拟到现实的 sim-to-real 缺口 — 91:33 🎧 · ▶️

💬
当主持人询问如果可以凭意志移除一个瓶颈会选什么时，Rafa 选择了 sim-to-real。他解释，这个词常用于机器人领域：机器人在三维虚拟环境中训练，但部署到物理空间后存在差距；材料科学也有同类问题。分子模拟和电子结构模拟“还可以”，但不足以可靠预测真正想做的现实任务。用这些物理近似生成的数据训练模型，也无法自动消除偏差，因为训练数据本身仍来自不够准确的近似。

Rafa 把问题概括为：过去十年，AI for Materials 一直希望知道，用计算数据训练能否回答真实实验问题。他援引 Heather Kulik 的说法“材料领域没有 AlphaFold”，随后指出 AlphaFold 本身是在实验数据上训练的。Meta 可以产生数千万、数亿个训练数据点，但如果它们都是虚拟模拟，其现实解释力仍可能不足。

💡
这一回答直指 AI for Science 的数据质量上限：模拟数据扩展得再快，也可能只让模型更精确地学习模拟器的偏差。真实实验不是可选的最终展示，而是关闭 sim-to-real 缺口所需的训练信号。

⚡
“材料领域没有 AlphaFold”是概括性判断，不代表材料 AI 没有重大成果。数千万、数亿数据点以及 Meta 的具体数据集在转写中没有给出名称，需要追查原始项目。

12) 计算侧瓶颈：RL 的 MFU 只有约 5%—6%，以及最后的招聘信息 — 95:53 🎧 · ▶️

💬
Andy 选择的瓶颈是 mean flop utilization，MFU，即训练过程实际使用了多少 GPU 理论浮点计算能力。他说 GPU 标称的是理想情况下的峰值吞吐，而真实训练的 MFU 通常只是理论峰值的一小部分；强化学习大约只有 5%—6%。换言之，团队付费购买的 GPU 算力中，实际得到的有效计算能力可能只有约 5%。如果可以把 MFU 直接提高到 100%，他们不仅能更快得到答案，也可以少买 GPU，把资本重新投入实验室。

面对“rollout 是否受实验室速度限制”的追问，Andy 表示实验确实构成约束，但训练管线仍可拆分。一个方案是让模型持续 rollout，等待足够轨迹积累后再反向传播；另一个更高效的方案，是并行训练多个专家模型，让它们生成数据或接受训练，再蒸馏回中央模型。当拥有 10 万亿 token 并需要高效送入模型时，计算利用率仍然关键。

结尾处 Andy 表示 Lila 在旧金山市中心 181 Fremont Street 设有办公室，目前约有二十几到三十人，并计划积极扩张。招聘覆盖后训练、生命科学领域 AI、材料科学领域 AI 等方向；旧金山办公室目前没有湿实验室，工作全部是计算相关。

💡
Lila 的瓶颈并不只在物理实验端：即使实验数据已经产生，强化学习和多时间尺度训练也可能浪费大量 GPU 能力。将专家模型并行训练后蒸馏进中央模型，是他们试图协调不同实验反馈周期与计算周期的一种思路。

⚡
5%—6% 是 Andy 对强化学习 MFU 的概括，没有说明对应硬件、模型、框架或测量口径。转写尾部时间码达到约 1:40:58，与用户给出的 1:35:53 总时长不一致，因此本节 seek 链只能使用被允许的 t=5753。

人物与机构

• Andy Beam

• Lila Sciences 首任 CTO。

• 自述从事 AI 研究约 20 年。

• 经历包括 SVM、随机森林、神经网络、医疗 AI 与生命科学。

• 曾在 Harvard Medical School 从事医学 AI。

• Generate Biomedicines 创始机器学习负责人。

• 约两年前离开学术界，全职加入 Lila。

• Rafa Gómez-Bombarelli

• Lila Sciences 联合创始人。

• 物理科学首席科学官。

• 研究背景包括计算化学、分子模拟、材料科学、自动编码器和生成式化学。

• 曾与 David Duvenaud、Ryan Adams 合作。

• 曾在 MIT 建立材料科学与工程研究组。

• Brandon、RJ

• Latent Space Science 主持人。

• Ilya

• 被 Andy 引述为提出“We have but one internet”的人；转写未给出姓氏。

• Ken Stanley

• 时间戳显示其开放式探索思想在 59:40 被讨论，但相应正文缺失。

• Heather Kulik

• 被引述为说“材料领域没有 AlphaFold”。

• Lila Sciences

• 建设 AI Science Factories。

• 把科学实验视为模型训练数据与验证信号的来源。

• 在旧金山市中心 181 Fremont Street 设有计算团队办公室。

• Generate Biomedicines

• Andy 曾参与创办并担任创始机器学习负责人。

• Harvard、Harvard Medical School、MIT

• 两位嘉宾学术与研究经历中的机构。

• Meta、DeepMind、Microsoft

• Rafa 提到这些机构拥有面向计算材料科学的 AI 团队。

• Flagship

• 时间戳标记为 Lila 生态相关主题，具体关系因中段缺失而无法完整展开。

• 英国政府、美国政府、国家实验室

• Lila 表示与这些政府或实验室体系存在合作、奖项或持续关系。

• Mission Genesis

• Lila 自称为具名合作伙伴之一；具体项目范围需核实。

金句（中英对照）

“我们只有一个互联网。” “We have but one internet.”

“互联网是我们已经压裂开采过的化石燃料；我们尽可能挖出了每一盎司数据，但它已经没有了。” “It’s the fossil fuel we fracked. We got every ounce of data that we could out of the internet, but it’s gone.”

“下一套互联网规模的数据集将从哪里来？” “Where is the next internet-scale data set coming from?”

“我们全面押注苦涩教训和规模化。” “We are all in on the bitter lesson and scale.”

“我们认为，可扩展且通用的方法，会击败那些无法扩展、也不通用的方法。” “We think that methods that scale and that are general beat those that are not.”

“科学是一个无限 token 生成器，可以用来规模化训练模型。” “Science is an infinite token generator to train models at scale.”

“运行科学方法，并把自然和实验用作验证器，是这套框架的终极版本。” “Running the scientific method and using nature and experiments as verifier is like the ultimate version of that.”

“未来的实验室应该让人感觉像一座数据中心。” “The lab of the future should feel like a data center.”

“我们的实验平台优先考虑通用性和灵活性，而不是原始吞吐量。” “The experimental platform that we’re building prioritizes generalizability and flexibility over raw throughput.”

“我们不是自动化最大化主义者；我们是 token 生成最大化主义者，也是灵活性最大化主义者。” “We’re not automation maximalists. We are actually sort of token generation maximalists and flexibility maximalists.”

“下一个增量 token 必须是对模型有价值的东西。” “The next incremental token has to be something that is valuable to the model.”

“如果我们能得到自己付费购买的全部 FLOPs，我会直接宣布实现它。” “If we could get all the FLOPs that we’re paying for, I would by fiat declare that.”

洞见与延伸背景

1. 实验室正在从验证终点变成训练基础设施。 传统流程通常是先训练模型，再去实验室验证少量候选；Lila 的描述则把实验室嵌入训练闭环。实验结果不只是项目里程碑，也成为下一轮模型更新的数据。

2. “无限 token”真正强调的是可持续的新颖性。 Andy 并不主张无止境重复同一种实验。他明确区分了原始数据数量与新增信息量，认为已经出现收益递减的数据不值得持续生成。

3. 物理实验的异步性可能塑造模型架构。 不同实验需要不同时间，部分反馈以天或周计。结尾提出并行专家模型、分别生成数据和接受训练、再蒸馏回中央模型，说明物理实验周期可能反过来影响训练系统的分解方式。

4. 自动化不是二元状态。 Lila 使用 80/20 路线：能接入的仪器先接入，难以自动化的步骤继续由人完成。其衡量标准是能否提高高价值数据生成能力，而不是是否实现了无人实验室。

5. 材料科学和生命科学共享实验闭环，却不共享完全相同的经济结构。 生物技术可以通过临床里程碑确认资产价值；材料技术往往还需要制造、资格认证、企业客户和政府需求共同推动。通用科学模型的商业化不能只复制药物发现模式。

6. 模拟规模不等于现实可信度。 数千万、数亿虚拟训练点仍可能建立在不够准确的近似之上。数据量扩大可以降低模型对模拟器的拟合误差，却不必然降低模拟器与现实之间的系统误差。

7. 本笔记不添加外部产业结论。 “实验室即数据中心”“PCI bus”“sim-to-real”等概念解释均来自节目中的类比。关于外部公司、论文、监管阶段与商业市场的数据，需要另行查证，不在这里补写。

争议与需核实

1. 转写存在大段缺失。 约 12:37 至 1:33:25 的正文被省略，安全、奖励投机、CAR-T、zero-FTE startup、开放式探索、Flagship 等只能确认是议题，不能确认完整论点与证据。

2. 全集时长不一致。 用户给出约 5753 秒，即 1:35:53；但文字转写继续到约 1:40:58。需要核对音频版本、YouTube 版本是否长度不同，或时间戳表是否提前截断。

3. “互联网数据已经用尽”是比喻性战略判断。 节目没有提供可用互联网 token 总量、去重后规模或高质量数据余量。

4. 10 万亿 token 的含义不清楚。 需确认这是现有数据集、未来目标、累计实验输出、混合模态数据，还是训练容量假设；也需要确认 tokenization 方法和真实实验占比。

5. “体内 CAR-T proof point”需查看原始证据。 需要核实实验阶段、对象、对照组、疗效、安全性、重复次数及是否经过同行评议，不能根据章节标题把它理解为临床验证。

6. 奖励投机与科学严谨性的控制方案缺失。 时间戳表明节目讨论了 reward hacking 和 chain-of-thought pathologies，但缺失段落使人无法判断 Lila 如何防止模型钻实验指标的空子。

7. 通用模型优于专用模型尚无可见对照。 节目表达了强烈的通用模型信念，但所给转写没有展示基准测试、消融实验或跨领域迁移结果。

8. MFU 约 5%—6%缺乏测量上下文。 需了解使用的模型、GPU、并行策略、rollout 长度、通信开销及 MFU 计算口径。

9. “几 KB 基因组新增信息”是口头近似。 该说法用于说明边际信息量，而非严格的信息论估算；需避免把它当作所有个体基因组差异的精确数据量。

10. 政府与 Mission Genesis 合作范围需核实。 “具名合作伙伴”、政府奖项、国家实验室关系的合同规模、期限与具体研究任务未在可见转写中说明。

11. “Meta 产生数千万、数亿数据点”需定位原始数据集。 转写没有给出项目名称、数据类型、模拟精度或现实验证结果。

行动建议

对 AI for Science 研究团队

• 在汇报数据规模时，同时报告新增信息量、实验多样性和边际收益，不要只报告样本数或 token 数。
• 把实验运行时间视为训练系统的一部分，区分分钟、小时、天、周级反馈，并设计异步数据回流与模型更新机制。
• 为模拟数据与真实实验数据分别建立评测，持续测量 sim-to-real 差距，而不是把模拟器输出默认视为真值。
• 明确奖励函数可能被投机的方式，为异常高奖励、不可重复结果和违反隐含约束的实验建立审计流程。

对实验室自动化与机器人团队

• 不必等待全部操作自动化后才部署系统，可以采用节目中的 80/20 路线：高频、标准化步骤优先接入，人类处理长尾。
• 将仪器抽象为节点、运输抽象为边，为每台设备设计稳定接口、错误状态、校准记录和人工接管路径。
• 把“单位时间生成多少实验”与“单位时间生成多少高价值信息”分开优化。
• 对最难自动化的普通动作进行单独统计，例如开盖、样本转移、清洁和故障恢复。

对模型与系统工程团队

• 单独追踪 RL 训练的 MFU、rollout 等待时间、实验反馈等待时间和数据管线空闲时间。
• 比较“统一大模型直接训练”和“多个专家模型并行训练后蒸馏”的成本与效果。
• 在宣称拥有大规模科学 token 数据集时，披露 token 定义、模态构成、质量过滤、去重和实验真实性。
• 把实验失败也作为训练数据保存，但要区分设备故障、协议错误、测量噪声与真正的科学负结果。

对投资人与产业合作方

• 不要仅把 Lila 类公司按实验室自动化企业估值，应区分模型资产、数据资产、实验基础设施和转化项目。
• 对材料项目重点审查资格认证、制造放大、客户验证和政府采购路径；对生物项目则审查临床转化与安全证据。
• 对“10 万亿 token”“无限数据”“零 FTE 创业公司”等强叙事，要求给出定义、成本和可复现实例。

对求职者

• 节目明确提到旧金山团队正在招聘后训练、生命科学 AI 和材料科学 AI 人才。
• 旧金山办公室位于 181 Fremont Street，目前没有湿实验室，因此当地岗位以计算工作为主。
• 感兴趣者可根据 Andy 的结尾建议，直接联系 Andy Beam 或 Rafa Gómez-Bombarelli，但具体岗位应以公司正式招聘信息为准。

来源

• reused_en_transcript
• latent.space
• 音频
• YouTube