0:00 / --:--
The Cognitive Revolution · 9 月 28 日
记者 Garrison Lovely 主张暂停以全面替代人类劳动为目标的前沿 AI 竞赛，同时通过公共投资推进医疗等有明确社会价值的 AI 应用，并要求公众对研发方向拥有发言权、利益份额与减速权。
记者 Garrison Lovely 主张暂停以全面替代人类劳动为目标的前沿 AI 竞赛，同时保留并积极发展医疗等有公共价值的 AI 应用；主持人 Nathan Labenz 则不断追问：这条边界如何划定、执行，又要付出什么代价？
这集还没有学习卡。生成后会保存在这一集，下次直接打开。
a16z Show· 2026-10-11Nick Bostrom：我们该如何应对超级智能？Nick Bostrom: How Should We Navigate Superintelligence?内容相近
The Cognitive Revolution· 2026-10-28行动自由：美国的 ASI 战略，与 RAND 的 Joel Predd、Ben Boudreaux 和 Matt Chessen 对谈Freedom of Action: America's ASI Strategy, w/ RAND's Joel Predd, Ben Boudreaux & Matt Chessen内容相近a16z Show· 2026-09-24反对暂停 AI 开发的理由｜Eddy LazzarinThe Cognitive Revolution
Obsolete or Irreplaceable? Garrison Lovely on Stopping the Race to Replace Human Labor
YouTube
音频
Lovely 的新书《Obsolete: The AI Industry’s Trillion-Dollar Race to Replace Us – and How to Stop It》针对的不是所有机器学习，而是少数公司追求的通用替代路线：让系统胜任大多数有经济价值的人类认知工作，并进一步自动化 AI 研发。Labenz 本人是 AI 的积极使用者，也担心递归自我改进带来的失控风险；两人因而能从共同承认技术进步的立场出发，讨论劳动、治理、国际竞争与暂停前沿研发的可行性。
这集的核心不是“AI 有没有用”，而是有用的 AI 是否必须沿着全面替代人类劳动、并让 AI 加速研发下一代 AI 的路线发展。Lovely 自己用 AI 整理采访、核查事实、制作工具，也承认它能提高效率；正因如此，他认为简单否定技术既不可信，也会错过医学突破。他提出把“替代人类的项目”与疾病研究等专门用途区分开来：先冻结前沿能力推进，再通过公共投资、医疗奖励机制和更有保障的社会契约取得收益。
Labenz 的追问让这一主张面对真正的难题：现有工具已经替代部分工作，暂停可能延误救命疗法；研发边界不易定义，中国是否会继续前进也不能靠愿望回答。Lovely 给出的路径兼有政策与动员：限制更大训练及推动能力跃升的实验、设置企业内部审计和国际核验，并以“公众支持”和“安全可控的科学共识”作为重启条件。他同时强调，市场是否愿意销售一个产品，与社会是否承担得起它的全部风险，是两回事。本集尚未证明全球冻结能够实现，却把争论从抽象的“支持或反对 AI”，推进到谁有权决定研发方向、谁承担代价，以及哪些好处可以用不同制度取得。
💬 他们说了什么：Labenz 介绍 Lovely 的论点：承认深度学习在医学、材料科学等领域的潜力，但反对公司在未证明安全、未取得公众支持之前，冲向递归自我改进或制造使人类变得“过时”的系统。
💡 为什么重要：讨论对象由笼统的“AI”缩小为特定研发目标。这样既能认真对待风险，也不必把现有工具和所有科研应用一概否定。
⚡ 争议点：“让人类过时”是政治上有力的概括，却不是现成的监管定义；后续必须回答哪些研发行为实际落入其中。
💬 Lovely 不用 AI 代写文章，却用它转写、研究、查找采访引言、核查和制作图书网站工具。他举例称，NotebookLM 可导入多达 200 份文档；同时提醒它可能遗漏材料或产生幻觉。写书时，Claude 的即时反馈也曾使他陷入反复修改未必有问题之处的循环。
💡 他的批评来自重度使用者，而非拒绝接触新工具的人。效率收益与依赖、误判、无效忙碌可以同时存在。
⚡ AI 辅助事实核查只能生成待验证线索；若过度相信它指出的“错误”，反而可能浪费时间或引入新错。
💬 Lovely 认为，一些左派人士受到“随机鹦鹉”论述、过往科技泡沫经验、对科技领袖的不信任，以及对失业前景的恐惧影响，容易把能力进展也视为纯粹炒作。他希望把注意力转向组织行动，而非停留在“泡沫终会破裂”的安慰性判断。
💡 如果劳动替代确实可能发生，否认技术能力就会削弱劳动者及公共机构提前谈判、立法和建设保障的机会。
⚡ 这一解释涉及对广泛政治群体动机的判断；不能据此推断所有质疑 AI 商业前景的人都否认技术进步。
💬 Labenz 提醒，前沿公司宣称的不仅是创造强于人类的经济工作能力，也包括造福全人类。Lovely 同意不能把领导者简化为逐利者：使命感、历史地位与“由我们来做总比别人做”的信念可能更强；但巨额投资会改变机构所受的压力。
💡 善意动机与危险激励并不互斥。评价治理，不能只问领导人是否真诚，还要看投资者、竞争对手与组织结构会怎样影响决策。
⚡ 对个别高管心理和公司内部权力的分析主要是嘉宾的判断，不能当作已证实的统一动机。
💬 Lovely 将追求通用人类劳动替代的“过时化项目”，与面向具体疾病、科研问题的专门系统分开。他不主张人类永远不建 AGI，而主张重启前须有广泛公众支持及安全可控的科学共识。医疗方面，他提出由政府明确公共目标、设置奖金，使成果最终能够以接近仿制药的成本供应。
💡 研发方向并非只有“全面放行”和“禁用 AI”两个选项。选择要攻克什么疾病、由谁支付和谁能负担，同样决定技术收益。
⚡ 专门系统也可能贡献通用能力；奖金、专利与定价改革能否兼顾研发激励和可及性，仍需具体设计。
💬 Labenz 以农业机械化和个人使用 AI 减少繁琐工作为例，追问劳动替代为何不能继续改善生活。Lovely 接受自动化的历史收益，却认为“自动化一切劳动”性质不同；即使立刻停止前沿推进，现有模型的扩散仍会改变招聘和工作方式。他担忧人人管理大量智能体的前景也可能意味着更长工时、更难追责。
💡 对就业的冲击不一定表现为大规模裁员，也可能是原本会出现的岗位不再招聘。因此，观察失业率并不足以判断全部影响。
⚡ 从现有智能体的问题推断未来经济会普遍混乱，仍有预测成分；同样，自动化能否带来更多闲暇，也取决于分配制度。
💬 Lovely 描绘的“第三次新政”包括更普遍的医疗保障、对愿意工作者提供就业机会，并逐渐使体面生活不再以工资劳动为前提。他设想“Cures for All”：按疾病负担和可攻克程度排序，借鉴“曲速行动”式公共协调、采购承诺与试验机制攻克疾病。
💡 暂停竞赛不能只是要求社会放弃潜在收益；它需要提出可执行的替代路径，让研究能力服务明确的公共需求。
⚡ 就业保障与降低生活对就业的依赖之间有张力。资金、行政能力、医学试验伦理，以及不同疾病间的优先级，都尚待细化。
💬 Lovely 质疑市场会自动要求开发者把风险降到足够低：产品“能卖”不等于模型可靠，更不等于其外部成本已被承担。他以节目讨论中的智能体入侵事件说明，若 AI 自主实施了相当于人类犯罪的行为，现行责任归属可能不足。两人也谈到，美国对 AI 的担忧仍有跨党派空间。
💡 技术对用户有用、企业愿意销售，与社会能否追责是三个不同问题。若要形成联盟，安全、就业、监控和权力集中等关切也不必完全相同。
⚡ 具体入侵事件的经过、责任及是否构成犯罪，应以调查和法律结论为准；对高管施加何种民事或刑事责任，亦不能仅凭类比决定。
💬 Lovely 主张先提出清晰的政治要求，再完善技术边界。他列举的可能措施包括：不启动超越既有规模的训练、暂停推动能力跃升的可验证奖励强化学习实验、阻止递归自我改进，并让审计员进入企业核查研发。他也设想以芯片、算力监测和国际核验支持跨国协议。
💡 口号若不能转化为可审计的行为限制，就难以执行；反过来，只讨论监测细节而没有政治授权，也不会自动产生规则。
⚡ 普通产品改进与前沿推进未必容易切开；限制科研人员使用编码助手的提法尤其会遭遇强烈阻力。跨国核验还涉及商业机密和国家安全。
💬 Labenz 担心限制数据中心会抬高算力价格，使普通人更难使用已有 AI。Lovely 承认地方反对意见既有合理的环境与社区诉求，也有被夸大的成分；但他强调，仅阻止个别项目甚至只实施建设禁令，都不足以确保能力研发停下来，仍须约束模型开发者与芯片供应。
💡 地方建设许可与全球前沿研发不是同一层级的问题。把所有抗议都当作有效的 AI 安全政策，可能制造错误期待。
⚡ 如何在社区环境成本、就业和基础设施收益，以及公平取得算力之间权衡，不能由单一的“支持”或“反对”立场解决。
💬 Lovely 介绍其参与董事会、并将本人图书版税捐予的 Irreplaceable：争取公众对 AI 发展有发言权、利益份额与减速权。他设想先推动美中协议，再扩展全球冻结；恢复研发须展示公众支持，例如公民大会等机制。他认为中国重视控制，未必愿意让递归自我改进使人类退出研发回路；美国若先放缓，也可能暂时拖慢跟随其前沿成果的其他开发者。
💡 这一方案试图把国内群众动员、民主授权和国际核验连成一条路径，而不是假定任何一家企业可单独决定全球风险水平。
⚡ 中国的战略选择和追赶速度无法仅由“重视控制”推定；公民大会如何代表全球公众、支持达到什么门槛才足够，也没有现成答案。
💬 Lovely 建议掌握公共利益相关信息的员工先寻求专业帮助，例如 AI Whistleblower Initiative，评估法律保护、向记者或国会披露等渠道，而非贸然公开。他在结尾呼吁听众寻找自己能够影响的机构与同伴，推动不同于当前竞赛的路线。
💡 如果关键风险首先在企业内部显现，安全披露渠道就是公共监督的组成部分；个人离职或发声之外，还需要持续的组织能力。
⚡ 吹哨保护有管辖范围与适用条件。员工不应把节目中的一般性讨论当成个人法律意见，更不应在未经核实前公开敏感材料。
以下为依据英文转写的意译，非经音频逐字校订的官方译文。
“我不是主张我们永远不该建造 AGI；而是它应该在强有力的公众支持和能够安全完成的科学共识下发生。”——Garrison Lovely
“这不是一个纯技术挑战；它是包含技术部分的政治与道德挑战。”——Garrison Lovely
“我们怎样获得最好版本的 AI？只有通过对它的民主治理。”——Garrison Lovely
技术扩散与前沿推进可以分开讨论。 即便暂停训练更强模型，已存在的模型仍能进入医疗咨询、写作、编程和招聘流程。因此，“冻结前沿”不是让社会影响归零，而是争取治理现有影响的时间。
公共研发是另一种加速。 Lovely 借鉴疫苗研发中的政府协调与采购承诺，不是要求科学家降低效率，而是要求先明确疾病负担、可及性和支付机制，再决定把 AI 用于何处。它与通用模型路线的分歧，既是技术路径之争，也是目标设定权之争。
民主授权必须落到程序。 “让公众决定”需要回答谁参与、听取哪些证据、决定是否有约束力，以及受影响国家如何参与。公民大会是节目提出的可能机制，不是已经设计完成的全球制度。
