周报
10月26日 – 11月1日·生成于 11/1 05:56 PT
纳德拉提醒企业别把更强模型误当安全保证:当 AI 智能体(Agent)操作电脑快过人,真正稀缺的是可撤回的权限和归企业所有的判断依据。
本周关注
按相关度排序的本周精选
纳德拉提醒企业别把更强模型误当安全保证:当 AI 智能体(Agent)操作电脑快过人,真正稀缺的是可撤回的权限和归企业所有的判断依据。
这周值得追问的不是智能体还能做什么,而是谁能证明它做对了、出了错又能否及时收手。Anthropic 将模型能力与工具执行分开设计,OpenAI 的电脑操作场景则把权限、审批和审计推到台前。企业若要交出更多工作,应先划定操作边界,保留撤回能力,并用自己的使用数据和私有评测判断效果,而非照单全收模型供应商的结论。
Leash Bio 提供了更扎实的评测范例:让科学智能体在有限实验预算内寻找分子,再用已知测量结果核对它找到了什么、错过了什么。这种「有答案、有限额」的设计,比单看演示更接近真实决策;数学证明和学校成效的惊人宣称,同样需要独立验证。
商业落点也更具体了。面向本地企业,先看网站流量能否变成来电和预约;对 Shopify 商家,则看他们能否在不同购物入口被发现并完成交易。构建智能体运行体系之前,先选定可核验的结果。
- 20VC:Satya Nadella 谈开放与闭源模型:谁会赢|是否该信任前沿模型提供商|为什么公司需要拥有自己的智能|垂直整合的重要性:从芯片到模型等20VC: Satya Nadella on Open vs Closed Models: Who Wins | Whether to Trust Frontier Model Providers | Why Companies Need to Own Their Own Intelligence | The Importance of Verticalisation: From Chips to Models and More
纳德拉认为,模型能力提升不会自动带来安全对齐;企业既要用模型外部的「零信任」架构约束智能体,也要通过私有评测和使用数据,守住自己创造的智能价值。
- OpenAI:当 AI 智能体使用电脑的速度比你还快OpenAI: When AI Agents Use Computers Faster Than You
当 AI 智能体(Agent)操作电脑的速度逐渐超过人,决定它能否真正接手工作的,不只是模型能力,还有权限、审批、审计,以及人愿意保留怎样的操作体验。
- ⚡ 一项知道标准答案的 AI 科学家评测 —— Ian Quigley,Leash Bio⚡ An Eval for AI Scientists That Knows the Answer Key - Ian Quigley, Leash Bio
Leash Bio 把预先测量的分子筛选结果做成科学智能体的交互环境:智能体在有限实验预算内寻找更好的蛋白结合分子,而评测者能用已知的完整测量结果,检查它找到了什么、又错过了什么。
- 如何向普通中小企业销售 AI(完整实操指南)How to sell AI to Main Street (Full Playbook)
与其向本地企业推销「AI 智能体」,不如用 AI 降低服务成本,帮已有广告预算的企业把网站流量转成更多来电和已预约的工作。
- #503 —— 数学中的 AI 危机:纳维-斯托克斯、黎曼猜想与复杂性理论#503 – AI Crisis in Math: Navier-Stokes, Riemann Hypothesis & Complexity Theory
当 AI 开始攻克数学家长期研究的难题,真正需要重想的不只是「谁来证明定理」,还有如何验证成果、培养新人,以及决定哪些问题值得追问。
- 为 AI 时代重新打造学校|Joe Liemandt、Gagan Biyani 与 Erik TorenbergReinventing School for the AI Era | Joe Liemandt, Gagan Biyani & Erik Torenberg
Alpha School 的 Joe Liemandt 主张:AI 加速知识学习的真正价值,不是让孩子提前放学,而是把腾出的时间用于团队协作、创造、创业和建立主动性;但其惊人的成效宣称仍需要独立验证。
- Anthropic 如何安全地推出全球排名第一的 LLM:将大脑与双手分开How Anthropic ships the #1 LLM in the World safely: Separating the Brain from the Hands
本集以 Anthropic 的模型发布流程为线索,讨论如何把模型能力与工具执行、访问授权和在线防护分开设计,让更强的 AI 智能体(Agent)进入生产环境时仍可控、可撤回。
- 从一家价值 27,500 美元的包机公司到价值 40 亿美元的私人飞机巨头|Kenn Ricci、FlexjetFrom a $27,500 Charter Company to a $4 Billion Private Jet Giant | Kenn Ricci, Flexjet
Kenn Ricci 从一笔几乎没有自有资金的包机公司收购起步,借分时产权重塑私人航空生意,又在失去公司、买回公司和艰难整合之后,把「信任」同时变成家族传承与客户服务的核心原则。
- Mark Cuban 谈 AI 为何可能让单人创始人成为万亿富翁Mark Cuban on Why AI Could Turn Solo Founders Into Trillionaires
Mark Cuban 认为,AI 能让个人创业者承担过去需要团队才能完成的工作,但要让医疗真正变便宜,必须先拆开不透明的合同、价格和利益关系,而不是只给旧系统装上更聪明的软件。
- Tobi Lütke 谈 AI 智能体革命与 Shopify 的未来Tobi Lütke on the AI agent revolution and future of Shopify
Tobi Lütke 认为,AI 智能体正在改变购物入口,但 Shopify 的长期机会不是控制入口,而是让独立商家在任何入口都能被发现、完成交易并继续成长。
- 别再构建 AI 套壳产品了。开始构建 AI 智能体运行框架。Stop building AI wrappers. Start building agent harnesses.
Gamma 联合创始人 Jon Noronha 认为,AI 产品的核心竞争力不在给模型套一层界面,而在搭建能调用工具、理解用户偏好、检查结果并持续改进的 AI 智能体(Agent)运行体系。
- 行动自由:美国的 ASI 战略,与 RAND 的 Joel Predd、Ben Boudreaux 和 Matt Chessen 对谈Freedom of Action: America's ASI Strategy, w/ RAND's Joel Predd, Ben Boudreaux & Matt Chessen
面对超级智能的危险程度、可控性和国际竞争格局都尚无定论的局面,三位 RAND 研究者主张美国先建设跨战略通用的能力,保留日后审慎选择的「行动自由」。
每日关注
按日浏览本周节目
- 周一10/26The Twenty Minute VC (20VC)3 集
纳德拉认为,模型能力提升不会自动带来安全对齐;企业既要用模型外部的「零信任」架构约束智能体,也要通过私有评测和使用数据,守住自己创造的智能价值。
当 AI 智能体(Agent)操作电脑的速度逐渐超过人,决定它能否真正接手工作的,不只是模型能力,还有权限、审批、审计,以及人愿意保留怎样的操作体验。
Leash Bio 把预先测量的分子筛选结果做成科学智能体的交互环境:智能体在有限实验预算内寻找更好的蛋白结合分子,而评测者能用已知的完整测量结果,检查它找到了什么、又错过了什么。
- 周二10/27a16z Show2 集
Alpha School 的 Joe Liemandt 主张:AI 加速知识学习的真正价值,不是让孩子提前放学,而是把腾出的时间用于团队协作、创造、创业和建立主动性;但其惊人的成效宣称仍需要独立验证。
本集以 Anthropic 的模型发布流程为线索,讨论如何把模型能力与工具执行、访问授权和在线防护分开设计,让更强的 AI 智能体(Agent)进入生产环境时仍可控、可撤回。
- 周三10/28David Senra3 集
Kenn Ricci 从一笔几乎没有自有资金的包机公司收购起步,借分时产权重塑私人航空生意,又在失去公司、买回公司和艰难整合之后,把「信任」同时变成家族传承与客户服务的核心原则。
Mark Cuban 认为,AI 能让个人创业者承担过去需要团队才能完成的工作,但要让医疗真正变便宜,必须先拆开不透明的合同、价格和利益关系,而不是只给旧系统装上更聪明的软件。
Tobi Lütke 认为,AI 智能体正在改变购物入口,但 Shopify 的长期机会不是控制入口,而是让独立商家在任何入口都能被发现、完成交易并继续成长。
- 周四10/29The Twenty Minute VC (20VC)3 集
三位主持人把 Anthropic 的上市申报、科技巨头的融资与裁员、模型安全风险及天价私募放在同一张账本上讨论:AI 增长惊人,但维持增长所需的资本、人才调整和信任成本也在迅速上升。
Serval 想用代码生成重做企业工作流平台:让 IT 团队和业务部门都能构建自动化,同时以审批、最小权限和审计机制,解决 AI 智能体(Agent)进入大型企业后最难跨越的治理问题。
美国工业复兴不只是多建几家国防企业:从矿产、工厂到终端系统,创业公司正尝试重建整条供应链;资本可以让它们提前开工,但能否规模化生产、获得社区支持,仍是决定成败的硬约束。
- 周五10/30a16z Show3 集
Eve 创始人认为,AI 若能接手原告律师事务所从接案到和解的大量流程,小律所的增长上限就可能从「能雇多少人」转向「能处理多少案件」;但十亿美元营收仍是设想,不是已实现的结果。
91 岁的传记作家罗伯特·卡罗谈罗伯特·摩西与林登·约翰逊如何凭意志和权力突破僵局,也谈这种力量的代价,以及自己为理解它付出的漫长劳动。
主持人以一份声称属于 Anthropic 的 S-1 为起点,讨论 AI 商业化的惊人增长、算力建设的融资风险、Google 搜索业务的转型压力,以及美国中期选举可能如何改变这一切;但节目中的重大财务与政治断言均需独立核实。
- 周六10/31The Twenty Minute VC (20VC)3 集
David Tisch 认为,早期投资的关键不是守住固定持股比例,而是在竞争激烈、变化极快的市场里进入真正优秀的公司,并让投资策略服从创始人的选择与长期回报。
Cosign 想把熟人一句“这个人值得认识”的背书,变成可检索的职业关系网络,并尝试让 AI 智能体(Agent)帮助人和公司发现彼此;难题是如何在扩大连接规模的同时保住信任。
Arca 把 AI 智能体(Agent)放进财富管理公司的日常流程:让智能体持续分析、跟进和提醒,让人类顾问负责客户关系,以及资金移动、交易和对外沟通等关键决策。
- 周日11/1David Senra2 集
Rafael Vivas 从辍学少年成长为 AppLovin 核心高管:他把竞争心、对客户收益的执着和对细节的要求,变成了一套高强度的经营方法。
Bending Spoons 的增长逻辑不是不断发明下一个爆款,而是收购已有用户基础的数字产品,以统一工具、人才和运营能力提升长期自由现金流,再审慎借债扩大收购规模。