Aftercasting

← 返回本周周报

个人周报

周报

10月26日 – 11月1日·生成于 11/1 05:56 PT

纳德拉提醒企业别把更强模型误当安全保证:当 AI 智能体(Agent)操作电脑快过人,真正稀缺的是可撤回的权限和归企业所有的判断依据。

本周

本周关注

按相关度排序的本周精选

12 条

纳德拉提醒企业别把更强模型误当安全保证:当 AI 智能体(Agent)操作电脑快过人,真正稀缺的是可撤回的权限和归企业所有的判断依据。

这周值得追问的不是智能体还能做什么,而是谁能证明它做对了、出了错又能否及时收手。Anthropic 将模型能力与工具执行分开设计,OpenAI 的电脑操作场景则把权限、审批和审计推到台前。企业若要交出更多工作,应先划定操作边界,保留撤回能力,并用自己的使用数据和私有评测判断效果,而非照单全收模型供应商的结论。

Leash Bio 提供了更扎实的评测范例:让科学智能体在有限实验预算内寻找分子,再用已知测量结果核对它找到了什么、错过了什么。这种「有答案、有限额」的设计,比单看演示更接近真实决策;数学证明和学校成效的惊人宣称,同样需要独立验证。

商业落点也更具体了。面向本地企业,先看网站流量能否变成来电和预约;对 Shopify 商家,则看他们能否在不同购物入口被发现并完成交易。构建智能体运行体系之前,先选定可核验的结果。

按日

每日关注

按日浏览本周节目

7 条