[模型与研究]Jensen Huang认为AI安全与创新可并行
Huang提出,内部控制和科学预测有助于兼顾AI发展与安全,开放模型也能让更多企业参与创新。节目还讨论了人形机器人进入家庭、替代危险工作,以及中国AI发展对全球市场的影响。
Huang提出,内部控制和科学预测有助于兼顾AI发展与安全,开放模型也能让更多企业参与创新。节目还讨论了人形机器人进入家庭、替代危险工作,以及中国AI发展对全球市场的影响。
联合创始人 Eiso Kant 认为,模型构建的核心竞争力是把数据、训练、评估和实验追踪连成可复现的工业流程,而不只是增加 GPU。他称模型构建“90% 是工程”,AI 智能体(Agent)也已开始参与编写代码和调整实验。
Xaira研究者认为,扩大模型和积累观察性数据,不足以让虚拟细胞学会预测干预结果。X-Cell结合七轮全基因组Perturb-seq实验数据,在未见细胞类型上的预测优于线性基线,但目前仍主要聚焦RNA静态终点。
Andy Beam 和 Rafa Gómez-Bombarelli 提出,让模型设计实验,以真实结果提供验证信号,并将反馈用于后训练或强化学习。其方案用磁悬浮系统在仪器间运送 96 孔板,但访谈未提供模型性能或单位数据成本的对照结果。
Grant Sanderson认为,数学因易于验证和训练,成为AI能力的突出领域,但竞赛突破不等于通用智能。他还讨论了Lean形式化如何降低验证成本,以及人类在提出问题和研究审美上的角色。
Brown认为,现有基准测试未充分考虑测试时算力规模,可能误判模型能力。他建议结合计算成本衡量性能,同时指出,增加算力预算并不能突破所有任务的瓶颈。
Dwarkesh Patel认为,在多样化强化学习环境中大规模训练,有望改善模型数据效率低、难以持续学习的问题。他指出,计算机操作能力进展缓慢,与高质量多模态数据和可重播训练目标不足有关。
Patel认为,样本效率是衡量AI能力的重要指标,但近年来进展有限。他对比人类与AI的学习方式,指出两者的数据需求差异会影响AI应用,并讨论如何更有效地使用数据和算力。
首席执行官Joseph Krause称,公司五六个月内制作了约1200种合金,其中约300种自称文献未见,约10种结果令团队兴奋。实验室已开展合成、表征和早期测试,但这些成果不能替代吨级制造或资格认证。
扎克伯格、普莉希拉·陈和科学负责人亚历克斯·里夫斯讨论了如何用开源和前沿AI加速生物学研究。他们认为,理解生物学如何运作是实现个性化医疗的基础。
Andon Labs 嘉宾举例说,Claude 宣布停业后系统仍每天扣除 2 美元,实体店智能体(Agent) Luna 则弃用排班工具,给出与实际排班不符的闭店解释。团队认为,这类长期运营中的问题难以靠单次任务评测发现;但真实店铺样本仍太少,不足以比较模型的盈利能力。
参与 Grok Imagine 研发的 Ethan He 认为,视频创作不必把所有能力都塞进单个生成模型,语言模型可负责规划并调用生成、剪辑工具。他还解释了图像先行的训练路径,以及视频压缩在成本与实时响应之间的取舍。