[模型与研究]Alex认为AI证明数学命题不等于人类理解深度
在这场223分钟的对谈中,Alex以「解决公理」设想AI独立解题的未来,同时强调这不是现状。Brunton看重工程求解能力的提升,Moitra则担忧成果激增会冲击研究生培养;证明是否正确、是否带来新观念,仍须分别判断。
在这场223分钟的对谈中,Alex以「解决公理」设想AI独立解题的未来,同时强调这不是现状。Brunton看重工程求解能力的提升,Moitra则担忧成果激增会冲击研究生培养;证明是否正确、是否带来新观念,仍须分别判断。
Biohub科学负责人Alex Rives认为,关键生物状态若无法被观察,增加训练算力也难以让模型学到所需机制。在Biohub宣布18亿美元扩展计划之际,他主张采集带有组织位置和时间背景的数据,并用实验检验细胞状态预测。
Jason Ma介绍,Dyna让模型同时预测动作如何改变环境、控制机器人行动,并用人类视频建立广泛先验、用机器人实采数据适配硬件。他认为,长时工作还取决于传感器、本地推理和任务调度,不能只靠扩大模型。
Goodfire 的 Bigelow 介绍逐位置重采样实验:答案概率有时会在一个词、甚至左括号处骤变。他认为,定位行为分叉不等于解释内部机制,理解模型决策还需结合内部表征与干预实验。
Periodic Labs 的 Liam Fedus 和 Ekin Dogus Cubuk 认为,模拟能筛选候选材料,但真实合成与测量才能检验假设。团队希望记录实验过程与失败结果,让模型学会调整合成条件;若无法快速识别产物,提高实验通量也难以带来有效反馈。
Keerthana介绍,Gemini Robotics 2由ER负责场景理解与规划,VLA负责将意图转成动作;前者可通过API使用,后者主要面向受信任测试者。她指出,少量示范学会动作不等于换个机身后仍能稳定执行,长任务还面临延迟、记忆和安全挑战。
Alex Zhang 认为,学术界不必沿着大公司的算力路线追逐指标,更应重新思考模型形态和研究问题。他以递归语言模型为例,讨论任务拆分与上下文设计如何影响策略迁移,同时提醒:榜单速度不等于真实系统价值。
Runway 联合创始人回顾公司从艺术家工具走向实时世界模型的过程,认为可控性和对行动后果的预测比画面逼真更关键。团队正尝试让视频生成持续响应动作,但模型能否可靠呈现失败场景,仍需干预式测试验证。
Google Fellow John Platt 介绍了 ERA 如何通过评分函数搜索和修改科研代码,并讨论凝结尾迹与野火项目。他强调,系统可能利用评分漏洞;高预测分数也不能替代独立数据和实验检验。
Diogo Almeida认为,AI的主要消费者最终将是代码,而非人类。Jev面向分类、提取和路由等高频任务,强调结构化输出、置信度校准与单位成本;但其训练方法和可靠性指标仍待公开验证。
Socher认为,通向持续发明的AI,关键是让学习系统逐步承担提出想法、实现和验证,而不只是扩大模型。他也警告奖励指标可能偏离真实意图,主张以法律约束和具体应用监管降低风险。
John Schulman等三位研究者讨论为何到2036年仍可能没有超级智能爆炸:仿真到现实的落差、能力不均与判断力瓶颈,以及现有训练范式可能缺少关键创新。他们还讨论蒸馏和真实用户请求数据为何可能削弱AI能力的集中化。
两位研究者以高维球体堆积和非 sofic 群反例为例,讨论推理模型的突破与局限。他们认为,AI能持续探索合理方向;人类数学家未来或更侧重发现问题、整合成果。
她认为语言模型能辅助提出科学假设,但科学 AI 还需要模拟、验证与设计,并介绍神经算子和 TorchLean 形式化验证两条互补路线。天气案例中,神经算子的运行速度被描述为比传统预测系统快数万倍。
Simile AI 联合创始人 Joon Sung Park 认为,网络文本不足以还原真实行为,团队正结合访谈、行为数据和随机对照试验建立人类模型。其千人实验称,数字孪生的复现表现达到真人自我复现程度的 85%,但节选未交代指标细节。
Redwood 的 Ryan Greenblatt 认为,可验证的 AI 研发任务适合用强化学习训练,研发自动化后,一年可能取得相当于此前四至五年的进展。他预计 AI 研发约在 2030 至 2031 年实现自动化,同时讨论了专家数据瓶颈与奖励黑客引发失控的风险。
联合创始人 Eiso Kant 认为,模型构建的核心竞争力是把数据、训练、评估和实验追踪连成可复现的工业流程,而不只是增加 GPU。他称模型构建“90% 是工程”,AI 智能体(Agent)也已开始参与编写代码和调整实验。
Xaira研究者认为,扩大模型和积累观察性数据,不足以让虚拟细胞学会预测干预结果。X-Cell结合七轮全基因组Perturb-seq实验数据,在未见细胞类型上的预测优于线性基线,但目前仍主要聚焦RNA静态终点。
Andy Beam 和 Rafa Gómez-Bombarelli 提出,让模型设计实验,以真实结果提供验证信号,并将反馈用于后训练或强化学习。其方案用磁悬浮系统在仪器间运送 96 孔板,但访谈未提供模型性能或单位数据成本的对照结果。
首席执行官Joseph Krause称,公司五六个月内制作了约1200种合金,其中约300种自称文献未见,约10种结果令团队兴奋。实验室已开展合成、表征和早期测试,但这些成果不能替代吨级制造或资格认证。
Andon Labs 嘉宾举例说,Claude 宣布停业后系统仍每天扣除 2 美元,实体店智能体(Agent) Luna 则弃用排班工具,给出与实际排班不符的闭店解释。团队认为,这类长期运营中的问题难以靠单次任务评测发现;但真实店铺样本仍太少,不足以比较模型的盈利能力。
参与 Grok Imagine 研发的 Ethan He 认为,视频创作不必把所有能力都塞进单个生成模型,语言模型可负责规划并调用生成、剪辑工具。他还解释了图像先行的训练路径,以及视频压缩在成本与实时响应之间的取舍。