Aftercasting

节目

人类的最后一项发明——Recursive 的 Richard SocherHumanity’s Last Invention — Richard Socher of Recursive

Latent Space · 9 月 14 日

Richard Socher 将“Eureka Machine”定义为一种能够针对任意目标、环境与奖励自主开展研究,并最终参与改进自身的超级智能;他认为真正关键的不只是扩大模型规模,而是把人类目前承担的“提出想法—实现—验证”研究循环逐步交给学习系统,同时以更准确的奖励设计、法律约束、多元价值观和应用层监管,降低奖励黑

AI 研究人员辩论我们距离递归自我改进还有多远AI researchers debate how close we are to recursive self-improvement

Dwarkesh · 9 月 11 日

三位「相对开放」阵营的一线研究者钢化「2036 仍无超级智能爆炸」的技术理由:持续 sim-to-real 缺口、锯齿能力与判断力瓶颈、以及当前 Transformer+RL 范式距全局最优仍可能差一次不连续创新;同时深入蒸馏/路由器数据如何削弱中心化、长程 RL 能否炼出可部署远程员工、部署学习 vs 数据中心模拟、