Aftercasting

节目

智能体如何决策:Goodfire 的 Eric Bigelow 谈关键 token、相变与上下文学习How Agents Decide: Goodfire's Eric Bigelow on Critical Tokens, Phase Shifts, & In-Context Learning

The Cognitive Revolution · 10 月 10 日

语言模型的关键决定,可能并非早已藏在一条完整的「思维链」里:某个被采样出的 token 会改变后续上下文,让答案概率骤然转向;而随着推理过程越来越难读,理解这种转向需要同时研究行为分叉和模型内部表征。