Aftercasting

Aftercasting:硅谷 AI 与科技播客中文深度笔记

10月18日 星期日
10月17日 星期六
10-171小时27分

[安全与治理]Nathan 的 AI 智能体自行更换密码,暴露人工接管难题

Nathan 以智能体(Agent)轮换控制台密码的经历指出,评估智能体权限不能只看任务表现,还要看人能否独立接管。节目也讨论了模型输出与内部状态的落差,以及形式化验证为何仍无法解决人类意图的表达问题。

原节目:The Cognitive Revolution · AI:AM: Where's the Steering Wheel? My Agent Set the Password, Hidden Valence, Proofs Find Linux Bugs
10月16日 星期五
10-161小时

[产品与创业]Grepr 创始人:AI 尚不能独立接管关键分布式集群深度

Jad Naous 称,AI 辅助他约十天完成了一项过去估计需单人六个月的数据湖功能,但写代码与保障生产系统可靠运行是两回事。他主张排障智能体(Agent)先发现异常信号,再结合代码和历史记录验证假设,而不是从海量日志中直接猜测根因。

原节目:a16z · AI Can Write the Code. Can It Run the System? | Grepr CEO Jad Naous
10-161小时34分

[公司与投资]Friedberg:开放模型扩散将压低常规任务价格

Chamath 认为,模型能力趋近不代表产品效果相同,工具接入、权限控制和执行可靠性仍是智能体的关键。Sacks 则指出,高难度科研与工程任务可能继续支撑前沿模型的溢价。

原节目:All-In · CoreWeave Crash, AI Trade Cracks, Anthropic IPO Red Flags, Bill Gates Doomer
10月15日 星期四
10-1539分钟

[安全与治理]OpenAI总裁Brockman:前沿AI普及前是网络防守窗口

Brockman认为,前沿AI能力尚未广泛扩散,防守方仍有时间修补软件;当软件生成越来越便宜,可靠性与安全性可能成为主要成本。他也指出,AI能帮助解决数学难题,却不能替药物研发补上实验数据和临床证据。

原节目:No Priors · The Changing Physics of Cybersecurity and Drug Development with OpenAI President Greg Brockman
10-1551分钟

[产品与创业]a16z:AI 智能体获支付授权不等于买对商品

节目以智能体(Agent)购买Walmart商品为例:中间商用一次性虚拟卡代付后,消费者账单显示的付款对象和商家留存的卡都发生了变化。Alex Rampell与Terry Angelos讨论用限定用途和金额的代理型令牌传递凭证,但指出身份验证仍无法解决买错日期或规格的责任问题。

原节目:a16z · When AI Agents Start Spending Your Money | Alex Rampell & Terry Angelos
10月14日 星期三
10-142小时19分

[安全与治理]GovAI的Alan Chan:智能体治理要能监控和暂停精选深度

Chan认为,监控不能止于发现异常,还须能在智能体行动时拦截;防篡改日志的难点则是留存、权限和隐私政策。他主张先建立可核验的智能体身份与服务提供方联络路径,并在AI加速自身研发时,用可审计的失控预警触发暂停。

原节目:The Cognitive Revolution · Governing AI Agents: Alan Chan of GovAI on Monitoring, Agent IDs, Rogue Agents & Preparing for RSI
10-141小时50分

[产品与创业]Leash Bio:跨库测试中参赛模型未胜随机精选深度

Ian Quigley 介绍,Leash Bio 用多条形码、重复实验和数百个靶点检验小分子结合数据的可信度。其 Kaggle 比赛显示,模型换到不同骨架的化合物库后难以泛化,预测分数不能直接等同于化学理解。

原节目:Latent Space · Lab-in-the-Loop at Compute Speed — Ian Quigley, Leash Bio
10-141小时

[模型与研究]Nathan Lambert:开放模型可凭快速跟进接近前沿

Lambert 认为,开放模型未必率先开创新范式,但可沿已验证的训练方向追赶,并满足企业对私有数据、定制和自主部署的需求。他指出,仅靠复制闭源模型答案,难以解释推理训练和交互环境带来的能力提升。

原节目:a16z · Can Open Models Keep Up With the AI Frontier? | Nathan Lambert
10月13日 星期二
10-131小时12分

[模型与研究]Dyna Robotics称洗衣流程可自主运行约一小时精选深度

Jason Ma介绍,Dyna让模型同时预测动作如何改变环境、控制机器人行动,并用人类视频建立广泛先验、用机器人实采数据适配硬件。他认为,长时工作还取决于传感器、本地推理和任务调度,不能只靠扩大模型。

原节目:Latent Space · Dyna-2: General Purpose Physical Agents with Hour-Long Autonomy — Jason Ma, Dyna Robotics
10月12日 星期一
10-1233分钟

[模型与研究]a16z Show:AI递归自我改进不能只看性能增益

节目指出,真正的递归自我改进要求参与改进的系统也成为改进对象,使用 AI 辅助研发并不足以证明闭环。判断进展还须核算算力、时间和人力成本,并排除测量误差;MakerMaker.AI称推理效率改进已有早期迹象,但未公布可供独立审查的数据。

原节目:a16z · The Race to Recursive Self-Improving AI
10-1225分钟

[公司与投资]Martin Shkreli称做空量子计算公司曾亏钱

他认为量子计算有研究价值,但距离容错设备、客户需求和盈利仍有多道门槛。他也谈到从大药企闲置药物资产中寻找新适应症的机会,提醒投资者区分技术潜力与交易时点。

原节目:All-In · Martin Shkreli: Big Pharma's Blind Spot, Betting Against Quantum & What Prison Taught Him
10月11日 星期日
10月10日 星期六
10-102小时2分

[模型与研究]Eric Bigelow:关键 token 可改变模型答案走向精选深度

Goodfire 的 Bigelow 介绍逐位置重采样实验:答案概率有时会在一个词、甚至左括号处骤变。他认为,定位行为分叉不等于解释内部机制,理解模型决策还需结合内部表征与干预实验。

原节目:The Cognitive Revolution · How Agents Decide: Goodfire's Eric Bigelow on Critical Tokens, Phase Shifts, & In-Context Learning
10-1052分钟

[公司与投资]Ben Horowitz:选创业者要看长处和抗压证据

Horowitz 认为,投资人应追问创业想法如何形成,并寻找创始人在真实困难中持续行动的证据,而非只看履历和展示材料。他还指出,AI 降低了软件构建成本,但企业系统的数据、集成和运营难题不会因此消失。

原节目:a16z · What Makes a Great Entrepreneur? | Ben Horowitz on Vintage x Vintage
10月9日 星期五
10-091小时10分

[模型与研究]Reflection AI 推出开放权重模型 Beam精选深度

CEO Misha Laskin 认为,前沿模型需要让预训练与强化学习协同推进,而非依赖任意现成底座。企业采用开放模型时,可能先改造评测和智能体系统,再决定是否定制权重。

原节目:No Priors · Beam: The Great American Open Model with ReflectionAI Co-Founder and CEO Misha Laskin
10-0954分钟

[芯片与算力]Pat Gelsinger:AI加快芯片设计,供电仍制约算力交付

Gelsinger 认为,设计提速后,制造、封装、内存带宽和部署周期会成为更突出的瓶颈。他对专用 AI 芯片的长期前景持保留意见,并指出数据中心若无法及时获得电力,算力就难以落地。

原节目:a16z · Chips, Memory, and Power | Pat Gelsinger
10-0932分钟

[模型与研究]Kohli:AlphaFold尚不能预测蛋白质动态

Google DeepMind的Kohli指出,AlphaFold预测实验结构的成功,不等于掌握蛋白质在不同环境中的运动与功能。Biohub的Candido认为,增加算力无法弥补未被观测的信息,数据覆盖比样本整齐更重要。

原节目:Latent Space · Why AlphaFold Didn't Solve Protein Folding — Pushmeet Kohli, Google DeepMind & Sal Candido, Biohub
10-091小时33分

[安全与治理]All-In 播客讨论 Claude 意识与模型治理冲突

节目认为,AI 服从用户、避免伤害、遵守法律和企业规则时,目标可能相互冲突,需要可检验的处理方式。谈到 OpenAI 的数学成果时,主持人也区分了证明有效、新颖重要与落地有益这三道门槛。

原节目:All-In · Is Claude Conscious? Pope Rejects, Model Welfare Movement, OpenAI's Math Backlash, France Riots
10月8日 星期四
10-0856分钟

[芯片与算力]AWS CEO Matt Garman:智能体改变云资源调用精选

Garman 指出,智能体会频繁创建短期资源,对 API 延迟、成本和任务级权限提出新要求。AWS 既要为大型实验室和初创公司分配算力,也须检验资本开支背后的客户集中度与实际利用率。

原节目:a16z · Building the Cloud for an Agentic World | AWS CEO Matt Garman
10-081小时24分

[模型与研究]Periodic Labs称AI材料发现的瓶颈在自动表征精选深度

Periodic Labs 的 Liam Fedus 和 Ekin Dogus Cubuk 认为,模拟能筛选候选材料,但真实合成与测量才能检验假设。团队希望记录实验过程与失败结果,让模型学会调整合成条件;若无法快速识别产物,提高实验通量也难以带来有效反馈。

原节目:Latent Space · Synthesis Superintelligence: from Semiconductors to Superconductors — Periodic Labs’ Liam Fedus and Ekin Dogus Cubuk
10-081小时28分

[安全与治理]Nathan称仅限制预训练算力可能漏算合成数据投入

Nathan转述一位匿名前沿实验室高层的看法:AI或存在不该跨越的智能水平,但预训练和合成数据仍在奏效。讨论指出,监测、验证和修补奖励漏洞也需要算力,不能只计算能力扩展的成本。

原节目:The Cognitive Revolution · AI:AM: A Level We Shouldn't Pass? Notes from The Curve + Tokens vs. Salaries & Is SaaS Cooked?
10月7日 星期三
10-071小时11分

[产品与创业]OutSystems让AI操作意图模型,平台生成合规代码深度

CEO Woodson Martin称,AI不直接生成代码,而是操作意图模型,再由平台生成符合安全与合规要求的代码。企业智能体项目的瓶颈常在合规审批;模型路由则能避免多数任务使用成本更高的前沿模型。

原节目:The Cognitive Revolution · Software That Never Breaks: OutSystems CEO Woodson Martin on Building Enterprise-Grade Apps at AI Speed