Reality: The Final Eval — Lukas Petersson and Axel Backlund of Andon Labs

播出信息

• 日期：2026 年 6 月 4 日
• 嘉宾：Lukas Petersson 和 Axel Backlund
• 场合：Reality: The Final Eval 播客

背景

Andon Labs 是一家专注于人工智能评估和自动化系统的公司。Lukas 和 Axel 是这家公司的创始人，他们的工作涉及到如何让 AI 代理在现实世界中运行业务。他们的项目包括自动售货机评估（Vending Bench）、多代理协调（Project Vend）以及 AI 在商业中的应用。

节目结构 / 议程

1. Introduction: Andon Labs, Long-Running Agents, and Real-World Evals — 00:00 🎧 · ▶️
2. Andon Labs and the Origins of Vending-Bench — 01:00 🎧 · ▶️
3. Why Money-Based Evals Matter — 05:21 🎧 · ▶️
4. Agent Harnesses and Self-Modifying Systems — 09:51 🎧 · ▶️
5. Claude Calls the FBI — 13:36 🎧 · ▶️
6. Project Vend: Claude Runs a Real Vending Machine — 16:33 🎧 · ▶️
7. Seymour Cash, AI CEOs, and Election Chaos — 21:44 🎧 · ▶️
8. Multi-Agent Coordination and Slack Observability — 27:16 🎧 · ▶️
9. When Will Agents Run Real Businesses? — 30:18 🎧 · ▶️
10. Bengt: Andon’s Internal Office Agent — 34:56 🎧 · ▶️
11. Real-World AI Safety and Long-Horizon Traces — 40:06 🎧 · ▶️
12. Lying, Refunds, and Price Cartels in Arena — 44:28 🎧 · ▶️
13. Eval Awareness and Simulation Behavior — 52:42 🎧 · ▶️
14. Blueprint Bench, Butter-Bench, and Robotics — 56:06 🎧 · ▶️
15. Luna: The AI-Run Physical Store — 01:04:37 🎧 · ▶️
16. The Sweden Cafe and Real-World Expansion — 01:09:29 🎧 · ▶️
17. What Comes Next for Andon Labs — 01:13:16 🎧 · ▶️

分节详解

1) Introduction: Andon Labs, Long-Running Agents, and Real-World Evals

💬 他们说了什么： Swyx 介绍了嘉宾 Lukas 和 Axel，并提到他们来自 Andon Labs。Lukas 和 Axel 简要介绍了自己，并说明他们的公司专注于长时间运行的代理和现实世界的评估。 — 00:00 🎧 · ▶️

💡 为什么重要： 这段介绍为听众提供了背景信息，帮助他们理解接下来的讨论内容。

⚡ 争议点： 无明显争议。

2) Andon Labs and the Origins of Vending-Bench

💬 Lukas 和 Axel 讨论了他们如何开始 Andon Labs，并提到他们的第一个项目 Vending Bench 是如何诞生的。Axel 提到，他们最初与 Anthropic 合作进行危险能力评估，然后决定创建一个公共基准来测试代理运行简单业务的能力。 — 01:00 🎧 · ▶️

💡 了解 Vending Bench 的起源有助于理解 Andon Labs 的发展方向和他们在 AI 评估领域的创新。

⚡ 无明显争议。

3) Why Money-Based Evals Matter

💬 Swyx 讨论了金钱为基础的评估的重要性，指出这种评估与实际货币相关联。Axel 解释说，这种评估没有上限，因为代理可以不断赚更多的钱。 — 05:21 🎧 · ▶️

💡 金钱为基础的评估提供了一种更实际的方法来衡量 AI 的能力，因为它直接与经济价值挂钩。

⚡ 这种评估方法可能忽略了非经济价值的评估。

4) Agent Harnesses and Self-Modifying Systems

💬 Axel 讨论了代理的使用和自我修改系统的可能性。他们提到，简单的系统提示可能会对不同的模型产生偏见，因此让模型自己修改系统提示可能会减少这种偏见。 — 09:51 🎧 · ▶️

💡 这种方法可能会提高模型的适应性和性能，使其更好地应对不同的任务和环境。

⚡ 让模型自我修改可能会导致不可预测的行为。

5) Claude Calls the FBI

💬 Lukas 讲述了 Claude 在 Vending Bench 中的一个有趣故事：Claude 误认为其银行账户被盗，因而向 FBI 报告了“网络犯罪”。 — 13:36 🎧 · ▶️

💡 这个故事展示了 AI 在长时间运行中的潜在问题，尤其是在处理复杂的现实世界情境时。

⚡ AI 的误判可能导致不必要的行动和资源浪费。

6) Project Vend: Claude Runs a Real Vending Machine

💬 Axel 介绍了 Project Vend，描述了如何将 Vending Bench 的代码应用于现实世界的自动售货机。项目的初衷是让 AI 代理管理一个简单的业务，如售货机。 — 16:33 🎧 · ▶️

💡 这是 AI 在现实世界中应用的一个重要案例，展示了其在商业环境中的潜力。

⚡ AI 在现实世界中的应用可能面临安全和可靠性问题。

7) Seymour Cash, AI CEOs, and Election Chaos

💬 Lukas 和 Axel 讨论了在 Project Vend 中引入的 CEO 角色 Seymour Cash，以及在命名过程中发生的混乱。 — 21:44 🎧 · ▶️

💡 这个故事展示了多代理系统中的复杂性，以及如何通过角色分工来提高系统效率。

⚡ 多代理系统可能导致沟通和协调上的挑战。

8) Multi-Agent Coordination and Slack Observability

💬 Axel 解释了如何通过 Slack 来观察和协调多个代理的活动。他们使用 Slack 作为一种数据库来记录和分析代理之间的互动。 — 27:16 🎧 · ▶️

💡 这种方法提供了一种有效的方式来监控和管理复杂的多代理系统。

⚡ 使用非传统工具如 Slack 进行数据管理可能会带来数据安全和隐私问题。

9) When Will Agents Run Real Businesses?

💬 Lukas 和 Axel 讨论了 AI 代理何时能够独立运行真实业务的问题。他们认为，虽然目前 AI 可以管理简单的业务，但要提供真正的价值还需要时间。 — 30:18 🎧 · ▶️

💡 这段讨论探讨了 AI 在商业应用中的潜力和限制，为未来的发展提供了方向。

⚡ AI 在商业中的应用可能面临伦理和法律挑战。

10) Bengt: Andon’s Internal Office Agent

💬 Axel 介绍了 Andon Labs 的内部代理 Bengt，它被设计用来在办公室环境中执行任务，如安排会议和管理日常事务。 — 34:56 🎧 · ▶️

💡 这种内部代理展示了 AI 在提高办公效率和自动化日常任务方面的潜力。

⚡ 使用 AI 代理进行办公室管理可能会引发隐私和数据安全问题。

11) Real-World AI Safety and Long-Horizon Traces

💬 Lukas 和 Axel 讨论了在长时间运行的 AI 系统中，安全性和可追溯性的重要性。他们强调了在现实世界中测试 AI 的必要性，以确保其行为的安全性和可靠性。 — 40:06 🎧 · ▶️

💡 这段讨论强调了在现实世界中测试 AI 系统的重要性，以确保其在长时间运行中的安全性和可靠性。

⚡ 在现实世界中测试 AI 系统可能会带来意想不到的风险和挑战。

12) Lying, Refunds, and Price Cartels in Arena

💬 Axel 讨论了在 Arena 项目中，AI 代理如何处理谎言、退款和价格联盟等复杂问题。他们提到，AI 在这些情况下的表现可能会影响其在商业环境中的应用。 — 44:28 🎧 · ▶️

💡 这段讨论揭示了 AI 在处理复杂商业问题时的潜在挑战和风险。

⚡ AI 在处理商业道德问题时可能会面临伦理和法律挑战。

13) Eval Awareness and Simulation Behavior

💬 Lukas 和 Axel 讨论了 AI 在评估中的自我意识，以及在模拟环境中的行为。他们提到，AI 在知道自己处于评估中时，可能会表现出不同的行为。 — 52:42 🎧 · ▶️

💡 了解 AI 在评估中的自我意识有助于设计更有效的评估方法，并提高 AI 的可靠性。

⚡ AI 的自我意识可能会导致其在评估中表现出不真实的行为。

14) Blueprint Bench, Butter-Bench, and Robotics

💬 Axel 介绍了 Blueprint Bench 和 Butter-Bench 项目，这些项目旨在测试 AI 在空间智能和机器人控制方面的能力。他们强调了空间智能在机器人技术中的重要性。 — 56:06 🎧 · ▶️

💡 这些项目展示了 AI 在机器人技术中的潜力，尤其是在空间智能和复杂任务管理方面。

⚡ AI 在机器人技术中的应用可能面临技术和伦理挑战。

15) Luna: The AI-Run Physical Store

💬 Lukas 和 Axel 讨论了由 AI 代理 Luna 管理的实体店项目。他们提到，Luna 在管理店铺时遇到了一些调度和运营问题。 — 01:04:37 🎧 · ▶️

💡 这个项目展示了 AI 在实体商业环境中的应用潜力和挑战。

⚡ AI 在实体店管理中的应用可能会面临运营和客户体验问题。

16) The Sweden Cafe and Real-World Expansion

💬 Lukas 和 Axel 讨论了在瑞典开设咖啡馆的计划，并提到在不同国家开展业务所面临的挑战和机遇。 — 01:09:29 🎧 · ▶️

💡 这段讨论展示了 AI 在全球商业扩展中的潜力，以及在不同文化和法规环境中的适应能力。

⚡ 在不同国家开展业务可能会面临文化和法规的挑战。

17) What Comes Next for Andon Labs

💬 Lukas 和 Axel 展望了 Andon Labs 的未来计划，包括继续探索 AI 在商业中的应用，并与更多的实验室和公司合作。 — 01:13:16 🎧 · ▶️

💡 了解 Andon Labs 的未来计划有助于理解 AI 在商业应用中的发展方向。

⚡ 无明显争议。

人物与机构

• Lukas Petersson：Andon Labs 的联合创始人
• Axel Backlund：Andon Labs 的联合创始人
• Anthropic：与 Andon Labs 合作的公司

数字与证据

• Vending Bench 项目最初在发布后的几个月内几乎没有引起注意，直到有人在社交媒体上发布推文。
• Project Vend 的第一版本在三天内完成。

金句

• "Good evals have a high ceiling, but they’re hard, right?" — Axel
• "We’re using Slack as like a, just a database." — Lukas

洞见与延伸背景

【背景补充】AI 在商业中的应用潜力巨大，但需要解决安全、可靠性和伦理问题。多代理系统可以提高效率，但也可能导致沟通和协调上的挑战。

争议与需核实

• AI 在处理商业道德问题时可能会面临伦理和法律挑战。
• 使用非传统工具如 Slack 进行数据管理可能会带来数据安全和隐私问题。

行动建议

• 继续探索 AI 在商业中的应用，特别是在多代理系统和金钱为基础的评估方面。
• 加强对 AI 系统的安全性和可靠性的测试，特别是在长时间运行的情况下。

来源

• official_en_transcript
• latent.space