模拟：新的规模定律——Joon Sung Park，Simile AISimulation: the new Scaling Law — Joon Sung Park, Simile AI

播出信息

• 日期：2026-08-21
• 嘉宾：Joon Sung Park，Simile AI 联合创始人
• 主持 / 对谈者：Swyx、Vibhu
• 场合：Latent Space 播客访谈
• 主题：生成式智能体、行为基础模型、数字孪生、随机对照试验、人口与社会模拟、模拟的扩展规律及 Simile 的商业化
• 转写来源标注：Latent Space official transcript
• 特别说明：所给转写在约 35 分钟至 48 分钟之间存在明确省略，因此这一段只能依据省略前后仍然可见的原文和用户提供的章节锚点总结，不能还原缺失内容。

背景

Joon 出生于韩国，在当地生活约 11 年后随家人迁往波士顿。他的父母都是医生，父亲是外科医生，当时在 Boston Children’s Hospital 度过学术休假阶段。Joon 最初并非沿着典型科技从业者路径成长：他喜欢音乐、艺术与绘画，曾认真考虑把艺术作为职业，而不是业余爱好。后来，他逐渐形成一个判断：最伟大的艺术家往往会创造自己的媒介，而当时最有潜力的新媒介是计算，因此转向技术和研究。

在斯坦福相关研究语境中，他与 Michael Bernstein、Percy Liang 等人开始思考基础模型的“杀手级应用”。他们认为，基础模型不像过去那样只为某一个任务训练，更像生物学意义上的“干细胞”，潜在地能够处理广泛任务。由于模型训练数据来自社交媒体、Wikipedia 和更广泛的网络内容，其中包含大量人类表达与行为痕迹，只要从合适角度调用，模型便可能显现出过去系统不具备的、相对真实的人类行为模式。

这条研究路径产生了 Social Simulacra、生成式智能体与 Smallville 等工作，并最终延伸至 Simile。Simile 的核心主张不是让模型变得更理性、更聪明，而是让模型准确复现现实中的人：包括人的偏好、长期经历、非效率行为、偏见和错误。公司把这类系统描述为行为基础模型，并将访谈、观察数据、真实有代价的行为实验及随机对照试验作为关键数据来源。

总结分析

这场对话的主线，是把“模拟”从一个看起来像游戏或科幻的多智能体演示，推进为一种面向真实决策的模型范式。Joon 的起点并不是单纯预测人会回答什么，而是建立足够细致的人类模型：基础模型虽然吸收了海量网络内容，但网络数据主要是人们主动公开的态度，无法完整覆盖人在现实中真正采取的行动，更缺少解释“为什么这样做”的因果机制。Simile 因此同时收集深度访谈、交易或平台行为、具有真实利害关系的实验，以及随机对照试验数据，并区分人口级模型与个人级模型。

节目最重要的新信息，是 Joon 对预测和模拟的区分。预测关注结果，例如某项消息会让支持率下降多少；模拟则试图展示形成结果的连续步骤，并从既定目标反推可采取的干预路径。其价值不只在于验证直觉，还在于发现反直觉的中间行动、跨产品或跨市场的副作用。为了证明模拟不是“层层幻觉”，团队曾招募具有美国代表性的 1,000 人，进行两小时数据采集，两周后再让真人与数字孪生完成调查、行为经济学游戏、人格测试及随机对照试验；转写称，数字孪生复现个体行为和态度的准确程度达到真人自我复现程度的 85%。

争议也集中在这里：85% 的口径究竟如何定义、对哪些任务成立，不能从节选转写中完整判断；中段关键内容又被省略。政治应用、UBI、社会规模模拟还涉及代表性、隐私、同意、操纵与外部有效性。Joon 承认公司对政治用途保持谨慎，并强调护栏。商业上，他把模拟定位为比市场研究更大的“人类决策工具”，但这一愿景仍需用具体决策收益、真实世界验证和成本结构来证明。

节目结构 / 议程

1. 从职业画家理想到计算媒介 — 00:00 🎧 · ▶️
2. Smallville 与“人类行为会从模型中显现” — 01:46 🎧 · ▶️
3. “让我们直接创造一个世界” — 05:03 🎧 · ▶️
4. 社会物理学与行为基础模型的数据层 — 09:53 🎧 · ▶️
5. 预测未来，不如寻找改变未来的路径 — 14:08 🎧 · ▶️
6. 从目标人口到调查、A/B 测试和财报电话会 — 16:59 🎧 · ▶️
7. 数字孪生评估：为什么不是“幻觉叠幻觉” — 25:35 🎧 · ▶️
8. 让模型像人一样“不完美” — 30:23 🎧 · ▶️
9. 模拟的 Scaling Law、多人互动与成本 — 40:04 🎧 · ▶️
10. 从市场研究走向“所有关于人的决策” — 52:05 🎧 · ▶️
11. 从 GPT-3.5 / GPT-4 阶段走向社会级问题 — 57:27 🎧 · ▶️
12. 模拟本体论、双支柱愿景与 Simile 团队 — 64:23 🎧 · ▶️

分节详解

1) 从职业画家理想到计算媒介 — 00:00 🎧 · ▶️

💬 他们说了什么：Joon 出生于韩国，并在那里生活了约 11 年，之后随家人迁往波士顿。他的父母都是医生，父亲是外科医生，当时在 Boston Children’s Hospital 度过学术休假阶段。Joon 说自己成长环境与科技并不接近，更喜欢音乐、艺术和绘画；他在高中更深入接触绘画，并曾计划以艺术谋生。迁美后，他在美国东海岸生活多年，包括 New Hampshire，之后到 Pennsylvania 上大学。大学期间他逐渐进入科技领域，并形成一个关键认识：伟大的艺术家经常创造自己的媒介，而当时最好的新媒介是 computation。由此，他从艺术继续深入计算，最终转向研究。

💡 为什么重要：这段经历解释了 Joon 为什么不把模拟只理解成工程工具，而是把它视为一种“构造世界”和呈现人类本质的媒介。他后面对日常行为、个体纹理和社会整体的兴趣，与早年的艺术训练形成连续关系。

⚡ 争议点：这是嘉宾的个人叙述，转写没有提供可独立核验的教育履历细节。节目也没有详细说明他从艺术转向技术期间的具体时间线。

2) Smallville 与“人类行为会从模型中显现” — 01:46 🎧 · ▶️

💬 主持人把话题转向让 Joon 广为人知的生成式智能体论文，并称 Google Scholar 显示约 7,200 次引用。Vibhu 特别指出，该工作里的记忆组件被低估，它是一个很早期且很好的记忆系统。Joon 回顾了《Opportunities and Risks of Foundation Models》，称“foundation models”这一术语来自该工作。他把基础模型比作“干细胞”：它并非针对单项工作训练，前提却是能够处理各种不同任务。他认为，单纯用这类模型做分类或生成，并没有从交互角度充分利用它们，因为相关任务已经存在很多年。真正不同之处在于，网络数据包含社交媒体、Wikipedia 等人类表达和行为资料；从正确角度调用模型时，相对真实的人类行为可能“自己显现出来”。

💡 这确立了 Simile 的技术起点：通用模型中已经潜藏某种人类行为先验，但需要专门的数据、训练目标和交互结构才能释放。它也说明生成式智能体并非只是让 NPC 更会聊天，而是试图把模型作为社会行为的可计算载体。

⚡ 7,200 次引用是主持人在录制时给出的即时数字，不代表固定值。关于“foundation model”术语的具体首创归属，转写中的指代并不完全清晰，需对照论文作者与原始出版记录核验。

3) “让我们直接创造一个世界” — 05:03 🎧 · ▶️

💬 Joon 与 Michael Bernstein、Percy Liang 等同事玩过一个“时间机器游戏”：设想快进 10 年，再回看哪一个应用最重要、最有启发性。他们最后提出的最高目标是重建现实世界，即“Let’s just create a world”。Social Simulacra 是后来生成式智能体论文的前身，而像游戏城镇一样观察智能体生活，也契合 Joon 对科幻的兴趣。与此同时，他认为模拟人的技术还是个人助手的前置条件：如果助手替他点夜宵却买了带菠萝的夏威夷披萨，而他不喜欢披萨上的菠萝，这个助手就失败了。亲友之所以能形成紧密社会关系，是因为他们拥有关于彼此的良好“心智模型”。因此，他的判断是：准确表征人的技术，应该先于那些试图自动化现实世界的复杂智能体。对于 ChatGPT、Claude 等系统，他承认它们已经知道不少用户信息、输出也更个性化，但认为真正有用的个人助手尚未达到这一研究方向的雄心。

💡 这一论证把用户模型从“推荐系统附属信息”提升为通用智能体的核心基础设施。智能体能否正确行动，不只取决于推理能力，还取决于它是否理解具体用户长期稳定及情境性的偏好。

⚡ “准确的人类模型必须先于复杂智能体”是 Joon 的技术路线判断，并非节目中已经证明的普遍定律。个人化越深入，也越会放大隐私、同意、误表征和数据控制问题。

4) 社会物理学与行为基础模型的数据层 — 09:53 🎧 · ▶️

💬 Joon 用“是否需要学习新的世界物理”来区分提示与训练：如果模型已经掌握环境的基础规律，只需对环境作出反应，提示可能足够；如果它必须学习新的社会物理，就需要训练或后训练。他认为现有开放模型尚未掌握完整的人类社会物理映射，这是 Simile 的核心论点。网络训练数据主要是人主动暴露的态度数据，其中只零散夹杂真实行为，因此无法充分呈现人们现实中真正做了什么。他把尚未被系统捕捉的深层行为知识称作人类的“dark knowledge”。Simile 的访谈会深入童年记忆、创伤、初恋等长尾信息，以获得一个人的“纹理”。此外还有观察性行为数据，例如交易数据或可从网络获取的数据，它们提供行为的基础统计。最关键的一类则是因果机制数据，即解释人为什么行动的数据；随机对照试验通过改变变量，观察如喝咖啡与不喝咖啡时行为是否变化，来捕捉这种因果关系。

💡 这里给出了行为模型的数据分层：自述提供意义与经历，观察数据提供现实分布，实验数据识别干预与结果之间的关系。仅靠公开文本，模型可能擅长模仿“人如何谈论自己”，却不一定能复现“人实际上会做什么”。

⚡ 访谈中的创伤、初恋和交易行为属于高度敏感数据，节目只概括强调了同意，没有展开保留期限、访问权限、撤回机制与再识别风险。将复杂社会规律称作“物理”也可能让人误以为其稳定性接近自然规律。

5) 预测未来，不如寻找改变未来的路径 — 14:08 🎧 · ▶️

💬 面对“真实行为数据很难收集”的质疑，Joon 表示 Simile 会进行大量随机对照试验，并重视参与者同意。参与者会被邀请加入一个社区，清楚自己会分享数据并以不同形式被建模；实验可以在实体或虚拟实验室中进行。态度与行为的关键差别，是决策是否具有真实利害关系：例如设置在线商店，让参与者在实验中购买的商品真正被寄到家里。Joon 随后区分预测和模拟：若目的是战胜股市，直接预测未来很有价值；但模拟更常用于理解如何改变结果。模拟不仅回答“结果是什么”，还应展示一步步到达该结果的过程。通过《基地》系列中的 psychohistory 类比，他举例说，科学家为了把银河帝国崩溃后的动荡从 30,000 年压缩到 1,000 年，第一步竟可能是把提出危机的科学家流放到 Terminus。现实商业中，一家车企只优化电动车销量，可能忽视营销方式对非电动车认知、整体销售甚至股价的反作用。

💡 预测只给终点，模拟则试图提供机制、路径与干预选择，这正是它可能进入企业决策流程的原因。它也要求系统跨越单一指标，追踪一个行动对多个产品、群体和后续步骤的连锁影响。

⚡ 模型给出的“反直觉路径”不等于真实世界中的因果真相，尤其不能仅因路径复杂便认定它更深刻。科幻中的 psychohistory 是说明性类比，不能作为现实可行性的证据。

6) 从目标人口到调查、A/B 测试和财报电话会 — 16:59 🎧 · ▶️

💬 客户使用 Simile 时，通常先定义希望理解的人群。如果是面向全美国销售的消费品公司，目标可能是美国一般人口；若要进入特定市场，则可能聚焦居住在 California、年龄处于 20 多岁和 30 多岁的人。Simile 会在取得同意并提供激励的前提下招募相关参与者、收集部分数据并建立模型。产品接受两个主要输入：对目标人口的筛选描述，以及要放入该人口的环境或刺激。环境可以是调查问题、行为实验或 A/B 测试；用例包括概念测试、焦点小组，甚至对上市公司财报电话会进行建模。Joon 还提到 Simile 与 Gallup 存在战略合作关系。对于政治领域，他承认有需求，但表示公司尚未深入开展，原因是政治应用具有特殊社会影响，需要先形成足够的护栏和明确立场。

💡 这说明 Simile 不是只出售一个通用聊天模型，而是在“人群定义—数据招募—模型建立—环境查询”之间形成工作流。其主要价值单位也不是单个答案，而是某个特定人口在给定刺激下的响应分布和行为轨迹。

⚡ 人口筛选得越细，样本数量、代表性与隐私风险越突出。政治模拟尤其可能被用于政策评估，也可能被用于更精细的说服或操纵，因此“存在需求”并不足以证明适合部署。

7) 数字孪生评估：为什么不是“幻觉叠幻觉” — 25:35 🎧 · ▶️

💬 主持人直接提出核心质疑：普通前沿模型也能在给定目标后规划，Simile 如何证明自己的模拟有现实依据，而不是“hallucinating layer after layer”。Joon 引用《Generative Agent Simulations of 1000 People》：研究招募了从美国具有代表性抽样的 1,000 人，进入虚拟实验室。团队花两小时收集广泛数据，其中访谈脚本取自 American Voices Project，并搭配能在两小时内收集的行为数据。参与者离开约两周，研究者在此期间创建其数字孪生；两周后再让真人完成一系列调查、实验和行为研究。项目包括行为经济学游戏、Big Five 人格测试、General Social Survey，以及发表于 PNAS 的随机对照试验。数字孪生需要预测原始个体在这些任务中的行为，转写给出的结果是：数字孪生复现行为和态度的准确程度，达到真人复现自身表现的 85%。Joon 同时称，一般人口任务上的前沿模型可能约为 50%–60%，更小众人群和客户关心的题目上可降至 20%–30%。

💡 评估基准不是要求模型抽象地“答对”，而是要求它像某个真人一样反应，包括复现这个人的不稳定性。以真人的重测一致性作为参照，也承认人自己在不同时间并不会给出完全相同的回答。

⚡ 转写没有给出 85% 的具体计算公式、置信区间、任务权重或各子群表现，不能把它泛化为所有现实决策的统一准确率。20%–30%、50%–60% 的比较也缺少完整基准设置和模型版本信息。

8) 让模型像人一样“不完美” — 30:23 🎧 · ▶️

💬 后续研究尝试用大量随机对照试验对模型进行后训练，数据来自 Open Science Framework。Joon 解释，过去约 5 年社会科学界持续担忧研究可重复性：论文复现实验时，可能得不到相同结论。传统发表机制重视小于 0.05 的数值，但仍可能出现假阳性，未发表结果还会造成幸存者偏差。预注册要求研究者在实验前公开数据计划、目标人口与假设，且不能在看到结果后回头修改假设。Joon 称，该平台由此积累了数以万计的真实世界实验和假设，其中包括专业设计的行为研究及随机对照试验。团队用这些资料证明，高质量实验数据能显著提高模型预测人类行为的能力；但由于属于开放科学工作，该特定模型没有直接作为商业产品提供。Simile 同时训练两类模型：population-level model 与 individual-level model；两者都接收人口或个体描述及刺激，个人级任务被认为更困难。Joon 强调目标不是制造“超级理性机器”，而是让模型像他本人一样会犯相同的错误。

💡 主流前沿模型通常因更正确、更客观、更会推理而得到奖励，而行为模拟追求的目标可能恰好相反：复现现实人的偏差、限制与习惯。这意味着数据、损失目标、评估方式都不能直接照搬通用推理模型。

⚡ 人类错误并非都应该被复制；若模型被用于高风险决策，准确复现偏见可能造成歧视或把现状固化。节目没有说明行为真实性与规范性安全之间如何设定边界。

9) 模拟的 Scaling Law、多人互动与成本 — 40:04 🎧 · ▶️

💬 所给转写在本段前半部分被省略，但保留下来的内容显示，Simile 当前所操作的规模从数百、数万到数十万人不等。Joon 认为，很多核心用例并不需要覆盖所有人，关键不是人数本身，而是有没有覆盖客户真正关心的正确子群；客户要求更大样本，也常是为了能够继续筛选到更细的人群。他设想 10 年后计算资源更加充足、模拟野心同步扩张，可能出现“整座数据中心规模”的模拟。在未来若干年，某些模拟的成本可能达到训练一个基础模型的水平；但若社会价值足够高，这种开销仍可能合理。他举出极端目标：如果一个社会级模拟能够解决气候变化，他愿意立即为其筹资。多人模拟中智能体可以相互交流，Smallville 就是这类结构；但并非所有商业场景都需要互动，个人购物场景可能更便宜。Vibhu 则指出，现实中招募真人和执行研究本来就很昂贵；若一项模拟能辅助总成本达 1 亿的流程，那么投入数百万可能只是较小部分。Joon 补充，短期销售可强调替代现有预算和效率，长期价值则要证明更好的决策节省或创造了数亿乃至数十亿美元。

💡 模拟的扩展不只是把个体数量从小变大，还包括子群覆盖、互动网络、时间跨度和反事实分支的增加。其经济性必须相对于原有调研成本、错误决策成本和潜在收益衡量，而不能只看推理调用费用。

⚡ 本段原始转写存在大段省略，无法完整判断节目如何论证“8 billion people”或 scaling law。声称社会级模拟可以解决气候变化属于愿景性假设，不是已呈现的实验结果；多智能体之间的组合式交互也可能迅速推高计算成本与误差传播。

10) 从市场研究走向“所有关于人的决策” — 52:05 🎧 · ▶️

💬 主持人提到 CVS、Gallup、Deloitte、Wealthfront，并追问 UI 测试、新功能发布等需求。Joon 的回答集中在一个组织现实：公司每天做大量影响用户的决策，也常想宣称“我们听取了用户意见”，但真正联系用户并持续提问既昂贵又耗时，最重要的是用户根本没有足够时间。如果某个供应商要求他回答 1,000 个调查问题，即便他愿意，也不太可能实际完成。模拟的目标，是让受到产品决策影响的人在相关会议室里持续拥有某种代表，让利益相关者在产品发布前得到咨询。Joon 称市场研究是一个 1,000 亿美元的行业，但同时强调模拟并非仅仅是市场研究工具，而是 human decision-making 的工具。只拿市场研究规模来定义总可服务市场会低估愿景，因为目标是影响所有“关于人、为了人”而作出的决定。他也表示，估值只是故事中非常表面的一面，真正驱动研究团队的是模拟能否对现实决策产生推动社会进步的影响。

💡 如果这一产品定位成立，模拟的预算来源就不局限于调研部门，还可能进入产品、设计、政策、营销和管理决策。它要替代的也不一定是一次调查，而可能是组织中“因为来不及咨询用户而直接凭直觉决定”的空白环节。

⚡ 数字孪生“代表用户声音”不等于真实用户已经表达同意，也不能完全替代持续的人类参与。转写中 Joon 一度口误式地并列“100 million or 100 billion”，具体市场规模口径应以原始数据来源核验。

11) 从 GPT-3.5 / GPT-4 阶段走向社会级问题 — 57:27 🎧 · ▶️

💬 Joon 把今天的模拟产业类比为 AGI 发展中的 GPT-3.5、GPT-4 阶段：技术已经足够强，可以在所处理的垂直领域产生真实影响，但数据、算法和更激进的扩展仍有大量进展空间。谈到绘画，他说自己的作品经常关注人类生活中最平凡的部分；他曾研究一个乡村小镇，拍摄人们并没有做特别事情、只是过日常生活的状态。他以分形比喻理解世界：可以向外探索更广阔的整体，也可以向内研究局部，因为外部和内部形状彼此相似。模拟同样需要理解最琐碎的人类行为；当这些细节组合起来时，可能揭示个体和社会的深层结构。在新的“10 年问题”中，他希望模拟届时最重要的社会议题，并举出“我们是否需要 UBI”作为例子。主持人提及 Sam Altman 资助过相关研究，并在对话中出现 1,400 万美元与 4,000 万美元两个说法；Joon 的重点是，现实研究可能耗费 5 年和巨额资金却只产生一个结果，而模拟或许能快速重复运行许多次。

💡 Joon 把艺术中对日常细节的观察，与行为模拟的数据哲学连接起来：总体社会不是抽象平均人，而是大量看似微不足道的个体行为组合。模拟若能降低反事实实验成本，可能帮助研究者在投入昂贵实地试验前筛选假设。

⚡ UBI 研究的地点、资金、结论和具体执行方式在节目中说法不完整且数字冲突，不能据此判断 UBI 本身是否有效。模拟可以辅助实验设计，但不能自动替代真实世界验证，尤其是在长期制度性政策上。

12) 模拟本体论、双支柱愿景与 Simile 团队 — 64:23 🎧 · ▶️

💬 被问到“我们现在处于模拟中的概率”时，Joon 没有给出百分比，而是说自己并不在意，因为当前现实对身处其中的人而言就是真实的，等死后再担心也不迟。Swyx 提出一个数学式直觉：处于模拟的可能形式数量可能远多于不处于模拟的形式，但反对理由是模拟每个人的计算成本非常高。Joon 最后的科幻式判断是，高级文明通常有两根技术支柱：某种形式的 AGI，以及 simulation。公司层面，Simile 总部位于 San Francisco 的 Mission Rock，并在 New York 新开了一个较小办公室。公司由四位创始人建立：Joon、Michael Bernstein、Percy Liang、Lainie Yallen；前三人被描述为研究者，Lainie 是 Joon 的商业搭档，曾帮助快速增长的 AI 原生公司从种子轮发展到 A 轮和 B 轮。公司约有 60 人，其中 15%、接近 20% 是 Joon 在 Microsoft Research 的前实验室同事；部分成员后来曾进入 OpenAI、Google Gemini 等团队。Simile 将自己定位为研究实验室与产品公司并存的组织，并在研究、产品工程和基础设施工程等方向广泛招聘；转写还提到团队成员来自 Figma、Notion、Rive 等公司。

💡 “实验室加产品公司”的结构与 Simile 的任务高度相关：它既要创造新的模型、数据和评估方法，也必须把这些方法嵌入大型企业的现实决策流程。招聘研究者、产品工程师和基础设施人才，反映其瓶颈同时存在于科学有效性、用户工作流及大规模推理效率。

⚡ 关于 Michael Bernstein 与 ImageNet、Percy Liang 与“foundation model”术语的具体归属，是嘉宾在口头介绍中的说法，应对照原始论文核实。用户提供的“全集约 3,968 秒”与转写实际延伸到约 01:09:31 之间也存在时长差异。

人物与机构

• Joon Sung Park：Simile 联合创始人；早年希望成为职业艺术家，后转向计算和研究。
• Swyx：节目主持 / 对谈者，提出引用量、成本、市场规模及“是否身处模拟”等问题。
• Vibhu：节目主持 / 对谈者，重点追问训练、评估、行为数据、企业需求和推理成本。
• Michael Bernstein：Simile 四位创始人之一，也是 Joon 早期模拟研究合作者。
• Percy Liang：Simile 四位创始人之一；转写将其与“foundation model”术语联系起来。
• Lainie Yallen：Simile 四位创始人之一，Joon 的商业搭档。
• Simile：同时定位为 AI 研究实验室和 AI 产品公司的组织。
• Gallup：与 Simile 有战略合作关系，涉及政策等领域。
• American Voices Project：1,000 人数字孪生研究所用访谈脚本的来源。
• Open Science Framework：承载预注册研究、实验与假设的平台。
• PNAS：研究评估中所复现随机对照试验的发表来源之一。
• Microsoft Research：Joon 及部分现 Simile 团队成员过去所在的研究环境。
• OpenAI、Google Gemini、Figma、Notion、Rive：转写提及的团队成员履历或人才来源。
• CVS、Deloitte、Wealthfront：主持人在讨论案例时提及的机构。
• Boston Children’s Hospital：Joon 父亲度过学术休假阶段的医院。
• ChatGPT、Claude：被用作现有个性化能力与前沿通用模型的例子。
• Shopify / SimGym：主持人提及的相近方向，重点是沿购物轨迹寻找干预。
• Smallville、Social Simulacra：生成式智能体和社会模拟研究脉络中的项目。
• 《基地》 / Isaac Asimov：用于解释模拟如何从目标反推反直觉路径的科幻类比。

金句（中英对照）

“让我们直接创造一个世界。” “Let’s just create a world.”

“如果模型必须学习它所处世界的底层物理，那么你就需要训练，甚至后训练模型。” “If the model has to learn the underlying physics of the world that it’s operating in.”

“它还没有学会人类真正深层的行为本质——不只是人们在网上说自己会做什么，而是他们在现实生活中实际做什么。” “It has yet to learn the really deep behavioral nature of people, not just what people say they do online, but what they do in real life.”

“决定究竟是态度还是行为，关键在于你的选择是否真的有代价。” “What makes the difference between what is attitudinal versus behavioral is whether the stake in your decision is real.”

“模拟试图展示，为了到达某个结果，我们必须采取的每一步。” “What simulation is trying to show is each step that we need to take to get to a certain outcome.”

“这不是关于态度，而是关于行为。” “It’s not about the attitudinal. It’s about behavior.”

“如果我会犯某种错误，那么模型也必须犯同样的错误。” “If I make some mistakes, the model has to make the same mistake.”

“对我们而言，问题并不是人类能解决什么而模型不能，而是人类会有哪些模型漏掉的偏见和错误。” “It’s less what can we solve, but I think it’s more about what biases or mistakes do people make that models miss.”

“从根本上说，人类所做的事情未必最高效，也未必最正确，但这些事情让我们成为我们自己。” “What is fundamentally human might not be the most efficient thing to do, might not be the right thing to do, but things that make us who we are.”

“模拟能够确保，在为人们作出决定的房间里，人们的声音始终得到代表。” “What simulation can do is ensure that the voices of people are always represented in rooms where the decisions for them is made.”

“模拟不是市场研究工具；模拟是人类决策工具。” “Simulation is not a tool for market research. Simulation is a tool for human decision-making.”

“任何科幻作品中的先进文明都有两根技术支柱：某种形式的 AGI，以及模拟。” “You look at any advanced civilization in science fictions, there’s 2 twin pillar technology. One’s AGI in some form, and the other is simulation.”

洞见与延伸背景

模拟的真正扩展轴不只是人口数量

Joon 的回答表明，“模拟 80 亿人”并不意味着当前产品必须把每个人都实例化。现阶段更重要的是覆盖正确的子群，以及让客户能按年龄、地域、市场等条件筛选。进一步扩展还包括智能体之间是否互动、是否运行长期轨迹、是否搜索不同干预路径。

真人重测一致性是比抽象正确率更贴切的参照

行为模拟并非考试系统。一个人两周后再次回答同一类问题，本来就可能改变答案。因此，研究不是把模型与唯一标准答案比较，而是把数字孪生的复现程度与真人复现自身的程度比较；85% 也应在这个语境中理解。

“理性模型”可能恰恰不是好的社会模拟器

通用模型倾向于给出规范、客观和高效率的建议，但真人会因为散步有助于思考而放弃更快的 Uber 或公交。行为模拟如果消除这些“非最优”选择，可能反而失去对具体人的忠实度。

真实利害关系是行为数据的关键

口头表示会购买某产品，与在实验中实际付款并收到商品并不相同。Joon 因而把“选择是否具有真实后果”作为区分态度与行为的重要标准，并据此设计虚拟或实体实验。

模拟价值来自干预，不只是预测

知道某项负面消息会导致支持下降，可能不足以改变决策。更有价值的问题是：下降多少、影响哪些群体、通过哪条路径发生、哪些行动能够缓解，以及某个局部优化是否会损害整体结果。

艺术训练影响了 Joon 的模拟观

Joon 过去关注普通人的平凡日常，并认为细小局部可以反映更大结构。这与 Simile 收集童年经历、创伤、初恋、习惯等长尾信息的做法一致：个体纹理不是噪声，而是模型理解人的组成部分。

本笔记没有引入转写以外的论文结果、公司融资数字、市场统计或人物履历。涉及论文归属、UBI 研究、市场规模与公司陈述之处，均只复述节目内容，并在下方列为需核实事项。

争议与需核实

1. 85% 的统计定义：需要核实指标公式、真人基线、任务构成、置信区间、不同人口子群表现，以及是否存在训练与测试数据重叠。
2. 前沿模型的 20%–30% 和 50%–60%：需确认所比较模型、提示设置、任务类型和评估时期。
3. 1,000 人的“美国代表性”：需查看抽样方法、人口权重、参与者流失及覆盖不足的群体。
4. 敏感个人数据治理：节目提到同意和激励，但没有交代数据保存、删除、撤回、访问控制及数字孪生的使用边界。
5. 政治用途：Joon 表示存在需求但尚未深入进入；具体护栏、禁止用例及合作审查机制仍未说明。
6. 模拟能否替代真实研究：UBI 等长期制度问题会受到执行、文化、经济环境和反馈循环影响，节目没有证据证明模拟可以完全取代实地实验。
7. 行为真实性与规范安全的冲突：准确复制人的错误和偏见，可能提高预测能力，也可能在决策系统中复制歧视。
8. Michael Bernstein 与 ImageNet 的关系：转写中的口头归属需要对照原始论文和作者名单。
9. “foundation model”术语归属：转写把相关术语与 Percy Liang 及《Opportunities and Risks of Foundation Models》联系起来，具体首创和作者贡献需查原始资料。
10. 市场研究规模：节目主要说法是 1,000 亿美元，但附近出现“100 million or 100 billion”的口头混用。
11. UBI 研究数字：节目中出现 1,400 万美元和 4,000 万美元两种金额，还提到 5 年；地点、资助方、研究设计和结果均需核实。
12. 中段转写缺失：约 35 至 48 分钟内容被省略，无法完整复原节目关于 scaling law、8 billion people、Schelling 和社会规模模拟的论证。
13. 时长不一致：用户给出的全集时长约为 3,968 秒，即 01:06:08，但转写继续至约 01:09:31。时间锚点按用户提供表格原样使用。

行动建议

对 AI 产品团队

• 在构建个人智能体前，先明确系统需要掌握哪些长期偏好、情境偏好和禁止事项。
• 不要只用用户自述评估行为模型；尽可能比较真实选择与实际结果。
• 将“回答得合理”与“像目标用户一样回答”分成不同评估维度。
• 测试局部优化是否伤害整体指标，例如单一产品销量增长是否影响其他产品认知和总销售。

对市场研究与企业决策团队

• 先定义目标人口和具体子群，再决定所需样本规模，不要只追求总人数。
• 把模拟用于前期筛选假设、发现反直觉路径和识别副作用，而不是未经验证地替代所有真人研究。
• 为高价值决策保留真人校验，并跟踪模拟预测与实际发布结果之间的偏差。
• 建立明确的成本比较：模拟支出、原有研究支出、错误决策损失和潜在收益应分开核算。

对研究者

• 评估数字孪生时报告真人重测一致性，而不只是模型绝对准确率。
• 清楚区分态度、观察行为与因果实验数据。
• 对实验进行预注册，避免在看到结果后调整假设。
• 分人口级和个人级报告结果，避免一般人口平均成绩掩盖小众群体失效。
• 对缺失数据、样本流失、敏感信息治理和子群误差进行单独披露。

对组织治理者

• 在政治、公共政策及其他高影响场景部署前，明确禁止用例和人工审批流程。
• 不应把数字孪生自动视为真人授权代表；需要说明模型替谁发言、根据什么数据、能否撤回。
• 当模型被训练去复现偏见或错误时，应区分“分析性复现”和“规范性采用”，防止把描述现实误当成认可现实。

来源

• reused_en_transcript
• latent.space