这集讲什么
OpenRouter 押注的不是哪家模型会赢,而是开发者始终需要在不同模型、推理服务商和价格之间选择;加入 Stripe 后,这层分发基础设施还要面对日益复杂的「token 欺诈」。
1-3要点
- 多模型需求源于任务差异,也源于控制权:价格和速度之外,模型的拒答、安全策略与可定制性都会影响选择。
- 训练出模型不等于让开发者用上模型:分发、端点管理、文档和反馈循环是另一套能力。
- 开放权重使推理供应商竞争成为可能:同一模型可由不同服务商提供,网关因而能够比较与路由。
0:00 / --:--
Latent Space · 9 月 25 日
OpenRouter 团队认为开发者会持续需要在不同模型、推理服务商和价格之间选择,而加入 Stripe 后这层分发基础设施还要应对日益复杂的 token 欺诈问题。
OpenRouter 押注的不是哪家模型会赢,而是开发者始终需要在不同模型、推理服务商和价格之间选择;加入 Stripe 后,这层分发基础设施还要面对日益复杂的「token 欺诈」。
这集还没有学习卡。生成后会保存在这一集,下次直接打开。
Latent Space
OpenRouter: from Seed to Stripe — with OpenRouter’s Alex Atallah & AMP’s Anjney Midha
YouTube
音频
2022 年末,开发者可直接使用的高质量大模型还不多。随后 Llama、Alpaca、Mistral 等开放权重模型涌现,模型选择迅速从「有没有替代品」变成「哪一个适合当前任务、由谁提供推理、成本和响应速度如何」。OpenRouter 在这一变化中提供统一的模型发现、调用和路由入口。
本集由 swyx 主持,讨论 OpenRouter 从早期社区实验到加入 Stripe 的历程。节目页面与转写的部分发言者标注、人物身份存在错位;下文涉及个人经历时,优先依据上下文辨认,并在「争议与需核实」中说明,不把有疑义的归属当成确定事实。
这集的主线,是一个原本容易被称作「API 包装层」的产品,如何因模型市场的分散而获得基础设施价值。早期投资人担心规模定律最终只会留下一个赢家;OpenRouter 团队则看到另一面:即使模型能力持续提升,不同模型在成本、速度、安全策略和具体任务上的差异仍会迫使开发者不断切换。Discord 的内容审核遇到封闭模型拒答,Mistral 的开放权重模型又引发多家服务商竞价,分别展示了「需要选择」和「选择可以形成市场」的理由。
节目更有价值的部分在于分清训练与分发。实验室能投入巨资产出 checkpoint,却未必准备好密钥管理、端点、版本、开发者文档和上线后的反馈渠道。OpenRouter 试图把这些环节与中立的模型展示放在一起;它的排行榜也因此不只是流量入口,而成为观察应用需求变化的窗口。团队同时讲了取舍:浏览器扩展、微调服务、模型融合都做过探索,但不是每条相邻路线都值得立即产品化。
加入 Stripe 则把讨论带向新的约束:当推理调用本身可被盗用、转售或失控智能体(Agent)大量消耗,支付风控与推理网关的安全不再是外围功能。不过,节目对未来 token 经济规模、智能体欺诈浪潮的判断主要是嘉宾预测;它们说明团队为何重视风控,不能直接当作已验证的市场数据。
💬 他们说了什么:开场用「发布—订阅」解释市场:供应方不断发布模型,使用方订阅可调用的模型标识或自动路由入口。与偶尔购买商品的人不同,推理应用和智能体会持续调用,并不断改变所用模型。
💡 为什么重要:这解释了 OpenRouter 为何不只是模型目录。开发者需要稳定 API,也需要在持续消费推理时重新选择供应、能力和成本。
⚡ 争议点:把模型视作可切换的商品有利于竞争,却可能低估上下文格式、行为差异与迁移测试带来的切换成本。
💬 嘉宾回忆,2022 年末可用模型选择有限;Llama 和随后出现的 Alpaca 让他意识到,小团队也能基于开放权重与数据做出不同用途的模型。他提到 Alpaca 当时约 600 美元的微调成本,视其为模型供给可能快速扩张的信号。早期反对意见则是规模定律会让市场最终只剩一个主要赢家。
💡 如果模型供给持续多样化,开发者就需要一个能同时发现、比较和使用开放与封闭模型的入口,而不是分别接入每家实验室。
⚡ 低成本微调案例能证明实验门槛下降,却不能证明训练数据合规、推理部署和商业分发也同样便宜;「单一赢家」与「多模型长期共存」仍是市场判断。
💬 嘉宾讲述 Discord 尝试用语言模型执行各服务器自定的社区规则。当时平台约有 2.5 亿月活用户,内容审核还涉及一支 5000 多人的全球承包团队;但封闭模型有时会因自身安全规则拒绝处理本应审核的内容。通用审核端点无法充分替代「按每个社区规范判断」的需求。
💡 问题不只是模型够不够聪明,而是企业能否控制其行为、可靠性与适用政策。开放模型和跨模型编排因此获得现实用例。
⚡ 更多模型控制权不自动意味着更安全。社区自定规则也必须与平台政策、法律及审核员保护相协调。
💬 嘉宾认为,实验室可能花费巨资训练模型,却在 checkpoint 完成后缺少把它交到开发者手中的流程:密钥、端点、配置、版本和早期反馈都需要建设。他以 Mistral 最初发布可下载权重、而非现成 API 为例。讨论中还称 OpenRouter 已有超过 1000 万开发者,同时承认账户去重和「开发者」口径需要谨慎解释。
💡 训练优势和分发优势不是同一回事。统一入口既能缩短新模型被试用的路径,也让缺少大型自有产品渠道的实验室更容易获得反馈。
⚡ 接入平台可以扩大触达,也会让实验室依赖第三方入口;节目中关于首发可触达开发者人数的说法,并未附独立统计口径。
💬 嘉宾回忆,有投资人把 OpenRouter 视为「只是市场」或「套在别人 API 上的包装层」。他的反驳是,即便只把三个 API可靠地编排到生产环境,也包含工程、开发者体验与社区协调工作;让新模型在发布当天可用,更不是简单转发请求。
💡 产品价值不能仅凭它位于技术栈的哪一层判断。可靠接入、降低搜索成本和形成供需反馈,都可能成为难以迅速复制的能力。
⚡ 「不是薄包装」也不等于护城河已经稳固。若模型实验室改善自有开发者平台,或竞争网关提供相近服务,OpenRouter 仍须持续证明差异。
💬 早期团队先进入受模型拒答、难以定制等问题困扰的社区,观察用户实际分享和使用什么,而非先建一个抽象市场。另一条探索是 Chrome 扩展 Window AI:让用户为网页自选模型。实验最终让团队认为,更合适的形态是带模型发现能力的 API;节目也讲到,这段开源协作促成了后来 OpenRouter 创始团队成员相识。
💡 社区不仅提供早期用户,也帮助团队找到问题与产品形态。失败的界面实验并非白费,而是排除了不适合开发者规模化接入的路径。
⚡ 访谈呈现的是创业者事后回顾;「扩展不适合」是对当时产品和目标用户的判断,不代表浏览器侧模型调用永远没有市场。
💬 嘉宾把 Discord 服务大型加密社区的经验称为生成式 AI 的一次「预演」。Midjourney 选择让用户在同一服务器看到他人的提示词和作品,缓解空白输入框带来的无从下手;讨论中称其社群增长到约 1000 万月活。但 OpenRouter 服务的是构建应用的开发者,需要 API、治理和数据策略,不能照搬 Midjourney 的 Discord 产品形态。
💡 可观察他人使用的社区,会降低新能力的学习门槛;而当用户从终端创作者变成开发团队,产品重心就转向稳定调用与管理。
⚡ 嘉宾提到的增长及营收速度是访谈说法。Midjourney 的成功也不能单独归因于 Discord,模型质量与产品设计同样重要。
💬 主持人回忆 Mixtral 8×7B 发布后,多家推理服务商争夺托管流量,价格一度下降约 80%。OpenRouter 团队将此视为供应商可以在同一模型上竞争、并把价格优势传给开发者的早期证明。讨论还提醒:响应更快会让人觉得模型「更聪明」,但主观偏好不等于严格评测中的正确率更高。
💡 开放权重让「模型是谁训练的」与「推理由谁提供」分离,才有了可比较价格、速度和服务质量的推理市场。
⚡ 「最佳模型」是当时部分使用者的评价,不是公认结论;价格降幅及性能比较也需要限定时间、服务商和评测方法。
💬 嘉宾区分两者的核心客户:LM Arena 面向需要可靠模型评测的研究者与实验室;OpenRouter 面向要把模型用于真实应用的开发者。团队称 OpenRouter 对提示词与输出采取保守的数据政策,组织若要查看相关内容须主动启用相应设置;Arena 则以收集比较结果支持评测。
💡 两家公司都展示模型、都有比较体验,但「帮助训练团队衡量模型」与「帮助开发者调用模型」会导向不同的数据承诺和产品路线。
⚡ 隐私描述应以当前正式政策、所选推理服务商政策及具体账户配置为准,不能仅凭访谈推断整条请求链上无人能够接触数据。
💬 团队认为聚焦既改善产品,也让外界明确知道该找谁解决问题。他们曾做过从 YouTube 视频提取转写、微调出类似人物说话方式模型的原型,却没有把它作为 OpenRouter 的主产品推出;对于微调、记忆等相邻需求,选择更多与生态伙伴合作。
💡 网关天然看得见许多扩张机会,但每增加一种业务,就可能削弱其中立性、分散开发资源,或要求新的数据处理方式。
⚡ 不做微调是当时的战略取舍,并非证明微调服务没有价值。节目中关于 Anthropic「从第一天就聚焦 AI 结对编程」的回忆,也与其早期面向外界的产品呈现有差异。
💬 团队在 2024 年初做过 MOM(Mixture of Models):并行调用数个模型,再由另一模型融合答案;当时结果常与其中最强模型相近,于是删去代码。到 2026 年,他们因多个前沿模型能力更接近而重试融合,但举出的支持证据主要是个人试验,仍需基准测试。增长方面,Claude 3.5 Sonnet 推动编码调用,后来的 OpenClaw 等智能体带来新用户和自动路由需求;团队称平台如今处理每天超过 10 万亿 token,排行榜则记录了应用类别的变化。
💡 同一功能是否成立,取决于模型能力与用户场景所处的时间点。排行榜也把平台的实际使用变化转化为模型市场信号。
⚡ 让参与融合的模型评价融合答案,不能替代独立评测;每天的 token 量属于嘉宾自报。增长回顾中还把 Mixtral 发布放在 Sonnet 3.5 之后,与前文时间线不一致。
💬 团队列举盗刷信用卡、被盗账户、违规转售推理流量、企业遭入侵及意外失控的智能体等风险;称最近一个月拦截的欺诈金额是前一个月的 10 倍。嘉宾认为 Stripe 的风控经验与 OpenRouter 的网关数据互补,并预测自主智能体会放大攻击规模。对外承诺是保留 OpenRouter 名称、产品和路线图,近期主要变化是推进速度更快。
💡 当 API 调用直接消耗可计费的推理资源,安全、支付和开发者体验就成为同一条交易链上的问题。加入 Stripe 的战略解释,重点不只是收款,也包括控制滥用。
⚡ 「拦截金额增长 10 倍」缺少基数,不能直接推断总欺诈率上升;嘉宾提出未来 token 经济达数万亿美元及智能体欺诈浪潮,均属预测。保留品牌与路线图是访谈时的计划,仍需观察后续执行。
以下为依据英文发言所作的中文意译:
「模型实验室可以花数十亿美元训练 checkpoint,完成后却不知道怎样让开发者真正试用它。」
「聚焦不只让团队做出更好的产品,也让世界知道:遇到这个问题该找谁。」
「模型更快时,人有时会觉得它更聪明。」
「只要有大量价值在网络中流动,就需要新的保护基础设施。」
OpenRouter 的市场角色可拆成三层:发现模型,帮助开发者弄清能力与使用情况;交付推理,把不同模型和供应商变成可调用的服务;管理选择,按任务、价格或其他条件路由。只看统一 API,容易忽略前后两层;只看排行榜,又会忽略真实请求对可靠性和安全性的要求。
本集还展示了「社区」作用的变化。Midjourney 的 Discord 服务器让新用户通过围观作品学习提示词;OpenRouter 面向的开发者则需要把这种发现过程接到代码、团队权限及数据政策中。因此,两者都从社区受益,却不能共享同一产品界面。
最后,「token 欺诈」在这里不是单一种犯罪手法,而是围绕可计费推理资源的一组问题:付款欺诈、凭证泄露、违规转售以及智能体误配置可能呈现相似的异常用量,却需要不同处置。网关若要兼顾低摩擦接入与风控,必须先能区分这些原因。