
我是Matt Burns,Insight Media Group的首席内容官。每周我都会汇总最重要的AI进展,解释它们对使用这项技术的人和组织的意义。核心论点很简单:学会使用AI的劳动者将定义其所在行业的下一个时代,而这份通讯正是为了帮助你成为其中一员。
Elon Musk周三就Grok Bot发布了一条“重要说明”,Grok Bot是SpaceX于8月推出的测试版AI智能体:“关于Grok @Bot的重要说明:今后,@SpaceX将为任何给定任务使用最佳后端模型,包括Claude Opus 5.5、MidJourney、Suno和其他领先的API。无论什么最有可能为你带来最佳结果。”
Grok Bot是SpaceXAI(Musk的AI实验室,现已并入SpaceX)与Cursor的联合产品。SpaceX于6月同意以600亿美元股票收购Cursor,该交易已于8月完成。
8月我曾写道,当模型在价格上趋同时,钱会流向决定哪个模型承担哪项工作的一方。随着各组织日益依赖AI并试图平衡不断上升的成本,这一趋势正在蔓延。
本周我亲身听到了这一点。在本周一场AI活动上,我们采访的22位公司领导者中至少有10位描述了同样的习惯:按任务选择模型,把昂贵的模型留给真正需要它的工作。
本周我在纽约市,与Cautious Optimism通讯的Alex Wilhelm和The New Stack的Nick Lucchesi一起,周一和周二在Insight Partners的ScaleUp:AI大会上采访了Insight投资组合中22家公司的负责人。请注意,Insight Partners拥有The New Stack,我们为Insight正在制作的视频系列拍摄了这些采访。我在此不点名任何人,也不推销他们的任何产品。这些都是由经验丰富的运营者经营的真实公司,他们关于运行AI的讲述与市场其他部分的做法一致,正如下方OpenRouter的数据所示。
我们听到的最常见的模型分诊设置是漏斗式。一家安全公司首先对所有数据运行规则引擎,将存活下来的数据传给小型模型。更大的模型只能看到剩下的部分。该公司一位高管告诉我们,将1PB数据通过任何模型(即使是很小的模型)运行,都会花费数百万美元。另一家公司先将请求通过廉价模型运行,以弄清用户想要什么,然后再让昂贵模型做任何事。
成本是他们中大多数人给出的理由。一位高管说,他的公司最初有无限的AI预算,现在则在问那些token究竟买到了什么。另一位说,他的员工即使在大材小用时也总是伸手去拿最先进的模型,所以公司现在会教员工哪种模型适合哪项工作。第三位直言不讳地指出了激励因素:你花越多token,实验室赚得越多。当然,我们交谈的人中有几位是靠卖小型模型为生的,所以我对他们的热情会相应打个折扣。
切换本身也有风险。一位工程负责人告诉我们,他的团队在一场面向重要潜在客户的演示前三天换用了一个更新的模型,因为基准测试显示它更便宜且同样出色。工作流崩溃了,他的团队花了一个周末回滚。他的教训是评估(evals),即一组本可以在团队不得不手动发现问题之前就捕捉到问题的测试。The New Stack的Amanda Caswell上个月发现了这一故事的供应商版本:当时Anthropic将Opus 5.5的价格做得比Opus 5便宜20%,却破坏了智能体依赖的四项功能。
简而言之,切换之前先测试,并遵循ABS规则:Always Be Switching(永远在切换)。
OpenRouter 是一项服务,开发者通过一个连接即可访问数百个模型,并且它会公布流经其平台的数据。在截至 10 月 7 日的一周内,其十大最常用模型中有四个是“Flash”模型,即各实验室随旗舰模型一同发布的廉价、快速版本。Anthropic 刚刚将其廉价层级变得更便宜。Haiku 5.5 于周三发布,每百万输入 token 收费 0.10 美元,对于低于 100,000 token 的请求降价 90%,而像这样的小模型通常处理分类和路由等高吞吐量任务。
廉价模型承载了流量。前沿模型增长最快。
截至 2026 年 10 月 7 日当周,OpenRouter 按处理 token 数排名前十中的部分模型,以及与上周相比的变化。
| 模型 | 制造商 | Token 数 | 变化 | | --- | --- | --- | --- | | DeepSeek V4.1 Flash | DeepSeek | 33.6T | +48% | | GLM 5.3 Flash | Z.ai | 10.5T | -1% | | MiMo-V2.6-Flash | Xiaomi | 10.1T | +11% | | GPT-6 Luna | OpenAI | 6.46T | +28% | | Claude Opus 5.5 | Anthropic | 3.37T | +74% | | Jev 1.13 | TypeSafe | 3.32T | +12% |
来源:OpenRouter 排名,采用 CC BY 4.0 许可。Token 数统计的是通过 OpenRouter 路由的提示词和补全 token,并不衡量用户数或支出。所示行分别为第 1、3、4、6、9 和 10 名;第 2 名是一个未署名的 stealth 模型。
前沿模型也在增长。Claude Opus 5.5 按流量排名第九,一周内增长了 74%,是前十模型中增长最快的。它还在 OpenRouter 的 Artificial Analysis 智能指数中排名第一。这就是从外部看到的分诊:昂贵的模型每周承担更多工作,却远未接近榜单顶部。
对于 TNS,Jessica Wachtel 本周对此进行了两次测试:Claude Sonnet 5.5 以比 Opus 5.5 低 42% 的成本通过了她的全部 15 次编码运行,而 Opus 5.5 通过了 13 次,不过有四次 Sonnet 运行是在她提高其输出 token 限制后才通过的。前一天,她发现 GPT-6.1 Sol 以 18% 的成本达到了 GPT-6 Astra 的准确率。更便宜的模型两次都经受住了考验。
模型现在更新换代很快。DeepSeek V4.1 Flash 一个月前还不存在,现在已是 OpenRouter 的顶级模型。决策模型,即从一组选项中选出答案而不是自行撰写答案的模型,也在涌现。TypeSafe 的 Jev 排名第十,OpenAI 的 GPT-6 Luna Decisions 新出现在趋势榜上。
显而易见的反驳是,OpenRouter 的客户是选择了路由器的开发者,所以他们会切换。这很合理。其页面本身也指出,token 数并不衡量用户数或支出,而企业合同更具粘性。
但至少我们采访的 10 家公司以同样的方式运行其 AI,截至周三,Elon Musk 也是如此。
转载声明:本文为转载整理,原文版权归原作者及原站点所有。
原文来源:The New Stack
原文作者:Matthew Burns;如有侵权,请联系管理员删除。