一个人到底能同时驱动多少个 agent?
这个问题我问了自己一年多。2026 年上半年,答案被彻底改写了一遍——但改写它的不是模型更聪明了,而是它变便宜了。这句话值得你多读一遍,因为整个行业的注意力都押在前半句,真正撬动格局的却是后半句。
我常年把前沿模型和开源模型的发布、一手信源、论文与 benchmark、推理成本数据尽量全量过一遍。过去半年最强烈的一个体感是:智能的天花板每隔几个月抬一点,但智能的地板——也就是"跑一次同等质量的推理要花多少钱"——是在整段整段地往下塌。塌到什么程度?据分析测算,在同等智能水平下,开源模型现在大致比闭源旗舰便宜了近九成。近九成不是打折,是换了一个数量级。
而 agent,恰恰是这个世界上最不挑智能上限、最挑智能地板的工作负载。
先想清楚:Agent 的物理定律是成本
我们习惯把大模型当成一个"一问一答"的东西。你问一句,它答一句,token 用量是有限的、可预期的。但 agent 不是这样。一个 agent 干活,是一个持续燃烧 token 的循环:读上下文、规划、调工具、读工具返回、反思、再规划、再调工具……一个稍微复杂的任务,agent 内部可能来回几十上百轮,每一轮都在往模型里灌 token、再从模型里抽 token 出来。
所以我一直强调一句判断:对 agent 来说,成本不是财务细节,是物理定律。 它决定了你能不能让 agent 一直跑、能跑多少个、敢不敢让它"过夜"替你干活。一个按闭源旗舰价计费、24 小时不停的 agent 舰队,账单会以一种很不讲道理的速度膨胀——不是因为它笨,恰恰是因为它勤快。
这就是为什么"便宜近九成"这件事,对个人开发者的意义,比"又出了个更强的模型"大得多。更强的模型让你能做以前做不到的事;更便宜的模型让你能一直做以前只敢偶尔做的事。前者拓宽能力边界,后者拓宽能力的"运行时长"。而超级个体的杠杆,藏在运行时长里。
不同任务形态,烧 token 的量级完全不同
在算总账之前,得先把一件事讲清楚,否则后面所有的账都是糊的:“一个 agent 任务"不是一个有意义的计量单位。 不同形态的任务,token 消耗差着两三个数量级,你拿平均值去估算,估出来的东西没有任何指导价值。
我按自己跑的负载,把常见的 agent 任务形态粗分成四类。下面这张表的数字是我这条特定管线的量级观察,不是普适常数——你换个领域、换个 prompt 风格、换个工具集,绝对值会变,但这个量级阶梯的形状是稳定的:
| 任务形态 | 典型来回轮数 | 单次任务总 token(量级) | 主要消耗在哪 |
|---|---|---|---|
| 单次分类 / 抽字段 | 1 | 千级 | 输入的那一小段正文 |
| 摘要一篇长文 | 1–2 | 万级 | 输入的全文 |
| 多步检索 + 综合 | 5–15 | 十万级 | 每轮都把检索结果重新灌进去 |
| 代码库巡检 / 重构 | 30–100+ | 百万级 | 上下文反复重放 + 长输出 |
这张表里最该被记住的,不是任何一个具体数字,而是跨度:从千级到百万级,中间隔着三个数量级。一个代码巡检任务,抵得上一千次分类任务。
而 token 是怎么被烧掉的,也值得掰开看。很多人的直觉是"agent 干了 30 轮,就是 30 次调用的钱”——这是错的,而且错得很离谱。因为 agent 的每一轮,都要把之前所有轮的上下文重新发一遍给模型。它没有记忆,它的"记忆"就是每次把全部历史重新灌进去。
一个 30 轮的 agent 任务,输入 token 是怎么滚起来的
(设初始上下文 5K,每轮工具返回 + 模型输出增加约 2K)
轮次 本轮输入 = 历史全量 累计输入
─────────────────────────────────────────────
第 1 轮 5K 5K
第 5 轮 5K + 4×2K = 13K ~45K
第 10 轮 5K + 9×2K = 23K ~140K
第 20 轮 5K + 19×2K = 43K ~480K
第 30 轮 5K + 29×2K = 63K ~1,020K
累计输入 ≈ Σ(5K + 2K×n),n 从 0 到 29
≈ 30×5K + 2K×(29×30/2)
≈ 150K + 870K ≈ 1.02M token
(量级示意,实际取决于你的上下文管理策略)
看清楚这个形状:轮数翻倍,成本大约变成四倍。 因为累计输入是轮数的平方项(Σn ≈ n²/2)。这是 agent 成本最反直觉、也最要命的一条性质——它不是线性的,是二次的。 你的 agent 多绕了几轮弯路,账单不是多一点,是多一截。
这条性质有两个直接推论,都很实用:
- 省 token 的最大杠杆不是换便宜模型,是让 agent 少绕弯。 一个 30 轮能干完的活儿,你把它压到 15 轮,成本掉到约四分之一——这个收益比换模型还大,而且不损失一分质量。
- 上下文管理不是洁癖,是财务。 每一轮塞进去的冗余 token,都要在剩下的所有轮里被重复计费。第 3 轮多塞了 1K 无用的东西,跑到第 30 轮,你为这 1K 付了 27 遍钱。
明白了这一点,再来算总账,你就知道这笔账为什么会大得那么离谱。
算一笔账:一夜 token 消耗,闭源 vs 开源
空谈便宜没意思,我们算一笔账。数字都标成示意/估算,你不要当报价,只感受量级。
假设我养一支过夜 agent 舰队:5 个 agent,各自处理不同任务线(情报汇总、代码巡检、文档整理、竞品追踪、素材去重),跑一整晚 8 小时。据我的大致量级观察,这样一支舰队一夜下来,吞吐个几千万 token 是很正常的——agent 的上下文来回重放非常吃 token,别用聊天的直觉去估它。
我们保守取一夜 5000 万 token,输入输出按 7:3 分。再放两组量级示意的单价:
- 某旗舰闭源:约 $5 / 百万输入 token,$25 / 百万输出 token
- 某强开源:约 $0.30 / 百万输入 token,$1.20 / 百万输出 token
一夜 5000 万 token(输入 3500 万 / 输出 1500 万)
┌─────────────────────────────────────────────────────────┐
闭源旗舰 │ 输入 3500万 × $5 = $175 │
│ 输出 1500万 × $25 = $375 │
│ ───────────────────────────── │
│ 一夜合计 ≈ $550 → 一个月 ≈ $16,500 │
└─────────────────────────────────────────────────────────┘
┌─────────────────────────────────────────────────────────┐
强开源 │ 输入 3500万 × $0.30 = $10.5 │
│ 输出 1500万 × $1.20 = $18 │
│ ───────────────────────────── │
│ 一夜合计 ≈ $28.5 → 一个月 ≈ $855 │
└─────────────────────────────────────────────────────────┘
同一支舰队,同一晚活儿:$550 vs $28.5
月账单:一台入门级二手车 vs 一顿好点的饭
(数字为量级示意,非实时报价)
请注意,我不是在说开源模型跑这活儿的质量和闭源旗舰一模一样——这点后面会诚实地掰扯。我是在说:当价格差到这个量级,“要不要用"这个问题的性质就变了。 $16,500/月,个人开发者想都不会想,这是一家小公司的预算;$855/月,是一个认真的独立开发者咬咬牙养得起的东西。同样一个 agent 任务,闭源旗舰价下可能是"几美元一次”,换到强开源就掉到"几分钱一次"。几美元和几分钱之间,隔着的不是钱,是"敢不敢让它一直跑"的心理阈值。 越过这个阈值,过夜 agent 舰队从 PPT 里的概念,变成你今晚就能开机的东西。
闭源溢价为什么坍塌:份额还小,价格已崩
有人会问:便宜是便宜,可开源模型真追得上吗?
这就要讲这半年最有意思的一个错位。据我持续追踪,开源模型在推理、编码、agent 这三类最吃 token 的任务上,和闭源旗舰的差距已经收窄到"大多数生产场景够用"的程度——不是全面碾压,而是在你真正会大量重复跑的那类活儿上,够好了。而恰恰是这类活儿,最该便宜。
但另一个数字很值得玩味:据分析测算,开源模型在全行业总 token 用量里,目前大概只占 25–30%。也就是说——价格已经崩了,份额还没到。 大量的 token 还在按闭源旗舰价燃烧,很多只是因为惯性、默认选项、或者"当初接的就是它"。
我把这个叫做闭源溢价的坍塌,而且是那种先在价格上坍塌、再慢慢在份额上兑现的坍塌。价格是领先指标,份额是滞后指标。对个人来说,这中间的时间差就是窗口:当大多数人还在按旗舰价付费的时候,先把自己的 agent 负载迁到开源路由上的人,等于给自己的每一份产能都上了近九成的折扣。 这不是省钱,这是杠杆——在《超级个体的情报系统:98% 不是 AI 》里我聊过信息处理能力才是稀缺品,而这里补上的是另一半:处理信息的算力,第一次便宜到个人可以敞开用。
一张图讲清多模型路由
坍塌之后,真正的架构变化只有一句话:别再让所有操作都按旗舰价计费。
过去我们习惯挑"一个最强的模型",然后所有活儿都喂给它。这在成本是物理定律的 agent 世界里是纯粹的浪费——你让一个律师去帮你抄写、让一个建筑师去帮你搬砖,还按他们的时薪付钱。正确的做法是多模型路由:按任务的性质,把每一次调用送到"刚好够用且最便宜"的那个模型上。
一次 agent 调用进来
│
┌─────────┴─────────┐
│ 路由器 / Router │ ← 判断任务类型
└─────────┬─────────┘
┌──────────────┬─────┴──────┬───────────────┐
▼ ▼ ▼ ▼
┌─────────┐ ┌──────────┐ ┌─────────┐ ┌──────────┐
│ 复杂推理 │ │ 编码任务 │ │ 对话/轻活│ │ 批量去重 │
│ 规划决策 │ │ 重构/写码 │ │ 分类/摘要│ │ 格式化 │
└────┬────┘ └────┬─────┘ └────┬────┘ └────┬─────┘
▼ ▼ ▼ ▼
强开源大模型 编码专用变体 轻量小模型 最便宜小模型
(或闭源旗舰 (便宜且更准) (几分之一价) (近乎白菜价)
仅在必要时)
│ │ │ │
└─────────────┴──────┬──────┴─────────────┘
▼
只有 <10% 的调用真正需要旗舰级智能
其余 90% 用便宜模型跑,总账单降一个数量级
这张图的核心不是"用了几个模型",而是那句话:真正需要旗舰级智能的调用,往往不到十分之一。 剩下九成,是读文件、抽字段、分类、摘要、格式化、去重这类"体力活"——它们贡献了绝大部分 token 用量,却几乎不需要顶级智能。让这九成的体力活也按旗舰价跑,就是在为不存在的智能付费。
这半年我对自己 agent 栈做的最有价值的一件事,不是换了更强的模型,而是把路由这层认真搭起来。这件事的 ROI 是骇人的:几乎不损失质量,账单直接掉一个量级。它已经不是一个"优化技巧"了,它是默认架构。
路由器凭什么做决策
图好画,难的是那个"路由器"到底看什么下判断。这半年我踩下来,能用的判据其实很朴素,而且排在最前面的那几条根本不需要模型参与——用规则就能决定,一分钱不花。
我把判据按"先便宜后贵"排成一条链,和第一篇里三级去重的思路是同一个道理:便宜的过滤器必须排在贵的前面。
| 判据 | 怎么判 | 成本 | 指向 |
|---|---|---|---|
| 任务类型标签 | 调用方自己声明(这是抽字段/这是规划) | 免费 | 直接命中对应档位 |
| 输入长度 | 数 token | 免费 | 超长 → 先压缩,别直接上旗舰 |
| 输出是否结构化 | 有没有给 schema | 免费 | 有 schema → 小模型足够 |
| 是否可逆 | 这步错了能不能重来 | 免费 | 不可逆 → 升档 + 人在回路 |
| 历史命中率 | 这类任务小模型过去的通过率 | 便宜(查表) | 低于阈值 → 升档 |
| 语义复杂度 | 让小模型先判"这题难不难" | 便宜 | 判难 → 升档 |
前四条是纯规则,覆盖了我这边大部分的路由决策——它们连一次模型调用都不需要。这一点很重要,因为我见过不少人一上来就想搭一个"智能路由器",用一个模型去判断该用哪个模型。那你就凭空多了一次调用、多了一个延迟、多了一个会出错的环节,去解决一个 if 语句就能解决的问题。能用 if 解决的,别用模型。
第四条"是否可逆"值得单独说,因为它是唯一一条不以省钱为目标的判据。它问的不是"这题难不难",是"这题错了赔不赔得起"。给数据库写一条记录、发一封邮件、提一个 commit——这些动作错了要么难回滚要么根本回不了头。在不可逆的动作上省钱是最坏的省法:你省下的是几分钱,赌上的是一次需要你花一小时手工清理的烂摊子。这条判据往下接的,就是本专栏第四篇《怎么才能放心把活交给一个没人盯着的 AI Agent 》讲的信任工程——路由的降档边界,本质上是由你的信任边界画出来的,不是由价格表画出来的。
还有一个反直觉的落地经验:升档要比降档更积极。 路由器判错方向的代价是极不对称的——该用便宜模型你用了旗舰,你多花了几分钱;该用旗舰你用了便宜模型,agent 拿着一个错误的中间结论继续往下跑二十轮,那二十轮的钱全白烧,而且最后产出还是错的,还得你人肉去发现它错了。省错一次的成本,远大于省对一百次的收益。 所以我的路由器在拿不准的时候,一律往上走。
规模化之后,成本曲线会拐弯
前面算的账有一个隐含假设:成本随规模线性增长。 5 个 agent 花 $28.5,50 个就花 $285。在小规模下这个假设够用,但它会在某个点失效——而且失效的方向对你不利。
我把这条曲线拆成三段,你会看到 token 单价这件事,只在第一段里是主角:
养 agent 舰队的总成本,随规模的三段形状
成本
▲
│ ╱ ← 第三段:人的时间
│ ╱ 成为瓶颈,斜率再抬
│ ╱
│ ╱───────╯ ← 拐点二:
│ ╱ 你看不过来了
│ ╱────╯ ← 第二段:token 便宜,
│ ╱────╯ 但 eval / 运维 / 质检
│ ╱───╯ 的固定成本摊进来
│ ╱──╯ ← 拐点一:你开始需要"知道它们在干嘛"
│ ╱─╯ ← 第一段:token 成本主导,近似线性
└──────────────────────────────────────────────▶ agent 数量
1-2 个 5-20 个 50+ 个
第一段:token 是主要成本 → 便宜近九成 = 总账单降九成
第二段:token 退居次要 → 便宜近九成 = 总账单降五成?三成?
第三段:token 几乎不在账单上 → 便宜近九成 ≈ 无感
这张图想说的只有一句:token 便宜近九成,只在第一段是九成。 越往右,token 在总成本里的占比越小,“便宜近九成"这个数字的意义就越稀薄。
两个拐点值得分别说:
拐点一,出现在你开始需要"知道它们在干嘛"的时候。 一两个 agent,你可以人肉盯着;到五个十个,你必须有日志、有告警、有一个地方能一眼看出哪个卡了、哪个在空转。这套东西的成本,跟你跑几个 agent 关系不大,是一笔固定投入——但它一旦被摊进来,你的"每 agent 成本"就再也不是从原点出发的那条直线了。这也是为什么很多人算完 token 账觉得便宜得不可思议,真跑起来却发现没省那么多:他们算的是第一段的账,跑的是第二段的活。
拐点二,出现在你自己看不过来的时候。 这个拐点最狠,因为它花的不是钱,是你的时间——而你的时间没法用 $0.30/百万 token 买。50 个 agent 一夜产出的东西,就算每个只要你看 5 分钟,也是 4 个多小时。你的舰队规模上限,从来不是你的预算,是你的注意力。 这跟本专栏第一篇《让 AI 自动帮你追全网资讯,最后会卡在哪里 》里那个漏斗是同一件事的两种说法:那边是信息量压不下来,这边是产出量压不下来,卡住的都是同一个东西——你的判断带宽。
所以关于规模,我的结论是一句听起来很扫兴的话:成本坍塌让你从"养不起 2 个"变成"养得起 20 个”,但它没让你"看得过来 200 个"。 从 2 到 20 是 token 价格给的;从 20 往上,得靠别的东西给——而那个"别的东西",就是这篇最后要泼的那盆冷水。
杠杆变长了:一个人能撬动多大产能
把上面几件事叠在一起——成本坍塌、路由默认化——你会得到一个对个人开发者非常重要的结论:杠杆变长了。
超级个体的故事,本质是一个人用工具把自己的产能放大到不成比例。过去这个放大器的瓶颈往往不是"想不出来要 agent 干什么",而是"养不起让 agent 一直干"。你有一百个想让 agent 帮你盯着的东西,但你只敢开一两个,因为每多开一个都是真金白银在烧。成本地板,就是想象力的地板。
现在地板塌了近九成。同样一份预算,你能同时驱动的 agent 从"一两个"变成"一支舰队"。这意味着你可以让 agent 去做那些单独看不划算、但一直做就有复利的事:每晚扫一遍你关注的所有信源、持续对你的代码库做巡检、把散落的素材去重归档、盯着竞品的每一次更新。这些事人来做太贵、太枯燥,以前让 agent 做又太烧钱——现在它们第一次同时变得"便宜到值得一直做"。关于这种主动型、过夜运转的 agent 长什么样,我在《会反过来 prompt 你的主动 agent 》里描过它的形态,这里补上的是让那个形态跑得起、养得起的经济基础。
信息不值钱,值钱的是处理信息的能力。 而这半年发生的事是:处理信息的能力,它的单价崩了。
你今晚能做的四件事
讲了这么多判断,落到你手上应该是可执行的动作。下面四件事按我自己做的顺序排,ROI 从高到低。
第一,先量,再优化。 在你换任何模型之前,先回答三个问题:你的 token 花在哪个 agent 上?那个 agent 的 token 花在哪一类调用上?那类调用里输入输出各占多少?没有这三个答案,你所有的优化都是瞎猜。这件事的门槛低到过分——在你的模型调用外面包一层,把 任务类型 / 输入 token / 输出 token / 用了哪个模型 / 花了多少 记进一张表,就够了。我打赌你量完的第一反应会是"怎么是它?"——大多数人的 token 大户,都不是他们以为的那个。
第二,砍轮数,优先于换模型。 回到前面那条平方曲线:轮数减半,成本降到约四分之一。所以先看你的 agent 有没有在绕弯——是不是在反复读同一个文件、是不是在工具返回里塞了一堆用不上的字段、是不是因为 prompt 不清楚而多试了三次。这些是纯赚的:省了钱,还快了,还更准。 换模型是拿质量换钱,砍轮数不用拿任何东西去换。
第三,把路由从最没风险的那一档开始接。 别一上来就重构整条链。挑一类又高频、又可逆、又容易验证对错的调用——分类、打标签、抽字段这种——先把它降到小模型,跑一周,对比质量。这一类通常就贡献了相当一部分 token,而且错了几乎没有代价。先吃掉这块,账单会有肉眼可见的变化,而你几乎没冒任何风险。
第四,给每个降档决策留一个回滚开关。 每一档都要能一行配置切回去。这不是洁癖——你会需要它:开源模型的一次版本更新、你 prompt 的一次微调,都可能让某一档突然不够用了。能十秒钟切回去,你才敢大胆地降档。
反过来,下面几件事是反模式,我自己全踩过:
- 在不可逆动作上省钱。 写数据库、发消息、提交代码——这些地方的模型钱,是你最不该省的那部分。
- 为了省钱把上下文压得太狠。 压上下文是对的,但压过头,agent 会因为缺信息而多绕五轮,那五轮的钱远超你省下的。这是最常见的"省出反效果"。
- 没有 eval 就换模型。 你把一档降到便宜模型,账单掉了,你很开心。质量掉没掉?你不知道。没有 eval 的降档不叫优化,叫赌博——而且是那种过很久才开奖、开奖时已经赔了很多的赌。
- 把路由器做成一个模型。 能用
if解决的,别用模型。 - 只盯 token 单价,不看总账。 在第二段的曲线上死抠单价,不如把 eval 和运维那套东西搭利索——那才是你那一段真正的大头。
下半场预测
到这儿,把前面的观察往前推,我给出这个专栏这一篇的几条判断——这是《2026 AI 上半场观察以及下半场预测》,下半场我押这几个方向:
其一,多模型路由会从"高级玩法"变成"默认架构"。 到年底,一个认真搭 agent 的人,如果还在把所有调用喂给同一个旗舰模型,会像今天还在手写 SQL 拼接字符串一样,是一种可辨识的、要被淘汰的落后姿势。路由会内置进主流 agent 框架,成为你新建项目时的默认脚手架,而不是你事后才想起来做的优化。
其二,对成本敏感的 agent 负载,会最先、最彻底地倒向开源。 那些高频、重复、体力活性质的 token 消耗大户——批量处理、数据清洗、持续监控——会成为开源模型份额从 25–30% 往上爬的主力。份额这个滞后指标,会在下半年开始追价格这个领先指标。错位会收敛,但收敛期就是窗口期。而窗口期的机会长什么样、哪些已经挤成红海、哪些还空着,是本专栏最后一篇《2026 下半场,AI Agent 的红海已满,蓝海在哪 》要画的地图——这里只提醒一句:别人还在按旗舰价烧钱的时间差,本身就是一种可以下注的资产。
其三,自建与优化推理基础设施,会从"大厂专属"变成一种个人也够得着的优势。 当模型权重开源、单价已经很低时,谁能再往下压一层——用更省的推理框架、更聪明的批处理、更贴合负载的部署——谁就能在别人的地板之下再挖一层地下室。这一层会成为下半场里一个被低估的、真实的护城河,而且它对个人不再是遥不可及:便宜的开源权重 + 成熟的推理工具链,让"自己伺候自己的推理"第一次变得可行。
Caveat:便宜,从来不等于免费
写到这里必须踩一脚刹车,否则这篇就成了鼓吹。
我信奉一条我常引的 Lusser’s Law——一个系统的可靠性,是它所有环节可靠性的乘积,任何一环拉胯,整体就崩。便宜的 token 只是把一个环节的价格打下来了,它没有把其余环节变免费,甚至恰恰相反:当调用便宜到你敢海量地跑,其余环节的成本反而被放大了。
养一支 agent 舰队,真正的账单不在 token 上。它在这些地方:可靠性——开源模型偶尔的抽风、格式漂移、幻觉,你得有兜底;评测——你怎么知道换了个便宜模型之后质量没掉?你得有一套持续跑的 eval,这本身就是个工程,也是《怎么才能放心把活交给一个没人盯着的 AI Agent 》那篇的主题:便宜让你敢让 agent 过夜,而敢不敢真的睡着,取决于你有没有把评测和护栏建起来;运维——五个 agent 跑一夜,早上你得有能力知道哪个卡了、哪个跑偏了、哪个在空转烧钱;质检与去重——agent 产出的东西鱼龙混杂,你得有一层把关,否则便宜换来的是一堆需要人肉清理的垃圾。
这就回到我反复讲的那个数字:这台机器 98.4% 是脚手架,1.6% 才是判断——是 harness,不是魔法。token 便宜近九成,省掉的是那 98.4% 里"模型调用"这一小块的钱;而搭 harness、做 HITL(human-in-the-loop)、写 eval、盯运维这些活儿,一分没省,甚至因为你现在敢跑得更多而变得更重。关于这套 98.4% 脚手架到底由什么构成,我在《Agent 工程:那 98.4% 的 harness 》里拆得更细。便宜的模型让你敢养一支舰队,但让这支舰队不翻船的,是你在模型之外搭的那一整套东西。 这部分,AI 帮不了你,得你自己搭。
结尾
回到开头那个问题:一个人到底能养多大的 agent 舰队?
半年前我的答案是"一两个,而且得省着开"。今天我的答案是"一支,只要你搭得起那套 harness"。变化不来自模型变聪明——它一直在变聪明,那不新鲜;变化来自模型变便宜,便宜到跨过了个人敢让它一直跑的心理阈值。 这是一次安静的、不上头条的降维打击:它没让任何一个 benchmark 刷新纪录,却把"过夜 agent 舰队"这件事,从企业的专利,第一次真正交到了个人手里。
但我不想让你带着"从此躺赢"的错觉离开。成本坍塌打开的是门,不是路。 门后面那条路——可靠性、评测、运维、判断——还得你自己一步步走,而且现在因为你走得起了,反而要走得更认真。便宜的从来只是燃料,值钱的永远是驾驶。地板塌了近九成,天花板还在你自己手里。这半年真正该问的,不是"模型又便宜了多少",而是——便宜省下来的那份预算和胆量,你打算拿去撬动一件多大的事?




读者回响