AI答一句话，钱花在哪？把推理成本拆开算

我是智界探索者。

上周写智能体成本，留了一句"单价便宜不等于每个任务便宜"。后台有读者追问：那到底贵在哪？今天不讲结论，把这笔账拆开算一遍。

一、一次回答，其实是两段干法

你发一句话过去，模型干的是两件完全不同的事。

第一段叫"读"，业内叫 prefill：把你这次发的内容（加上历史对话、系统提示）一次性全部读完，建立"记忆底稿"。这段是并行的——几万个词元可以同时算，GPU 的算力单元能吃满。

第二段叫"写"，叫 decode：一个字一个字往外吐。这段是串行的——必须先算出第 1 个词，才能算第 2 个。而且每吐一个词，都要把模型参数从显存里搬一遍。所以它卡的不是算力，是显存带宽。

这就解释了牌价上那个 5 倍差：GPT-6 Astra 每百万词元输入 10 美元、输出 50 美元；便宜的 GPT-6.1 Sol 是输入 2 美元、输出 10 美元（OpenAI 牌价，经价格追踪站 2026 年 10 月汇总）。差价不是随便定的，是"并行干活"和"串行干活"的成本差。

一句话：输入是批发，输出是零售。

二、账单上其实有三笔钱

第一笔：词元钱。单价 × 用掉多少。关键在"用掉多少"——不是你说多少，是它吐多少。

一个真实对照。第三方评测机构 Artificial Analysis 的 FrontierCode 测试里，每完成一个编程任务，GPT-6 Astra 平均输出约 2.7 万个词元，GPT-6.1 Sol 约 3.3 万；而 Claude Opus 5.5 要 15.7 万，Claude Sonnet 5.5 要 23.6 万（来源：Artificial Analysis 官方测试说明，2026 年 10 月）。同样一个任务，吐字量差 7 倍以上。

第二笔：缓存钱。长对话里，前面几十轮的内容每轮都要重读一遍，纯浪费。所以各家都给了"缓存命中价"：GPT-6.1 Sol 缓存读 0.10 美元/百万词元，是正常输入价的 1/20，等于省 95%。做智能体、做客服机器人的，这笔钱比单价重要得多。

第三笔：工具钱和等待钱。调一次搜索、跑一次代码沙箱，按次收费，跟词元分开算；智能体卡在等审批、等构建的那段时间，机器还占着。Artificial Analysis 的"每题成本"只统计词元，不含工具费和等待——所以真实账单通常比榜上的数字更高。

三、按任务算，差距能拉到 29 倍

把三笔合起来，看 Artificial Analysis 10 月 23 日发布的 Coding Agent Index v2.0（同一套活，不同模型配不同智能体框架）：

Codex + DeepSeek V4.1 Flash：每题 0.39 美元，47.3 分

Codex + GPT-6.1 Sol：每题 1.50 美元，54.1 分

Codex + GPT-6 Astra：每题 7.04 美元，54.7 分

Claude Code + Claude Opus 5.5：每题 11.42 美元，61.7 分

最便宜和最贵差 29 倍，分数差 14.4 分。重点看第二和第三行：Astra 比 Sol 贵 4.7 倍，只多 0.6 分。这就是"选错模型"的代价——不是贵一点，是贵一个量级，换来的分几乎看不见。

反过来也有漂亮的例子：OpenAI 的 GPT-6.1 Terra，牌价 1 美元/5 美元，缓存读 0.05 美元，最高档跑一题 0.40 美元，比上一代 GPT-5.6 Terra 的 1.40 美元便宜七成，分数还高 6 分（来源：Artificial Analysis 官方评测，2026 年 10 月）。同一家、同一档、隔一代，成本结构就换了。

四、单价还会跌，账单未必跟着跌

好消息是单价确实在降。价格追踪站 aitokenprice 的指数显示：截至 2026 年 10 月，前沿模型每百万词元中位价 3.75 美元，比 6 月 13 日降 9%；主力档 1.13 美元，降 34%；小模型档 0.23 美元，降 36%（第三方汇总口径，仅供参考）。

坏消息是账单不一定降。模型越"会思考"，吐的词元越多。比如 Grok 4.7 和 4.6 牌价一样（2 美元 / 6 美元），但 4.7 输出量大约翻倍，每题成本从 1.86 美元涨到 2.73 美元（来源：Artificial Analysis 数据，经行业汇总）。单价降了，用量涨得更快，账反而更贵。

还有两个容易踩的坑：

一是长上下文加价。GPT-6 系列超过 27.2 万词元，输入按 2 倍、输出按 1.5 倍计价（价格追踪站汇总）。很多人把整份合同、整个代码库一股脑塞进去，单价没变，实际翻倍。

二是"再多问一句"。多轮对话每轮都要重读历史，第 20 轮的成本远高于第 1 轮。这就是为什么用同一个 AI，有人一个月几美元，有人几百美元。

落到能做的事，三条：能缓存就别重发（系统提示、知识库、代码规范都走缓存）；按难度选档（简单分类、抽取用小模型，别一律上顶配）；控制输出长度（让它先给结论再展开，比长篇大论便宜得多）。企业侧最常见的一笔浪费，是用最贵的模型干最便宜的活。

今日一词：激活参数

激活参数（Active Parameters），指模型回答一个问题时，真正参与计算的参数量。

现在的大模型多是"混合专家"结构：总参数上千亿甚至上万亿，但每次只挑其中一小部分"专家"来算。比如总参数 1 万亿、每次激活 500 亿，那实际干活的只有 5%。

为什么重要？跑一次推理要花多少钱，主要看激活了多少，不是看总共有多少。总参数决定它"知识面多宽"，激活参数决定它"跑一次多贵"。这就是为什么有些模型参数看着吓人，调用价格却便宜。

怎么看？查模型卡上的两个数：总参数、激活参数。再对着单价和输出词元量一起看，才知道这笔钱花得值不值。

算力是大模型的粮食，入口是生意的门面，内容是获客的引擎，三样缺一不可。想搭自己的 AI 应用、知识库或企业官网，访问 www.16837.com 了解自助建站与云服务。关注「智界探索者」，每周一、三、六，AI 前沿给你讲明白。