控制智能体的成本：模型分级、提示缓存与批处理

这篇适合谁，读完能做到什么

适合要跑智能体或 API 任务、想搞清楚钱都花在哪里的人。读完你应该能看懂当前 Claude 和 GPT 模型每百万 token 的价格，明白提示缓存（prompt caching）和批处理（batch processing）各自改变了什么，并能设置第一个缓存断点。本文不讲怎么搭建智能体。

三个降本手段

成本主要取决于三件事：每个任务由哪个模型处理，重复的上下文被重新发送了多少次，以及任务是否需要立刻得到结果。Anthropic 的定价页对前两件事有直接建议：简单任务用 Haiku，多数生产负载用 Sonnet，最复杂的推理用 Opus。对重复的上下文使用提示缓存，对不急的任务使用 Batch API，并监控 token 消耗。^[2]OpenAI 的定价和指南也提供缓存和批处理两种机制，只是名称和规则不同。^[5]^[6]^[7]

准备

两家的价格都按每百万 token 计。Anthropic 定价页写明价格以美元计，MTok 表示百万 token，所以 $5 / MTok 就是每一百万 token 收 $5。^[2]OpenAI 的定价页按每 1M token 给价格，并分为短上下文（输入不超过 272K token）和长上下文（输入超过 272K token）两档。^[5]

Anthropic 的用量统计在 Claude Console 里。购买额度或管理付款方式，去 platform.claude.com/settings/billing 页面。^[2]

看懂价格表

在 Anthropic 的表里，Claude Haiku 5.5 在提示不超过 100,000 token 时，基础输入价是 $0.10 / MTok，输出是 $0.50 / MTok；超过 100,000 token 后，输入是 $0.50 / MTok，输出是 $2.50 / MTok。^[2]同一张表里，Claude Sonnet 5.5 的输入是 $2 / MTok、输出是 $10 / MTok；Claude Opus 5.5 的输入是 $4 / MTok、输出是 $20 / MTok；Claude Fable 5.2 的输入是 $8 / MTok、输出是 $40 / MTok。表里还列出了 Claude Haiku 4.5（输入 $1 / MTok，输出 $5 / MTok）和 Claude Sonnet 4.5（输入 $3 / MTok，输出 $15 / MTok）。^[2]

OpenAI 的表里，gpt-6-luna 的短上下文输入是 $0.10，输出是 $0.50，缓存输入是 $0.01；gpt-6.1-sol 的输入是 $2.00，输出是 $10.00，缓存输入是 $0.10；gpt-6-astra 的输入是 $10.00，输出是 $50.00。^[5]表里还有 gpt-5-nano（输入 $0.05，输出 $0.40）和 gpt-5.4-mini（输入 $0.75，输出 $4.50）。^[5]对于 2026 年 3 月 5 日及之后发布的模型，区域处理（数据驻留）端点要加收 10%，FedRAMP 端点同样加收 10%。^[5]

Claude 的提示缓存

缓存的做法是把一段前缀写入一次，之后反复读取。按 Anthropic 定价页的说法，5 分钟缓存写入的价格是基础输入价的 1.25x，有效期 5 minutes；1 小时缓存写入是 2x，有效期 1 hour；在多数模型上，缓存读取（命中）是基础输入价的 0.1x，有效期与之前那次写入相同。^[2]Claude Opus 5.5 的 5 分钟缓存写入价是 $5 / MTok，缓存命中价是 $0.20 / MTok，即 0.05x。^[2]

定价页介绍了两种开启方式：一种是自动缓存，在请求顶层放一个 cache_control 字段；另一种是显式缓存断点，把 cache_control 放在具体的内容块上。^[2]缓存指南说，ephemeral 是唯一支持的缓存类型，默认有效期 5-minute。要用更长的缓存，在 cache_control 里加上 "ttl": "1h"。^[3]

提示必须达到最小长度才能被缓存。指南给出的数字是：Claude Opus 5.5、Claude Sonnet 5.5 和 Claude Haiku 5.5 为 512 token，Claude Sonnet 5 为 1,024 token，Claude Haiku 4.5 为 4,096 token。^[3]

OpenAI 的提示缓存

OpenAI 对支持的模型默认开启提示缓存，被复用的缓存输入 token 最多可以享受 95% 的折扣。^[6]对于 GPT-5.6 及之后的模型，默认缓存有效期是 30m，通过 prompt_cache_options.ttl 设置。这一有效期下写入价是未缓存输入价的 1.25×；也可以选 12h，写入价是 2.5×。在多数模型上读取价是输入价的 0.1×，GPT-6.1 Sol 和 GPT-6.1 Terra 上是 0.05×，与选择的有效期无关。不支持的取值会返回 400 invalid_request_error。^[6]更早的模型则用 prompt_cache_retention，取值为 in_memory 或 24h。^[6]

GPT-5.6 及之后的模型，最小可缓存长度是 1,024 token。缓存的输入 token 仍然计入每分钟 token 数（TPM）限额，目前也不能手动清除缓存。^[6]缓存保存的是 KV 张量而不是原始提示文本，最长保留 24 hours。^[6]要确认缓存是否生效，看 usage.input_tokens_details.cached_tokens 和 usage.input_tokens_details.cache_write_tokens，也可以打开 https://platform.openai.com/usage?usage_section=prompt-caching 上的提示缓存面板。^[6]

批处理

Anthropic 的 Message Batches API 以异步方式处理大批量的 Messages 请求。大多数批次会在 1 hour 内完成，所有用量按标准价格的 50 percent 计费。^[4]结果可以在所有消息都完成后，或 24 hours 之后读取，两者以先到者为准；如果 24 小时内没有处理完，批次会过期。结果在创建后保留 29 days。^[4]一个批次最多 100,000 条 Message 请求或 256 MB，以先达到者为准。每个请求需要一个 custom_id，长度 1 到 64 个字符，并匹配 ^[a-zA-Z0-9_-]{1,64}$。批处理请求不支持 max_tokens: 0 和 stream: true。^[4]定价页还说，提示缓存的倍率可以与 Batch API 的折扣叠加。^[2]

OpenAI 的 Batch API 大体相同：以异步方式发送一组请求，成本低 50%，并有一个独立的、限额更高的资源池。completion_window 只能设为 24h。单个批次最多 50,000 个请求，输入文件最大 200 MB，每小时最多提交 2,000 个批次。输出和错误文件默认在创建后 30 days 过期。^[7]OpenAI 的 Batch 价格表中，gpt-6-luna 的短上下文输入是 $0.05，输出是 $0.25。^[5]

我们的做法

TellWorld 的搜集、整理和初稿都由 Haiku 子 agent 完成，较贵的主模型只负责协调和抽查。^[1]2026 年 11 月 13 日的新闻更新中，一个 Haiku 子 agent 为 10 条新条目写完了全部中英文正文。^[1]每个搜集用的子 agent 大约用了 135,000 到 146,000 个 token，覆盖的时间窗口约三天半。^[1]

我们也会在 agent 检查图片之前先把图缩小。每张生成的图都缩到 320×180 像素再交给 agent 看，目的是省 token。^[1]这背后的项目规则很简单：能用一个脚本完成的事，不拆成好几轮 agent 操作。^[1]这些选择适合我们的流程：步骤固定，主模型主要用于协调。它们不是对所有智能体都适用的答案。

限制和常见问题

低于最小长度的提示不会被缓存。请求仍会正常处理，也不会报错。cache_creation_input_tokens 和 cache_read_input_tokens 都是 0 时，说明这个提示没有被缓存。^[3]
缓存写入的用量记在 cache_creation_input_tokens 里，其中的 cache_creation 对象会分成 ephemeral_5m_input_tokens 和 ephemeral_1h_input_tokens。指南把 total_input_tokens 定义为 cache_read_input_tokens + cache_creation_input_tokens + input_tokens。^[3]
批次中多数会在 1 hour 内完成，但超过 24 hours 仍会过期。如果批次共享同一段上下文，指南建议考虑使用 1-hour 的缓存时长。^[4]
OpenAI 的输出文件默认 30 days 后过期，要保留就得及时下载。^[7]
OpenAI 的区域端点会加收上面提到的 10%，调用前先确认用的是哪个端点。^[5]