廉价 LLM API:真实成本与降低方法
只有算上真实工作负载,“廉价”才有意义。本页面针对每 100 万 token 输入 $0.15、输出 $0.50 的按 token 计费 API 进行计算,并展示如何降低总成本。
更新于

要点
- 价格为每 100 万输入 token $0.15,每 100 万输出 token $0.50,预付制,无订阅。
- 每月 50,000 次请求,每次 1,500 个输入 token 和 250 个输出 token,成本为 $17.50。
- 通过截断历史记录和限制输出长度,该月的成本降至 $9.75。
- 失败的请求不收费,且额度永不过期。
API 为何性价比高
廉价 LLM API 是指你的月度总账单在实际工作负载下保持较低水平,而仅靠低标价并不能实现这一点。决定因素有三:每 token 价格、相关额外费用(订阅、最低消费、过期额度)以及你的应用发送的 token 数量。该 API 在前两点上处理得很简单。它按每 100 万输入 token $0.15 和每 100 万输出 token $0.50 收费,无订阅费,额度永不过期,且失败或被拒绝的请求不收费。
第三个因素由你控制,这也是节省费用的主要来源。接下来的部分将通过具体的工作负载和减少费用的更改来进行说明。模型 ID 为 uncensored,这是一个用于合法成人用途的单开放权重模型,仅支持文本。
真实流量的月度计算
假设一个应用每月有 50,000 次请求。每次请求发送约 1,500 个输入 token(系统提示词、历史记录、新消息),并接收约 250 个 token。
- 输入:50,000 x 1,500 = 75,000,000 tokens = 75 x $0.15 = $11.25
- 输出:50,000 x 250 = 12,500,000 tokens = 12.5 x $0.50 = $6.25
- 总计:$17.50(月度)
这完全在最低 $20 的充值额度范围内,剩余 $2.50 未使用,额度仍保留在账户中。请注意,尽管输入部分的单价较低,但在此处它占据了账单的 64%,因为输入量远大于输出量。输出 token 的单价更高($0.50 约为 $0.15 的 3.3 倍),但在聊天应用中,由于每轮对话都会重新发送历史记录,输入通常占主导地位。
作为对比,具有相同规模但负载较轻的 5,000 次请求成本为 $1.75。负载较重的 500,000 次请求成本为 $175。成本呈直线增长,因此你可以按比例估算你自己的情况。
降低账单的五种方法
1. 截断历史记录
不要永远从头重新发送聊天记录。保留系统提示词和最近几条消息,并将更早的内容总结为一两句话。上下文窗口允许 100,000 个 token,这提供了很大的空间,但空间大并不意味着必须填满。
2. 限制输出
当回复有已知上限时,请设置 max_tokens,并在系统提示词中要求简洁。该参数是可选的,若不设置,生成过程可能会用完整个上下文窗口。将上限设为 150 而非平均 250 token,每次请求可节省 $0.00005,在 50,000 次请求中累计可节省 $2.50。
3. 使用停止序列和 JSON 模式
对于机器可读的输出,使用 response_format 配合 {"type":"json_object"} 可将回复限制在你请求的对象内,避免冗长的框架文本。stop 序列会在你需要的部分写入后立即结束生成。
4. 修复重试逻辑
当遇到 HTTP 429 错误时,请在重试前等待。Retry-After: 5 头部指示了临时过载时的等待时长。失败的请求不会收费,但重复成功的请求会收费,因此不要从两个代码路径同时发出相同的调用。
5. 在并发限制内批量处理
完整密钥允许 8 个并发请求和每分钟 300 个请求。以 8 个并发任务运行队列,可以充分利用已支付的额度,而不会触发 concurrency 错误。
优化后的同月账单
对 50,000 次请求的月度应用前两项更改。历史截断使每次请求的输入从 1,500 个 token 降至 800 个,150 个 token 的输出上限使平均回复从 250 降至 150。
- 输入:50,000 x 800 = 40,000,000 tokens = 40 x $0.15 = $6.00
- 输出:50,000 x 150 = 7,500,000 tokens = 7.5 x $0.50 = $3.75
- 总计:$9.75,从 $17.50 降至 $9.75,降幅 44%
较短的回复是否可接受取决于你的产品,因此在部署前请测试质量变化。以下是一个带有上限的最小历史截断器示例:
from openai import OpenAI
client = OpenAI(base_url="https://api.cheapllmapis.com/v1", api_key="YOUR_KEY")
MAX_TURNS = 6 # keep the last 6 messages besides the system prompt
def trim(history):
system, rest = history[0], history[1:]
return [system] + rest[-MAX_TURNS:]
history = [{"role": "system", "content": "You are a concise assistant."}]
history.append({"role": "user", "content": "Plan a three-day trip outline."})
resp = client.chat.completions.create(
model="uncensored",
messages=trim(history),
max_tokens=300,
)
history.append({"role": "assistant", "content": resp.choices[0].message.content})响应还会报告 usage,因此请记录每次请求的数据,你将看到每次更改的实际效果。
长文档与大上下文
100,000 个 token 的窗口使得整文档处理成为可能,因此在运行批量处理前请先计算价格。一次调用包含 99,000 个输入 token 和 1,000 个输出 token,成本为 99,000 x $0.15 / 1M = $0.01485 加上 1,000 x $0.50 / 1M = $0.0005,即 $0.01535。处理 1,000 份文档的成本为 $15.35。如果文档只有 30,000 个 token,摘要为 500 个 token,则调用成本为 $0.0045 + $0.00025 = $0.00475,1,000 份文档的成本为 $4.75。
拆分和总结管道通常比一次大型调用成本更高,因为每个分块都会重复指令,且每次传递都会增加其自身的输出 token。在选择之前,请在样本上比较两者。
充值能持续多久
以优化后的月度 $9.75 作为基准。$20 的充值可覆盖略多于两个月的用量(20 / 9.75 = 2.05)。$100 的充值增加 10% 变为 $110,可覆盖约 11 个月(110 / 9.75 = 11.3)。额度永不过期,因此大额充值不会因等待产生额外成本;赠额是考虑大额充值的原因,你也可以从 $20 开始。
账户充值
你需要预付。任何从 $20 到 $500 的整数金额均可,充值金额越大,获得的额度越多:$50 起 +5%,$100 起 +10%,$200 起 +15%。因此,$50 变为 $52.50,$100 变为 $110,$200 变为 $230。支持加密货币(TRC20 链上的 USDT、Base 链上的 USDC)支付。完整表格请参见 定价页面。
在支付任何费用之前,你可以使用免费试用。注册后,在 API 密钥页面 点击一次即可领取 $0.50 额度,每人限领一次,有效期 7 天,无需绑定银行卡。在之前的规模(1,500 输入和 250 输出 token)下,一次请求成本为 $0.000225 + $0.000125 = $0.00035,因此 $0.50 可覆盖约 1,400 次请求。试用密钥限制为 2 个并发请求和每分钟 60 次。
廉价不包含的内容
在构建之前请明确范围。该 API 提供文本聊天补全和模型列表。没有图像或音频生成、嵌入或微调,因此需要这些功能的项目需向其他提供商付费。该模型不是任何大型厂商的官方 API,也不是路由器。且永远不允许涉及未成年人的色情内容。
如果你正在将其与 Claude 风格的旗舰产品进行比较,廉价 Claude API 替代方案 文章涵盖了权衡利弊。其他供应商经常更改价格,因此请查看他们的当前定价,而不是依赖从某处复制的表格。当你准备好集成时,快速入门指南 将提供基础 URL、密钥和模型名称,其余部分就是正常的 OpenAI 客户端调用。
更多指南
问答
一次请求的费用是多少?
费用取决于 token。一次包含 1,500 个输入 token 和 250 个输出 token 的请求费用为 $0.00035,按每 1M token $0.15 和 $0.50 计算。
有免费层级吗?
有 $0.50 的免费试用额度,注册后在密钥页面一键领取。有效期 7 天,无需绑定银行卡。
未使用的额度会过期吗?
不会。预付额度永不失效,你可以充值 $20,按自己的节奏使用。
重试会收费吗?
失败或被拒绝的请求不会收费。即使你的代码也发送了重复请求,只要请求成功就会计费。