中文 ▾
无审查 LLM API,每 100 万 token 起价 $0.15https://api.cheapllmapis.com/v1

廉价 LLM API:真实成本与降低方法

只有算上真实工作负载,“廉价”才有意义。本页面针对每 100 万 token 输入 $0.15、输出 $0.50 的按 token 计费 API 进行计算,并展示如何降低总成本。

发光 token 的玻璃罐旁有一条下降的曲线,说明每 token 成本的降低

要点

  • 价格为每 100 万输入 token $0.15,每 100 万输出 token $0.50,预付制,无订阅。
  • 每月 50,000 次请求,每次 1,500 个输入 token 和 250 个输出 token,成本为 $17.50。
  • 通过截断历史记录和限制输出长度,该月的成本降至 $9.75。
  • 失败的请求不收费,且额度永不过期。

API 为何性价比高

廉价 LLM API 是指你的月度总账单在实际工作负载下保持较低水平,而仅靠低标价并不能实现这一点。决定因素有三:每 token 价格、相关额外费用(订阅、最低消费、过期额度)以及你的应用发送的 token 数量。该 API 在前两点上处理得很简单。它按每 100 万输入 token $0.15 和每 100 万输出 token $0.50 收费,无订阅费,额度永不过期,且失败或被拒绝的请求不收费。

第三个因素由你控制,这也是节省费用的主要来源。接下来的部分将通过具体的工作负载和减少费用的更改来进行说明。模型 ID 为 uncensored,这是一个用于合法成人用途的单开放权重模型,仅支持文本。

真实流量的月度计算

假设一个应用每月有 50,000 次请求。每次请求发送约 1,500 个输入 token(系统提示词、历史记录、新消息),并接收约 250 个 token。

  • 输入:50,000 x 1,500 = 75,000,000 tokens = 75 x $0.15 = $11.25
  • 输出:50,000 x 250 = 12,500,000 tokens = 12.5 x $0.50 = $6.25
  • 总计:$17.50(月度)

这完全在最低 $20 的充值额度范围内,剩余 $2.50 未使用,额度仍保留在账户中。请注意,尽管输入部分的单价较低,但在此处它占据了账单的 64%,因为输入量远大于输出量。输出 token 的单价更高($0.50 约为 $0.15 的 3.3 倍),但在聊天应用中,由于每轮对话都会重新发送历史记录,输入通常占主导地位。

作为对比,具有相同规模但负载较轻的 5,000 次请求成本为 $1.75。负载较重的 500,000 次请求成本为 $175。成本呈直线增长,因此你可以按比例估算你自己的情况。

降低账单的五种方法

1. 截断历史记录

不要永远从头重新发送聊天记录。保留系统提示词和最近几条消息,并将更早的内容总结为一两句话。上下文窗口允许 100,000 个 token,这提供了很大的空间,但空间大并不意味着必须填满。

2. 限制输出

当回复有已知上限时,请设置 max_tokens,并在系统提示词中要求简洁。该参数是可选的,若不设置,生成过程可能会用完整个上下文窗口。将上限设为 150 而非平均 250 token,每次请求可节省 $0.00005,在 50,000 次请求中累计可节省 $2.50。

3. 使用停止序列和 JSON 模式

对于机器可读的输出,使用 response_format 配合 {"type":"json_object"} 可将回复限制在你请求的对象内,避免冗长的框架文本。stop 序列会在你需要的部分写入后立即结束生成。

4. 修复重试逻辑

当遇到 HTTP 429 错误时,请在重试前等待。Retry-After: 5 头部指示了临时过载时的等待时长。失败的请求不会收费,但重复成功的请求会收费,因此不要从两个代码路径同时发出相同的调用。

5. 在并发限制内批量处理

完整密钥允许 8 个并发请求和每分钟 300 个请求。以 8 个并发任务运行队列,可以充分利用已支付的额度,而不会触发 concurrency 错误。

优化后的同月账单

对 50,000 次请求的月度应用前两项更改。历史截断使每次请求的输入从 1,500 个 token 降至 800 个,150 个 token 的输出上限使平均回复从 250 降至 150。

  • 输入:50,000 x 800 = 40,000,000 tokens = 40 x $0.15 = $6.00
  • 输出:50,000 x 150 = 7,500,000 tokens = 7.5 x $0.50 = $3.75
  • 总计:$9.75,从 $17.50 降至 $9.75,降幅 44%

较短的回复是否可接受取决于你的产品,因此在部署前请测试质量变化。以下是一个带有上限的最小历史截断器示例:

from openai import OpenAI

client = OpenAI(base_url="https://api.cheapllmapis.com/v1", api_key="YOUR_KEY")

MAX_TURNS = 6  # keep the last 6 messages besides the system prompt

def trim(history):
    system, rest = history[0], history[1:]
    return [system] + rest[-MAX_TURNS:]

history = [{"role": "system", "content": "You are a concise assistant."}]
history.append({"role": "user", "content": "Plan a three-day trip outline."})

resp = client.chat.completions.create(
    model="uncensored",
    messages=trim(history),
    max_tokens=300,
)
history.append({"role": "assistant", "content": resp.choices[0].message.content})

响应还会报告 usage,因此请记录每次请求的数据,你将看到每次更改的实际效果。

长文档与大上下文

100,000 个 token 的窗口使得整文档处理成为可能,因此在运行批量处理前请先计算价格。一次调用包含 99,000 个输入 token 和 1,000 个输出 token,成本为 99,000 x $0.15 / 1M = $0.01485 加上 1,000 x $0.50 / 1M = $0.0005,即 $0.01535。处理 1,000 份文档的成本为 $15.35。如果文档只有 30,000 个 token,摘要为 500 个 token,则调用成本为 $0.0045 + $0.00025 = $0.00475,1,000 份文档的成本为 $4.75。

拆分和总结管道通常比一次大型调用成本更高,因为每个分块都会重复指令,且每次传递都会增加其自身的输出 token。在选择之前,请在样本上比较两者。

充值能持续多久

以优化后的月度 $9.75 作为基准。$20 的充值可覆盖略多于两个月的用量(20 / 9.75 = 2.05)。$100 的充值增加 10% 变为 $110,可覆盖约 11 个月(110 / 9.75 = 11.3)。额度永不过期,因此大额充值不会因等待产生额外成本;赠额是考虑大额充值的原因,你也可以从 $20 开始。

账户充值

你需要预付。任何从 $20 到 $500 的整数金额均可,充值金额越大,获得的额度越多:$50 起 +5%,$100 起 +10%,$200 起 +15%。因此,$50 变为 $52.50,$100 变为 $110,$200 变为 $230。支持加密货币(TRC20 链上的 USDT、Base 链上的 USDC)支付。完整表格请参见 定价页面。

在支付任何费用之前,你可以使用免费试用。注册后,在 API 密钥页面 点击一次即可领取 $0.50 额度,每人限领一次,有效期 7 天,无需绑定银行卡。在之前的规模(1,500 输入和 250 输出 token)下,一次请求成本为 $0.000225 + $0.000125 = $0.00035,因此 $0.50 可覆盖约 1,400 次请求。试用密钥限制为 2 个并发请求和每分钟 60 次。

廉价不包含的内容

在构建之前请明确范围。该 API 提供文本聊天补全和模型列表。没有图像或音频生成、嵌入或微调,因此需要这些功能的项目需向其他提供商付费。该模型不是任何大型厂商的官方 API,也不是路由器。且永远不允许涉及未成年人的色情内容。

如果你正在将其与 Claude 风格的旗舰产品进行比较,廉价 Claude API 替代方案 文章涵盖了权衡利弊。其他供应商经常更改价格,因此请查看他们的当前定价,而不是依赖从某处复制的表格。当你准备好集成时,快速入门指南 将提供基础 URL、密钥和模型名称,其余部分就是正常的 OpenAI 客户端调用。

问答

一次请求的费用是多少?

费用取决于 token。一次包含 1,500 个输入 token 和 250 个输出 token 的请求费用为 $0.00035,按每 1M token $0.15 和 $0.50 计算。

有免费层级吗?

有 $0.50 的免费试用额度,注册后在密钥页面一键领取。有效期 7 天,无需绑定银行卡。

未使用的额度会过期吗?

不会。预付额度永不失效,你可以充值 $20,按自己的节奏使用。

重试会收费吗?

失败或被拒绝的请求不会收费。即使你的代码也发送了重复请求,只要请求成功就会计费。

只差一张表单,即可获得密钥

创建账户,复制密钥,更改基础 URL。这就是全部设置。

获取 API 密钥阅读文档