繁中 ▾
無審查 LLM API,每百萬 token 起價 $0.15https://api.cheapllmapis.com/v1

平價 LLM API:真實成本與節省方法

「平價」只有在累加真實工作負載後才有意義。本頁針對每百萬 token 輸入 $0.15、輸出 $0.50 的 按 token 計費的 API 進行計算,並展示如何縮減總成本。

發光 token 旁的玻璃罐與下降的曲線,象徵每 token 成本降低

重點摘要

  • 價格為每百萬輸入 token $0.15,每百萬輸出 token $0.50,採預付制,無訂閱費。
  • 每月 50,000 次請求,每次 1,500 個輸入與 250 個輸出 token,成本為 $17.50。
  • 修剪歷史記錄並限制輸出長度,可將該月成本降至 $9.75。
  • 失敗請求不計費,且額度永不過期。

什麼讓 API 變平價

平價 LLM API 是指你的總月費在實際工作負載下保持低廉,僅憑低廉的標價並不能保證這一點。有三個因素決定這一點:每 token 價格、額外費用(訂閱、最低消費、過期額度)以及應用程式發送的 token 數量。此 API 僅涵蓋前兩項。它收取每百萬輸入 token $0.15 與每百萬輸出 token $0.50 的費用,無訂閱費、額度永不過期,且失敗或遭拒的請求不計費。

第三個因素由你控制,這也是大多數節省來源。接下來的章節將透過具體工作負載與減少成本的變更進行說明。模型 ID 為 uncensored,單一開放權重模型,供合法成人使用,僅支援文字。

真實流量的月度計算

假設一個應用程式每月有 50,000 次請求。每次請求發送約 1,500 個輸入 token(系統提示詞、歷史記錄、新訊息),並獲得約 250 個 token 的回應。

  • 輸入:50,000 x 1,500 = 75,000,000 tokens = 75 x $0.15 = $11.25
  • 輸出:50,000 x 250 = 12,500,000 tokens = 12.5 x $0.50 = $6.25
  • 總計:$17.50(月度總成本)

這符合最低 $20 的儲值門檻,剩餘 $2.50,未使用的額度保留在帳戶中。注意,在此情況下輸入佔帳單的 64%,儘管它是較低的費率,因為數量龐大。輸出 token 每 token 成本較高($0.50 約為 $0.15 的 3.3 倍),但在聊天應用程式中,由於歷史記錄在每次交談中都會重新發送,輸入通常佔主導地位。

作為比較,較輕負載的 5,000 次請求(相同大小)成本為 $1.75。較重負載的 500,000 次請求成本為 $175。成本呈直線增長,因此你可以透過乘法來估算自己的案例。

五種降低帳單的方法

1. 修剪歷史記錄

不要永遠從頭重新發送聊天。保留系統提示詞與最後幾則訊息,並將較舊的內容濃縮成一兩句話。上下文視窗允許 100,000 個 token,這有很大的空間,但空間並非填滿的理由。

2. 限制輸出

當回覆有已知上限時,請設定 max_tokens,並在系統提示詞中要求簡潔。此為選填項,若未設定,補全內容可能會耗盡剩餘的上下文視窗。將上限設為 150 token 而非平均 250 token,每次請求可節省 $0.00005,在 50,000 次請求下可節省 $2.50。

3. 使用停止序列與 JSON 模式

對於機器可讀的輸出,使用 response_format 搭配 {"type":"json_object"} 可將回覆限制在你要求的物件內,避免冗長的框架。stop 序列會在寫完所需部分後立即結束生成。

4. 修正重試機制

當遇到 HTTP 429 時,等待後再重試。Retry-After: 5 標頭會告訴你在暫時超載時需要等待的時間。失敗的請求不計費,但重複成功的請求會計費,因此不要從兩個程式碼路徑發送相同的呼叫。

5. 在並行限制內批次處理

完整金鑰允許 8 個並行請求與每分鐘 300 次。以 8 個 worker 執行佇列可充分利用已付費額度,而不會觸發 concurrency 錯誤。

調整後的同月成本

對 50,000 次請求的月份應用前兩項變更。歷史記錄修剪將每次請求的輸入從 1,500 降至 800 個 token,150 個 token 的輸出上限將平均回覆從 250 降至 150。

  • 輸入:50,000 x 800 = 40,000,000 tokens = 40 x $0.15 = $6.00
  • 輸出:50,000 x 150 = 7,500,000 tokens = 7.5 x $0.50 = $3.75
  • 總計:$9.75,從 $17.50 降低,減少 44%

較短的回覆是否可接受取決於你的產品,因此在推出前請測試品質變化。以下是一個帶有上限的最小歷史記錄修剪器:

from openai import OpenAI

client = OpenAI(base_url="https://api.cheapllmapis.com/v1", api_key="YOUR_KEY")

MAX_TURNS = 6  # keep the last 6 messages besides the system prompt

def trim(history):
    system, rest = history[0], history[1:]
    return [system] + rest[-MAX_TURNS:]

history = [{"role": "system", "content": "You are a concise assistant."}]
history.append({"role": "user", "content": "Plan a three-day trip outline."})

resp = client.chat.completions.create(
    model="uncensored",
    messages=trim(history),
    max_tokens=300,
)
history.append({"role": "assistant", "content": resp.choices[0].message.content})

回應也會報告 usage,因此請針對每次請求記錄它,你將以實際數字看到每次變更的效果。

長文件與大上下文

100,000 token 的視窗使整份文件處理成為可能,因此在執行批次前請先計算價格。一次包含 99,000 個輸入 token 與 1,000 個輸出 token 的呼叫成本為 99,000 x $0.15 / 1M = $0.01485 加上 1,000 x $0.50 / 1M = $0.0005,即 $0.01535。在 1,000 份文件上執行此呼叫的成本為 $15.35。如果文件僅 30,000 個 token 且摘要為 500,則呼叫成本為 $0.0045 + $0.00025 = $0.00475,1,000 份文件的成本為 $4.75。

分割與摘要管線通常比一次大型呼叫成本更高,因為每個區塊都會重複指令,且每次處理都會增加其自身的輸出 token。在選擇前請在樣本上比較兩者。

儲值能維持多久

以調整後的月份 $9.75 作為基準。$20 的儲值可覆蓋略超過兩個月的用量(20 / 9.75 = 2.05)。$100 的儲值增加 10% 變成 $110,可覆蓋約 11 個月(110 / 9.75 = 11.3)。額度永不過期,因此較大的儲值不會產生額外的等待成本;紅利是考慮儲值的原因,且你始終可以從 $20 開始。

為帳戶儲值

你需預付。$20 至 $500 的任何整數金額皆可,較大的儲值會增加額度:$50 起 +5%、$100 起 +10%、$200 起 +15%。因此 $50 變成 $52.50,$100 變成 $110,$200 變成 $230。可透過加密貨幣(TRC20 上的 USDT、Base 上的 USDC)付款。完整表格位於 定價頁面。

在付款前,你可以使用免費試用。註冊後,點擊 API 金鑰頁面即可領取 $0.50 額度,每人限領一次,有效期 7 天,無需信用卡。在先前的規模(1,500 個輸入 token 與 250 個輸出 token)中,每次請求費用為 $0.000225 + $0.000125 = $0.00035,因此 $0.50 約可執行 1,400 次。試用金鑰限於 2 個並行請求與每分鐘 60 次。

平價不包含的內容

在建立之前請清楚了解範圍。API 提供文字聊天補全與模型列表。無影像或音訊生成、無嵌入向量與微調,因此需要這些功能的專案需向其他供應商購買。該模型並非任何大型廠商的官方 API,也不是路由器。且涉及未成年人的色情內容永不允許。

如果你正在將其與 Claude 風格的旗艦產品進行比較,平價 Claude API 替代品 文章涵蓋了權衡取捨。其他供應商經常變更價格,因此請檢查他們目前的定價,而非信任從某處複製的表格。當你準備好連接時,快速入門指南 會提供 Base URL、金鑰與模型名稱,其餘部分為正常的 OpenAI 客戶端呼叫。

問答

一次請求的成本是多少?

費用取決於 token。一次包含 1,500 個輸入 token 和 250 個輸出 token 的請求費用為 $0.00035,計算基準為每 1M token 分別為 $0.15 和 $0.50。

有免費方案嗎?

有 $0.50 的試用額度,註冊後在金鑰頁面點擊一次即可領取。有效期為 7 天,無需綁定信用卡。

未使用的額度會過期嗎?

不會。預付額度永不過期,因此你可以儲值 $20,並按自己的步調使用。

重試會計費嗎?

失敗或遭拒的請求不會計費。即使你的程式碼也發送了重複請求,只要請求成功就會計費。

只差一張表單,即可取得金鑰

建立帳號、複製金鑰、更改基礎 URL。這就是整個設定過程。

取得 API 金鑰閱讀文件