JA ▾
1Mトークンあたり$0.15からの無検閲LLM APIhttps://api.cheapllmapis.com/v1

安価なLLM API:実際の費用と削減方法

安価さは、実際のワークロードを合計して初めて意味を持ちます。このページでは、1Mトークンあたり入力$0.15、出力$0.50のトークン単位のAPIについて計算し、合計を削減する方法を示します。

光るトークンと下がるラインの隣にあるガラス瓶。トークン単価の低下を示します

主要ポイント

  • 価格は1M入力トークンあたり$0.15、1M出力トークンあたり$0.50で、前払い制、サブスクリプション不要。
  • 1回あたり入力1,500トークン、出力250トークンの月間50,000リクエストの費用は$17.50です。
  • 履歴のトリミングと出力の制限により、同じ月の費用は$9.75に削減されます。
  • 失敗したリクエストは課金されず、クレジットは期限切れしません。

APIが安価である理由

低価格なLLM APIとは、実際の処理に対して月間の請求額が低く抑えられるものです。単なる見出し価格が低いだけでは不十分です。これを決める3つの要素は、トークン単価、サブスクリプションや最小利用額、期限付きクレジットなどの追加料金、そしてアプリケーションが送信するトークン数です。このAPIは最初の2点を単純化しています。1M入力トークンあたり$0.15、1M出力トークンあたり$0.50で課金され、サブスクリプション、クレジットの期限、失敗または拒否されたリクエストの請求はありません。

3つ目の要素はあなたが制御するもので、ここが多くの節約につながります。次のセクションでは具体的なワークロードを通じ、それを削減する変更について説明します。モデルIDはuncensoredで、合法的な成人向け用途の単一のオープンウェイトモデル、テキストのみです。

実際のトラフィックの月間計算

月間50,000リクエストのアプリを考えます。各リクエストは約1,500トークンの入力(システムプロンプト、履歴、新しいメッセージ)を送信し、約250トークンの応答を取得します。

  • 入力:50,000 x 1,500 = 75,000,000トークン = 75 x $0.15 = $11.25
  • 出力:50,000 x 250 = 12,500,000トークン = 12.5 x $0.50 = $6.25
  • 合計:月間$17.50

これは最小チャージ額$20に収まり、$2.50が残ります。未使用のクレジットはアカウントに残ります。ここでは入力が請求額の64%を占めていることに注意してください。入力がより安価なレートであるにもかかわらず、その量が多いためです。出力トークンはトークンあたりのコストが高く($0.50は約$0.15の3.3倍)、チャットアプリでは履歴が毎回送信されるため、入力が支配的になります。

比較として、同じサイズの5,000リクエストの軽いワークロードは$1.75かかります。より重い500,000リクエストの場合は$175かかります。費用は直線的にスケールするため、自分のケースを推定するために乗算できます。

請求額を減らす5つの方法

1. 履歴をトリミングする

チャットを最初から永遠に再送信しないでください。システムプロンプトと最後の数メッセージを保持し、それより前のものは1〜2文で要約してください。コンテキストウィンドウは100,000トークンを扱えますが、それは多くの余地があることを意味します。しかし、スペースがあるからといって、それを埋める理由にはなりません。

2. 出力を制限する

返答に既知の上限がある場合はmax_tokensを設定し、システムプロンプトで簡潔さを求めます。これはオプションであり、これを指定しないと生成がコンテキストウィンドウの残りを使い切る可能性があります。平均250トークンではなく150の上限を設定すると、リクエストあたり$0.00005節約でき、50,000リクエストで$2.50になります。

3. ストップシーケンスとJSONモードを使用する

機械可読な出力の場合、response_formatに{"type":"json_object"}を指定すると、余計な挨拶や説明ではなく、要求されたオブジェクトに返答が収まります。stopシーケンスは、必要な部分が書かれた時点で生成を終了します。

4. リトライを修正する

HTTP 429に到達した場合は、再試行する前に待ちます。Retry-After: 5ヘッダーは、一時的な過負荷時に待つべき時間を示します。失敗したリクエストは課金対象外ですが、重複した成功したリクエストは課金されるため、2つのコードパスから同じ呼び出しを2回実行しないでください。

5. 同時実行数内でバッチ処理する

フルキーは8つの同時リクエストと1分あたり300のリクエストを許可します。8ワーカーでキューを実行すると、concurrencyエラーを引き起こすことなく、支払った分を使用できます。

チューニング後の同じ月

50,000リクエストの月に最初の2つの変更を適用します。履歴のトリミングにより、リクエストあたりの入力が1,500トークンから800トークンに削減され、150トークンの出力制限により、平均応答が250から150に低下します。

  • 入力:50,000 x 800 = 40,000,000トークン = 40 x $0.15 = $6.00
  • 出力:50,000 x 150 = 7,500,000トークン = 7.5 x $0.50 = $3.75
  • 合計:$9.75、$17.50から44%削減

短い応答が許容可能かどうかは製品次第なので、展開する前に品質の変化をテストしてください。以下は、上限を設けた最小限の履歴トリマーです。

from openai import OpenAI

client = OpenAI(base_url="https://api.cheapllmapis.com/v1", api_key="YOUR_KEY")

MAX_TURNS = 6  # keep the last 6 messages besides the system prompt

def trim(history):
    system, rest = history[0], history[1:]
    return [system] + rest[-MAX_TURNS:]

history = [{"role": "system", "content": "You are a concise assistant."}]
history.append({"role": "user", "content": "Plan a three-day trip outline."})

resp = client.chat.completions.create(
    model="uncensored",
    messages=trim(history),
    max_tokens=300,
)
history.append({"role": "assistant", "content": resp.choices[0].message.content})

レスポンスにはusageも含まれるため、リクエストごとにログに記録すると、変更の効果が実際の数値で確認できます。

長いドキュメントと大きなコンテキスト

100,000トークンのウィンドウにより、ドキュメント丸ごと処理するジョブが可能になります。バッチを実行する前に価格を計算してください。入力トークン99,000、出力トークン1,000の呼び出しは、99,000 x $0.15 / 1M = $0.01485 と 1,000 x $0.50 / 1M = $0.0005 で、合計$0.01535になります。これを1,000ドキュメントで実行すると$15.35かかります。ドキュメントが30,000トークン、要約が500トークンの場合、呼び出しコストは$0.0045 + $0.00025 = $0.00475で、1,000ドキュメントで$4.75です。

分割して要約するパイプラインは、各チャンクが指示を繰り返すため、1つの大きな呼び出しよりも費用がかかることが多く、各パスが独自の出力トークンを追加します。選択する前にサンプルで両方を比較してください。

チャージはどのくらい持ちますか

チューニング後の月、$9.75を基準として使用してください。$20のチャージは、その約2ヶ月分(20 / 9.75 = 2.05)をカバーします。$100のチャージでは10%が追加され$110になり、約11ヶ月(110 / 9.75 = 11.3)をカバーします。クレジットは期限切れにならないため、より大きなチャージには待機コストはかかりません。ボーナスがあるため検討する価値があり、$20から始めることもできます。

アカウントへの資金提供

前払い制です。$20から$500までの任意の整数額が有効で、より大きなチャージではクレジットが追加されます:$50から+5%、$100から+10%、$200から+15%。つまり、$50は$52.50になり、$100は$110になり、$200は$230になります。暗号資産(TRC20上のUSDT、Base上のUSDC)でお支払いください。完全な表は料金ページにあります。

お支払いの前に、無料トライアルを使用できます。サインアップ後、APIキーページをワンクリックするだけで$0.50のクレジットを取得できます(1人1回、7日間有効、カード不要)。入力が1,500トークン、出力が250トークンの場合、1つのリクエストは$0.000225 + $0.000125 = $0.00035かかり、$0.50は約1,400回分をカバーします。トライアルキーは同時2リクエスト、1分あたり60リクエストに制限されています。

安価に含まれないもの

構築する前に範囲を明確にしてください。このAPIはテキストチャット補完とモデル一覧を提供します。画像や音声の生成、埋め込み、ファインチューニングはありません。それらが必要なプロジェクトは、それらを別のプロバイダに支払う必要があります。このモデルは大手ベンダーの公式APIでもなく、ルーターでもありません。また、未成年者を含む性的なコンテンツは常に許可されません。

Claudeスタイルのフラッグシップモデルと比較検討中の方へ、Claude APIの安価な代替案の記事でトレードオフを解説しています。他社ベンダーは価格を頻繁に変更するため、どこかからコピーしたテーブルを信じるのではなく、現在の価格表をご確認ください。接続の準備ができたら、クイックスタートガイドに従ってベースURL、APIキー、モデル名を設定し、あとは通常のOpenAIクライアント呼び出しを行うだけです。

質問と回答

1回のリクエストの料金は?

トークン数によります。入力1,500トークン、出力250トークンのリクエストは、1Mトークンあたり$0.15と$0.50で計算され、$0.00035かかります。

無料プランはありますか?

登録後にAPIキーページをワンクリックで取得できる$0.50のトライアルクレジットがあります。これは7日間有効で、カードは必要ありません。

未使用のクレジットは期限切れになりますか?

いいえ。クレジットは期限切れにならないため、$20をチャージして、自分のペースで利用できます。

リトライは課金されますか?

失敗または拒否されたリクエストは課金されません。コードが重複リクエストを送信した場合でも、成功したリクエストは課金されます。

キーはフォーム 1 つで手に入ります

アカウントを作成し、キーをコピーし、ベースURLを変更します。これでセットアップは完了です。

APIキーを取得ドキュメントを読む