PL ▾
API LLM bez cenzury od $0,15 za 1M tokenówhttps://api.cheapllmapis.com/v1

Tanie API LLM: Rzeczywiste koszty i sposoby na ich obniżenie

Słowo „tani” ma sens dopiero po zsumowaniu rzeczywistego obciążenia. Ta strona oblicza je dla API opartego na tokenach ($0,15 za wejście i $0,50 za wyjście za 1 mln tokenów) i pokazuje, jak zmniejszyć całkowity koszt.

Słoik z świecącymi tokenami obok spadającej linii, ilustrujący niższe koszty za token

Kluczowe punkty

  • Ceny to $0,15 za 1 mln tokenów wejściowych i $0,50 za 1 mln tokenów wyjściowych, przedpłacone, bez subskrypcji.
  • Miesiąc z 50 000 zapytań przy 1500 tokenach wejściowych i 250 wyjściowych kosztuje $17,50.
  • Ograniczenie historii i limit wyjścia obniżają ten miesięczny koszt do $9,75.
  • Nieudane zapytania nie są rozliczane, a kredyt nie wygasa.

Co sprawia, że API jest tanie

Tanie API LLM to taki, w którym Twój miesięczny rachunek pozostaje niski dla pracy, którą faktycznie wykonujesz, a niska stawka podstawowa sama w sobie nie daje Ci tego. Trzy rzeczy to decydują: ceny za token, dodatkowe opłaty z nimi związane (subskrypcje, minimum, wygasający kredyt) oraz liczba tokenów wysyłanych przez Twoją aplikację. To API pokrywa pierwsze dwa po prostu. Rozlicza $0.15 za 1M tokenów wejściowych i $0.50 za 1M tokenów wyjściowych, bez subskrypcji, bez wygasania kredytu i bez opłat za nieudane lub odrzucone zapytania.

Trzeci czynnik jest pod Twoją kontrolą i to stąd pochodzą największe oszczędności. Następne sekcje omawiają konkretny workload, a następnie zmiany, które go redukują. ID modelu to uncensored, pojedynczy model o otwartych wagach do legalnego użytku przez dorosłych, tylko tekst.

Miesiąc rzeczywistego ruchu, obliczony

Rozważ aplikację z 50 000 zapytań miesięcznie. Każde zapytanie wysyła około 1500 tokenów wejściowych (prompt systemowy, historia, nowa wiadomość) i otrzymuje około 250 tokenów.

  • Wejście: 50 000 x 1500 = 75 000 000 tokenów = 75 x $0,15 = $11,25
  • Wyjście: 50 000 x 250 = 12 500 000 tokenów = 12,5 x $0,50 = $6,25
  • Suma: $17,50 za miesiąc

To mieści się w minimalnym doładowaniu $20 z $2.50 reszty, a niewykorzystany kredyt zostaje na koncie. Zauważ, że input stanowi 64% rachunku tutaj, mimo że jest to tańsza stawka, ponieważ jest go znacznie więcej. Tokeny wyjściowe kosztują więcej za token ($0.50 to około 3,3 raza $0.15), ale input zwykle dominuje w aplikacjach czatowych, ponieważ historia jest wysyłana ponownie w każdej turze.

Dla porównania, lżejsze obciążenie 5000 zapytań przy tych samych rozmiarach kosztuje $1,75. Cięższe, 500 000 zapytań, kosztuje $175. Koszt rośnie liniowo, więc możesz pomnożyć, aby oszacować własny przypadek.

Pięć sposobów na obniżenie rachunku

1. Ogranicz historię

Nie wysyłaj czatu od początku na zawsze. Zachowaj prompt systemowy i kilka ostatnich wiadomości, a starsze podsumuj w jednym lub dwóch zdaniach. Okno kontekstu pozwala na 100 000 tokenów, co daje dużo miejsca, ale miejsce nie jest powodem do jego wypełniania.

2. Ogranicz wyjście

Ustaw max_tokens, gdy odpowiedź ma znany limit, i poproś o zwięzłość w systemowym promptcie. Jest to opcjonalne, a bez tego uzupełnienie może wykorzystać resztę okna. Limit 150 zamiast średniej 250 tokenów oszczędza $0.00005 na zapytanie, co daje $2.50 przy 50 000 zapytaniach.

3. Użyj sekwencji stop i trybu JSON

Dla wyjścia czytanego przez maszynę, response_format z {"type":"json_object"} ogranicza odpowiedź do obiektu, o który prosiłeś, zamiast zbędnego wstępu. Sekwencja stop kończy generowanie, gdy tylko część, której potrzebujesz, zostanie napisana.

4. Napraw ponowienia

Gdy otrzymasz HTTP 429, poczekaj przed ponowieniem zapytania. Nagłówek Retry-After: 5 informuje, jak długo czekać w przypadku tymczasowego przeciążenia. Nieudane zapytania nie są rozliczane, ale zduplikowane udane są, więc nie wysyłaj tego samego wywołania dwa razy z dwóch ścieżek kodu.

5. Grupuj w ramach współbieżności

Pełny klucz pozwala na 8 równoległych zapytań i 300 na minutę. Uruchomienie kolejki z 8 workerami wykorzystuje to, za co zapłaciłeś, bez wywoływania błędów concurrency.

Ten sam miesiąc po optymalizacji

Zastosuj pierwsze dwie zmiany do miesiąca z 50 000 zapytań. Ograniczenie historii redukuje wejście z 1500 do 800 tokenów na zapytanie, a limit wyjścia 150 tokenów redukuje średnią odpowiedź z 250 do 150.

  • Wejście: 50 000 x 800 = 40 000 000 tokenów = 40 x $0,15 = $6,00
  • Wyjście: 50 000 x 150 = 7 500 000 tokenów = 7,5 x $0,50 = $3,75
  • Suma: $9,75, spadek z $17,50, redukcja o 44%

To, czy krótsze odpowiedzi są akceptowalne, zależy od Twojego produktu, więc przetestuj zmianę jakości przed wdrożeniem. Oto minimalny przycinacz historii z limitem w miejscu:

from openai import OpenAI

client = OpenAI(base_url="https://api.cheapllmapis.com/v1", api_key="YOUR_KEY")

MAX_TURNS = 6  # keep the last 6 messages besides the system prompt

def trim(history):
    system, rest = history[0], history[1:]
    return [system] + rest[-MAX_TURNS:]

history = [{"role": "system", "content": "You are a concise assistant."}]
history.append({"role": "user", "content": "Plan a three-day trip outline."})

resp = client.chat.completions.create(
    model="uncensored",
    messages=trim(history),
    max_tokens=300,
)
history.append({"role": "assistant", "content": resp.choices[0].message.content})

Odpowiedź zawiera również usage, więc loguj ją dla każdego zapytania, aby zobaczyć wpływ każdej zmiany w liczbach rzeczywistych.

Długie dokumenty i duże okna kontekstu

Okno 100 000 tokenów umożliwia przetwarzanie całych dokumentów, więc oceń koszt przed uruchomieniem wsadu. Wywołanie z 99 000 tokenami wejściowymi i 1000 wyjściowymi kosztuje 99 000 x $0,15 / 1 mln = $0,01485 plus 1000 x $0,50 / 1 mln = $0,0005, czyli $0,01535. Uruchomienie tego na 1000 dokumentów kosztuje $15,35. Jeśli dokument ma tylko 30 000 tokenów, a podsumowanie 500, wywołanie kosztuje $0,0045 + $0,00025 = $0,00475, a 1000 dokumentów kosztuje $4,75.

Potoki dzielenia i streszczania często kosztują więcej niż jedno duże wywołanie, ponieważ każdy fragment powtarza instrukcje, a każdy przebieg dodaje swoje tokeny wyjściowe. Porównaj oba na próbce przed wyborem.

Jak długo starcza doładowanie

Użyj zoptymalizowanego miesiąca, $9,75, jako miary. Doładowanie $20 pokryje nieco ponad dwa miesiące (20 / 9,75 = 2,05). Doładowanie $100 dodaje 10% i staje się $110, co pokryje około 11 miesięcy (110 / 9,75 = 11,3). Kredyt nie wygasa, więc większe doładowanie nie kosztuje więcej na czekanie; bonus jest powodem do rozważenia, a zawsze możesz zacząć od $20.

Finansowanie konta

Płacisz z góry. Działa każda kwota całkowita od $20 do $500, a większe doładowania dodają kredyt: +5% od $50, +10% od $100, +15% od $200. Zatem $50 to $52,50, $100 to $110, a $200 to $230. Zapłać kryptowalutami (USDT w sieci TRC20, USDC na Base). Pełna tabela jest na stronie z cenami.

Zanim wydasz jakiekolwiek środki, możesz skorzystać z darmowego kredytu próbnego. Po rejestracji, jedno kliknięcie na stronie klucza API przyznaje $0.50 kredytu na osobę, ważnego przez 7 dni, bez podawania karty. Przy wcześniejszych rozmiarach 1500 tokenów wejściowych i 250 tokenów wyjściowych zapytanie kosztuje $0,000225 + $0,000125 = $0,00035, więc $0,50 starcza na około 1400 takich zapytań. Klucze próbne są ograniczone do 2 równoległych zapytań i 60 zapytań na minutę.

Czego tanie API nie obejmuje

Ustal jasno zakres przed rozpoczęciem budowy. API oferuje uzupełnienia czatu tekstowego i listę modeli. Nie ma generowania obrazu ani audio, nie ma embeddingów ani fine-tuningu, więc projekt wymagający tych funkcji płaci innemu dostawcy. Model nie jest oficjalnym API żadnego dużego dostawcy i nie jest routerem. Treści seksualne z udziałem nieletnich są zawsze niedozwolone.

Jeśli porównujesz to z flagowym modelem w stylu Claude, artykuł o taniej alternatywie dla API Claude omawia kompromisy. Inni dostawcy często zmieniają ceny, więc sprawdź ich aktualne cenniki, zamiast polegać na tabeli skopiowanej skądś. Kiedy będziesz gotowy do podłączenia, przewodnik szybkiego startu pobiera bazowy URL, klucz i nazwę modelu, a reszta to zwykłe wywołanie klienta OpenAI.

Pytania i odpowiedzi

Ile kosztuje jedno zapytanie?

Zależy to od tokenów. Zapytanie z 1 500 tokenami wejściowymi i 250 tokenami wyjściowymi kosztuje $0,00035, przy cenie $0,15 i $0,50 za 1 mln tokenów.

Czy istnieje darmowy plan?

Jest dostępny $0.50 kredyt próbny, odbierany jednym kliknięciem na stronie klucza po rejestracji. Jest ważny przez 7 dni i nie wymaga karty.

Czy niewykorzystane kredyty wygasają?

Nie. Kredyt nigdy nie wygasa, więc możesz doładować $20 i wydawać go we własnym tempie.

Czy ponowienia są rozliczane?

Nie rozliczamy zapytań, które się nie powiodły lub zostały odrzucone. Zapytanie, które się powiedzie, jest rozliczane, nawet jeśli Twój kod wysłał jego duplikat.

Twój klucz jest o jeden formularz stąd

Utwórz konto, skopiuj klucz, zmień bazowy URL. To cała konfiguracja.

Pobierz klucz APIPrzeczytaj dokumentację