Ucuz LLM API: Gerçek Maliyetler ve Düşürme Yolları
Ucuzluk, ancak gerçek bir iş yükü toplandığında anlam kazanır. Bu sayfa, 1M token başına $0.15 giriş ve $0.50 çıkış fiyatlarıyla token başına ücretlendirilen bir API için bunu yapar ve toplam maliyeti nasıl azaltacağınızı gösterir.
güncellendi

Temel noktalar
- Fiyatlar 1M giriş token başına $0.15 ve 1M çıkış token başına $0.50'dir; ön ödemelidir ve abonelik yoktur.
- 1.500 giriş ve 250 çıkış token ile 50.000 isteklik bir ay $17.50 tutar.
- Geçmişi kısaltmak ve çıkışı sınırlamak, o ayı $9.75'e indirir.
- Başarısız istekler için ücret alınmaz ve kredi süresi dolmaz.
Bir API'yi ucuz yapan nedir
Uygun fiyatlı bir LLM API'si, yaptığınız iş için toplam aylık faturanızın düşük kaldığı bir yerdir ve düşük bir başlık oranı bunu tek başına sağlamaz. Bunu belirleyen üç şey vardır: token başına fiyatlar, etrafındaki ek ücretler (abonelikler, asgari tutarlar, süresi dolan kredi) ve uygulamanızın gönderdiği token sayısı. Bu API ilk ikisini basitçe karşılar. 1M giriş tokenı başına $0.15 ve 1M çıkış tokenı başına $0.50 ücretlendirir; abonelik yoktur, kredinin süresi dolmaz ve başarısız veya reddedilen istekler için ücret alınmaz.
Üçüncü faktör sizin kontrolünüzdedir ve tasarrufun çoğu buradan gelir. Sonraki bölümler somut bir iş yükü üzerinden çalışır ve bunu azaltan değişiklikleri gösterir. Model ID'si uncensoreddir, yasal yetişkin kullanımı için tek bir açık ağırlıklı modeldir, yalnızca metin.
Gerçek trafik ayı, hesaplandı
Ayda 50.000 istek alan bir uygulama düşünün. Her istek yaklaşık 1.500 giriş token (sistem istemi, geçmiş, yeni mesaj) gönderir ve yaklaşık 250 token geri alır.
- Giriş: 50.000 x 1.500 = 75.000.000 token = 75 x $0.15 = $11.25
- Çıkış: 50.000 x 250 = 12.500.000 token = 12.5 x $0.50 = $6.25
- Toplam: aylık $17.50
Bu, asgari $20'lik bakiye yükleme içinde kalır ve $2.50 fazlalık oluşur; kullanılmayan kredi hesabınızda kalır. Girişin faturanın %64'ünü oluşturduğuna dikkat edin, bu daha düşük orana rağmen, çünkü çok daha fazla giriş vardır. Çıkış tokenları token başına daha pahalıdır ($0.50, $0.15'in yaklaşık 3,3 katıdır), ancak giriş genellikle sohbet uygulamalarında baskındır çünkü geçmiş her adımda yeniden gönderilir.
Karşılaştırma için, aynı boyutlarda 5.000 isteklik daha hafif bir iş yükü $1.75 tutar. Daha ağır bir iş yükü, 500.000 istek, $175 tutar. Maliyet doğru orantılı artar, bu yüzden kendi durumunuzu tahmin etmek için çarpabilirsiniz.
Faturayı düşürmenin beş yolu
1. Geçmişi kısaltın
Sohbeti baştan sona sonsuza kadar yeniden göndermeyin. Sistem istemini ve son birkaç mesajı koruyun ve bundan öncekileri bir veya iki cümleyle özetleyin. Bağlam penceresi 100.000 tokena izin verir, bu çok yer demektir ancak yer, onu doldurmak için bir neden değildir.
2. Çıkışı sınırlayın
Bir yanıtın bilinen bir üst sınırına sahip olduğunda max_tokens ayarlayın ve sistem isteminde kısalık isteyin. Bu isteğe bağlıdır ve olmadan tamamlama pencerenin geri kalanını kullanabilir. Ortalama 250 token yerine 150 tokenlık bir sınır, istek başına $0.00005 tasarruf sağlar; bu da 50.000 istekte $2.50'ye dönüşür.
3. Durdurma dizileri ve JSON modu kullanın
Makine tarafından okunacak çıktılar için, response_format ve {"type":"json_object"} yanıtı istediğiniz nesneye sabitler; gereksiz çerçeveleme yerine. stop dizisi, ihtiyacınız olan kısım yazılır yazılmaz üretimi sonlandırır.
4. Yeniden denemeleri düzeltin
HTTP 429 aldığınızda, yeniden denemeden önce bekleyin. Retry-After: 5 başlığı geçici aşırı yüklenme süresini belirtir. Başarısız istekler ücretlendirilmez, ancak başarılı olanların kopyaları ücretlendirilir; bu nedenle aynı çağrıyı iki farklı kod yolundan iki kez göndermeyin.
5. Eşzamanlılık sınırınız içinde toplu işleyin
Tam bir anahtar 8 eşzamanlı istek ve dakikada 300 istek yapmanıza olanak tanır. 8 worker ile bir kuyruk çalıştırmak, concurrency hatalarına takılmadan ödediğiniz krediyi kullanmanızı sağlar.
İnce ayar yapıldıktan sonra aynı ay
İki değişikliği 50.000 isteklik aya uygulayın. Geçmişi kısaltma, girişleri istek başına 1.500 token'dan 800 tokena indirir ve 150 tokenlık bir çıkış sınırı, ortalama yanıtı 250'den 150'ye düşürür.
- Giriş: 50.000 x 800 = 40.000.000 token = 40 x $0.15 = $6.00
- Çıkış: 50.000 x 150 = 7.500.000 token = 7.5 x $0.50 = $3.75
- Toplam: $9.75, $17.50'dan düşüş, %44 azalma
Daha kısa yanıtların kabul edilebilir olup olmadığı ürününüze bağlıdır, bu yüzden yayınlamadan önce kalite değişikliğini test edin. İşte yerinde bir sınır ile minimal bir geçmiş kısaltıcı:
from openai import OpenAI
client = OpenAI(base_url="https://api.cheapllmapis.com/v1", api_key="YOUR_KEY")
MAX_TURNS = 6 # keep the last 6 messages besides the system prompt
def trim(history):
system, rest = history[0], history[1:]
return [system] + rest[-MAX_TURNS:]
history = [{"role": "system", "content": "You are a concise assistant."}]
history.append({"role": "user", "content": "Plan a three-day trip outline."})
resp = client.chat.completions.create(
model="uncensored",
messages=trim(history),
max_tokens=300,
)
history.append({"role": "assistant", "content": resp.choices[0].message.content})Yanıt ayrıca usage bilgisini bildirir; bu nedenle her istek için bunu günlüğe kaydedin ve her değişikliğin gerçek sayılarla etkisini görebilirsiniz.
Uzun belgeler ve büyük bağlamlar
100.000 tokenlık pencere, tüm belge işlerini mümkün kılar, bu yüzden bir toplu işlem çalıştırmadan önce fiyatı hesaplayın. 99.000 giriş token ve 1.000 çıkış token içeren bir çağrı, 99.000 x $0.15 / 1M = $0.01485 artı 1.000 x $0.50 / 1M = $0.0005, yani $0.01535 tutar. Bunu 1.000 belge üzerinde çalıştırmak $15.35 tutar. Belge yalnızca 30.000 token ve özet 500 token ise, çağrı $0.0045 + $0.00025 = $0.00475 tutar ve 1.000 belge $4.75 tutar.
Böl ve özetle iş akışları genellikle büyük bir çağrıdan daha pahalıya mal olur, çünkü her parça talimatları tekrar eder ve her aşama kendi çıkış tokenlarını ekler. Seçim yapmadan önce her ikisini de bir örnek üzerinde karşılaştırın.
Bakiye yükleme ne kadar süreyle geçerli
İnce ayarlanmış ayı, $9.75'i bir ölçü olarak kullanın. $20'lik bir bakiye yükleme bunun üzerinden iki aydan biraz fazlasını karşılar (20 / 9.75 = 2.05). $100'lik bir bakiye yükleme %10 ekler ve $110 olur, bu da yaklaşık 11 ayı karşılar (110 / 9.75 = 11.3). Kredi süresi dolmaz, bu yüzden daha büyük bir bakiye yükleme bekleme açısından ekstra maliyet gerektirmez; bonus, birini düşünmek için sebeptir ve her zaman $20 ile başlayabilirsiniz.
Hesabı finanse etmek
Ön ödeme yaparsınız. $20 ile $500 arasında herhangi bir tam tutar işe yarar ve daha büyük yüklemeler kredi ekler: $50'den +5%, $100'den +10%, $200'den +15%. Yani $50 $52.50, $100 $110 ve $200 $230 olur. Kripto (TRC20 üzerinde USDT, Base üzerinde USDC) ile ödeme yapın. Tam tablo fiyatlandırma sayfasında yer alır.
Herhangi bir şey ödemeden önce ücretsiz denemeyi kullanabilirsiniz. Kayıttan sonra, API anahtarı sayfası üzerindeki bir tıklama kişi başı 7 gün geçerli, kart gerekmeden $0.50 kredi verir. 1.500 giriş ve 250 çıkış tokenı gibi önceki boyutlarda bir istek $0.000225 + $0.000125 = $0.00035 tutar, yani $0.50 yaklaşık 1.400 tanesini karşılar. Deneme anahtarları 2 eşzamanlı istek ve dakikada 60 istekle sınırlıdır. Ödeme yapmak için artık yalnızca kripto (USDT TRC20 veya USDC Base) kabul edilmektedir; kredi kartı kullanılamaz.
Ucuzluğun dahil etmediği şeyler
Oluşturmaya başlamadan önce kapsamı netleştirin. API metin sohbet tamamlamaları ve bir model listesi sunar. Görüntü veya ses üretimi, gömme veya ince ayar yoktur; bu özellikleri gerektiren bir proje bunlar için başka bir sağlayıcıya ödeme yapar. Model büyük bir satıcının resmi API'si veya bir yönlendirici değildir. Reşit olmayanları içeren cinsel içeriğe asla izin verilmez.
Bunu bir Claude tarzı amiral gemisiyle karşılaştırıyorsanız, uygun fiyatlı bir Claude API alternatifi hakkındaki makale değiş tokuşları kapsar. Diğer satıcılar fiyatları sık değiştirir, bu yüzden bir yerden kopyalanan bir tabloya güvenmek yerine mevcut fiyatlandırmalarını kontrol edin. Bağlamaya hazır olduğunuzda, hızlı başlangıç kılavuzu temel URL'yi, anahtarı ve model adını alır ve geri kalanı normal bir OpenAI istemci çağrısıdır.
Daha fazla kılavuz
Sorular ve cevaplar
Bir istek ne kadar tutar?
Token sayısına bağlıdır. 1.500 giriş ve 250 çıkış token içeren bir istek, 1M token başına $0.15 ve $0.50 üzerinden hesaplandığında $0.00035 tutarındadır.
Ücretsiz bir katman var mı?
7 gün geçerli olan ve kart gerektirmeyen $0.50 deneme kredisi, kayıt sonrası anahtar sayfasında tek tıkla talep edilir.
Kullanılmayan krediler süresi doluyor mu?
Hayır. Kredi süresi dolmaz, bu nedenle $20 yükleyebilir ve kendi hızınızda harcayabilirsiniz.
Yeniden denemeler ücretlendirilir mi?
Başarısız veya reddedilen istekler için ücret alınmaz. Kodunuz bir kopya istek de gönderse, başarılı olan istek faturalandırılır.
Anahtarınız tek bir formun uzağında
Bir hesap oluşturun, anahtarı kopyalayın ve base URL'yi değiştirin. Kurulum bu kadar basit.