सस्ता LLM API: वास्तविक लागत और उसे कम करने के तरीके
सस्ता होना तभी मायने रखता है जब आप एक वास्तविक लोड जोड़ें। यह पेज $0.15 इनपुट और $0.50 आउटपुट प्रति 1M टोकन की दर से एक पर-टोकन API के लिए उसका हिसाब लगाता है, और फिर दिखाता है कि कुल लागत कम कैसे करें।
अपडेट किया गया

मुख्य बिंदु
- कीमतें हैं: 1M इनपुट टोकन के लिए $0.15 और 1M आउटपुट टोकन के लिए $0.50, प्रीपेड, बिना किसी सब्सक्रिप्शन के।
- 1,500 इनपुट और 250 आउटपुट टोकन वाले 50,000 अनुरोधों वाले महीने की लागत $17.50 है।
- इतिहास को काटने और आउटपुट को कैप करने से उसी महीने की लागत $9.75 रह जाती है।
- असफल अनुरोधों के लिए चार्ज नहीं किया जाता है, और क्रेडिट कभी समाप्त नहीं होता।
एक API को सस्ता बनाने वाली चीज़ें
एक सस्ता LLM API वह है जहाँ आपका मासिक बिल वास्तविक कार्य के लिए कम रहे, और कम प्रमुख दर अकेले यह नहीं देती। तीन चीजें इसे तय करती हैं: प्रति टोकन कीमतें, उनके आसपास की अतिरिक्त शुल्क (सब्सक्रिप्शन, न्यूनतम, समाप्त होने वाला क्रेडिट), और आपकी एप्लिकेशन कितने टोकन भेजती है। यह API पहले दो को सरलता से कवर करता है। यह 1M इनपुट टोकन के लिए $0.15 और 1M आउटपुट टोकन के लिए $0.50 चार्ज करता है, बिना किसी सब्सक्रिप्शन, क्रेडिट की कोई समाप्ति नहीं, और विफल या अस्वीकृत अनुरोधों के लिए कोई शुल्क नहीं।
तीसरा कारक आपके नियंत्रण में है, और यहाँ से अधिकांश बचत आती है। अगले खंड एक ठोस कार्यभार और फिर उसे कम करने वाले परिवर्तनों पर काम करते हैं। मॉडल ID uncensored है, वयस्कों के वैध उपयोग के लिए एकल ओपन-वेट मॉडल, केवल टेक्स्ट।
वास्तविक ट्रैफिक का एक महीना, गणना की गई
एक ऐप लें जिसमें महीने में 50,000 अनुरोध हैं। प्रत्येक अनुरोध लगभग 1,500 इनपुट टोकन भेजता है (सिस्टम प्रॉम्प्ट, इतिहास, नया संदेश) और लगभग 250 टोकन वापस पाता है।
- इनपुट: 50,000 x 1,500 = 75,000,000 टोकन = 75 x $0.15 = $11.25
- आउटपुट: 50,000 x 250 = 12,500,000 टोकन = 12.5 x $0.50 = $6.25
- कुल: $17.50 महीने के लिए
यह न्यूनतम $20 टॉप-अप के अंदर फिट होता है और $2.50 बचते हैं, और उपयोग न किया गया क्रेडिट खाते पर रहता है। ध्यान दें कि यहाँ बिल में इनपुट 64% है, भले ही यह सस्ती दर है, क्योंकि इसकी मात्रा बहुत अधिक है। आउटपुट टोकन प्रति टोकन अधिक महंगे हैं ($0.50 लगभग $0.15 का 3.3 गुना है), लेकिन चैट ऐप्स में इनपुट आमतौर पर हावी रहता है क्योंकि इतिहास हर टर्न पर फिर से भेजा जाता है।
तुलना के लिए, समान आकार वाले 5,000 अनुरोधों का हल्का कार्यभार $1.75 का खर्च करता है। एक भारी कार्यभार, 500,000 अनुरोध, $175 का खर्च करता है। लागत एक सीधी रेखा में स्केल होती है, इसलिए आप अपने स्वयं के मामले का अनुमान लगाने के लिए गुणा कर सकते हैं।
बिल कम करने के पाँच तरीके
1. इतिहास को काटें
चैट को शुरुआत से हमेशा के लिए फिर से न भेजें। सिस्टम प्रॉम्प्ट और पिछले कुछ संदेशों को रखें, और उससे पुरानी किसी भी चीज़ को एक या दो वाक्यों में सारांशित करें। कॉन्टेक्स्ट विंडो 100,000 टोकन की अनुमति देता है, जो बहुत कुछ के लिए जगह है, लेकिन जगह उसे भरने का कारण नहीं है।
2. आउटपुट पर सीमा लगाएं
जब एक जवाब की एक ज्ञात सीमा हो, तो max_tokens सेट करें, और सिस्टम प्रॉम्प्ट में संक्षिप्तता का अनुरोध करें। यह वैकल्पिक है, और इसके बिना पूर्णता विंडो का शेष हिस्सा उपयोग कर सकती है। 250 टोकन की औसत के बजाय 150 की एक छत हर अनुरोध पर $0.00005 बचाती है, जो 50,000 अनुरोधों पर $2.50 बन जाता है।
3. स्टॉप सीक्वेंस और JSON मोड का उपयोग करें
मशीन-पठनीय आउटपुट के लिए, response_format {"type":"json_object"} के साथ, अनुरोध किए गए ऑब्जेक्ट तक जवाब को सीमित रखता है, चैटिंग फ्रेमिंग के बजाय। एक stop अनुक्रम तुरंत जनरेशन समाप्त कर देता है जैसे ही आपका आवश्यक हिस्सा लिखा जाता है।
4. रीट्राई लॉजिक ठीक करें
जब आप HTTP 429 पर पहुँचते हैं, तो पुनः प्रयास करने से पहले प्रतीक्षा करें। Retry-After: 5 हेडर आपको बताता है कि अस्थायी ओवरलोड के लिए कितना समय। विफल अनुरोधों के लिए शुल्क नहीं लिया जाता, लेकिन सफल दोहराव वाले अनुरोधों के लिए लिया जाता है, इसलिए दो कोड पथों से एक ही कॉल दो बार न भेजें।
5. अपनी कंकरेंसी के भीतर बैच करें
एक पूर्ण कुंजी 8 समानांतर अनुरोध और प्रति मिनट 300 की अनुमति देती है। 8 वर्कर्स के साथ एक कतार चलाना आपकी भुगतान की गई मात्रा का उपयोग करता है बिना concurrency त्रुटियों को ट्रिगर किए।
उसी महीने ट्यूनिंग के बाद
पहले दो बदलावों को 50,000-अनुरोध वाले महीने पर लागू करें। इतिहास ट्रिम करने से प्रति अनुरोध इनपुट 1,500 टोकन से घटकर 800 हो जाता है, और 150-टोकन के आउटपुट कैप से औसत जवाब 250 से घटकर 150 हो जाता है।
- इनपुट: 50,000 x 800 = 40,000,000 टोकन = 40 x $0.15 = $6.00
- आउटपुट: 50,000 x 150 = 7,500,000 टोकन = 7.5 x $0.50 = $3.75
- कुल: $9.75, $17.50 से कम, 44% की कमी
यह कि छोटे जवाब स्वीकार्य हैं या नहीं, यह आपके उत्पाद पर निर्भर करता है, इसलिए इसे लागू करने से पहले गुणवत्ता परिवर्तन का परीक्षण करें। यहाँ एक न्यूनतम इतिहास ट्रिमर है जिसमें कैप लगा है:
from openai import OpenAI
client = OpenAI(base_url="https://api.cheapllmapis.com/v1", api_key="YOUR_KEY")
MAX_TURNS = 6 # keep the last 6 messages besides the system prompt
def trim(history):
system, rest = history[0], history[1:]
return [system] + rest[-MAX_TURNS:]
history = [{"role": "system", "content": "You are a concise assistant."}]
history.append({"role": "user", "content": "Plan a three-day trip outline."})
resp = client.chat.completions.create(
model="uncensored",
messages=trim(history),
max_tokens=300,
)
history.append({"role": "assistant", "content": resp.choices[0].message.content})प्रतिक्रिया usage भी रिपोर्ट करती है, इसलिए इसे प्रति अनुरोध लॉग करें और आपको हर बदलाव का असर वास्तविक संख्याओं में दिखेगा।
लंबे दस्तावेज़ और बड़े कॉन्टेक्स्ट
100,000-टोकन विंडो पूरे-दस्तावेज़ कार्यों को संभव बनाती है, इसलिए बैच चलाने से पहले लागत निकाल लें। 99,000 इनपुट टोकन और 1,000 आउटपुट टोकन वाली एक कॉल की लागत 99,000 x $0.15 / 1M = $0.01485 प्लस 1,000 x $0.50 / 1M = $0.0005, यानी $0.01535 है। 1,000 दस्तावेज़ों पर वह चलाने पर $15.35 की लागत आती है। यदि दस्तावेज़ केवल 30,000 टोकन का है और सारांश 500 टोकन का है, तो कॉल की लागत $0.0045 + $0.00025 = $0.00475 होती है, और 1,000 दस्तावेज़ों की लागत $4.75 होती है।
विभाजन और सारांश पाइपलाइन्स अक्सर एक बड़ी कॉल से अधिक महंगी पड़ती हैं, क्योंकि हर चंक निर्देशों को दोहराता है और हर पास अपने आउटपुट टोकन जोड़ता है। चुनने से पहले नमूने पर दोनों की तुलना करें।
टॉप-अप कितने समय तक चलता है
अनुकूलित माह, $9.75, को एक मापदंड के रूप में उपयोग करें। एक $20 टॉप-अप इसके दो महीने से अधिक कवर करता है (20 / 9.75 = 2.05)। एक $100 टॉप-अप 10% जोड़ता है और $110 बन जाता है, जो लगभग 11 महीने कवर करता है (110 / 9.75 = 11.3)। क्रेडिट कभी समाप्त नहीं होता, इसलिए एक बड़ा टॉप-अप प्रतीक्षा में कुछ अतिरिक्त लागत नहीं लाता; बोनस ही एक पर विचार करने का कारण है, और आप हमेशा $20 से शुरू कर सकते हैं।
खाते में फंडिंग
आप प्रीपेड करते हैं। $20 से $500 तक कोई भी पूर्ण राशि काम करती है, और बड़े टॉप-अप क्रेडिट जोड़ते हैं: $50 से +5%, $100 से +10%, $200 से +15%। इसलिए $50, $52.50 बन जाता है, $100, $110 बन जाता है और $200, $230 बन जाता है। क्रिप्टो (TRC20 पर USDT, Base पर USDC) से भुगतान करें। पूर्ण तालिका मूल्य निर्धारण पेज पर है।
कुछ भी भुगतान करने से पहले, आप मुफ़्त ट्रायल क्रेडिट का उपयोग कर सकते हैं। साइन अप करने के बाद, API कुंजी पेज पर एक क्लिक $0.50 क्रेडिट दावा करता है, प्रति व्यक्ति एक, 7 दिनों के लिए मान्य, बिना कार्ड के। 1,500 इनपुट और 250 आउटपुट टोकन के पूर्व-आकारों पर, एक अनुरोध की लागत $0.000225 + $0.000125 = $0.00035 होती है, इसलिए $0.50 लगभग 1,400 अनुरोधों को कवर करता है। ट्रायल कुंजियाँ 2 समानांतर अनुरोधों और प्रति मिनट 60 तक सीमित हैं।
सस्ता क्या नहीं शामिल करता
बिल्ड करने से पहले दायरे के बारे में स्पष्ट रहें। API टेक्स्ट चैट पूर्णता और मॉडल सूची प्रदान करता है। न तो इमेज या ऑडियो जनरेशन, न एम्बेडिंग और न ही फाइन-ट्यूनिंग है, इसलिए उन चीज़ों की आवश्यकता वाले प्रोजेक्ट उन्हें किसी अन्य प्रोवाइडर के लिए भुगतान करते हैं। मॉडल किसी बड़े वेंडर की आधिकारिक API नहीं है और न ही एक रूटर है। और नाबालिगों से संबंधित यौन सामग्री कभी भी अनुमत नहीं है।
यदि आप इसकी तुलना एक क्लॉड-शैली फ्लैगशिप से कर रहे हैं, तो सस्ते Claude API विकल्प पर लेख ट्रेड-ऑफ्स को कवर करता है। अन्य वेंडर अक्सर कीमतें बदलते हैं, इसलिए किसी जगह से कॉपी की गई तालिका पर भरोसा करने के बजाय उनकी वर्तमान कीमत देखें। जब आप इसे वायर करने के लिए तैयार हों, तो क्विकस्टार्ट गाइड बेस URL, कुंजी और मॉडल नाम लेता है, और बाकी एक सामान्य OpenAI क्लाइंट कॉल है।
अधिक गाइड
प्रश्न और उत्तर
एक अनुरोध की लागत कितनी है?
यह टोकन पर निर्भर करता है। 1,500 इनपुट और 250 आउटपुट टोकन वाले एक अनुरोध की लागत $0.00035 है, जो 1M टोकन के लिए $0.15 और $0.50 की गणना पर आधारित है।
क्या कोई फ्री टियर है?
$0.50 का ट्रायल क्रेडिट है, जिसे साइन-अप के बाद कुंजी पेज पर एक क्लिक से क्लेम किया जाता है। यह 7 दिनों के लिए मान्य है और कार्ड की आवश्यकता नहीं है।
क्या अप्रयुक्त क्रेडिट समाप्त होते हैं?
नहीं। क्रेडिट कभी समाप्त नहीं होता, इसलिए आप $20 टॉप-अप कर सकते हैं और अपनी गति से खर्च कर सकते हैं।
रिट्राइज़ का शुल्क लगता है?
विफल या अस्वीकृत अनुरोधों का शुल्क नहीं लगाया जाता है। एक अनुरोध जिसमें सफलता मिलती है, उसका शुल्क लगाया जाता है भले ही आपका कोड एक डुप्लिकेट भी भेज चुका हो।
आपकी कुंजी बस एक फ़ॉर्म दूर है
एक खाता बनाएँ, कुंजी कॉपी करें, बेस URL बदलें। सेटअप यही है।