API LLM Murah: Biaya Nyata dan Cara Menguranginya
Murah hanya berarti sesuatu ketika Anda menjumlahkan beban kerja nyata. Halaman ini melakukannya untuk API per token pada $0,15 input dan $0,50 output per 1 juta token, lalu menunjukkan cara mengurangi totalnya.
Diperbarui

Poin utama
- Harga adalah $0,15 per 1 juta token input dan $0,50 per 1 juta token output, prabayar, tanpa langganan.
- 50.000 permintaan dalam sebulan dengan 1.500 token input dan 250 token output berharga $17,50.
- Memangkas riwayat dan membatasi output memangkas biaya bulan itu menjadi $9,75.
- Permintaan yang gagal tidak ditagih, dan saldo tidak pernah kedaluwarsa.
Apa yang membuat API murah
API LLM murah adalah yang membuat tagihan bulanan Anda tetap rendah untuk pekerjaan yang sebenarnya Anda lakukan, dan tarif rendah di permukaan saja tidak memberikan itu. Tiga hal menentukan hal itu: harga per token, biaya tambahan di sekitarnya (langganan, minimum, kredit yang kedaluwarsa), dan berapa banyak token yang dikirim aplikasi Anda. API ini mencakup dua hal pertama dengan sederhana. Ini mengenakan biaya $0,15 per 1M token input dan $0,50 per 1M token output, tanpa langganan, tanpa masa berlaku kredit, dan tanpa biaya untuk permintaan yang gagal atau ditolak.
Faktor ketiga adalah kendali Anda, dan di situlah sebagian besar penghematan berasal. Bagian berikutnya membahas beban kerja konkret dan kemudian perubahan yang menguranginya. ID model adalah uncensored, model bobot terbuka tunggal untuk penggunaan dewasa yang sah, teks saja.
Sebulan lalu lintas nyata, dihitung
Ambil aplikasi dengan 50.000 permintaan sebulan. Setiap permintaan mengirimkan sekitar 1.500 token input (prompt sistem, riwayat, pesan baru) dan mendapatkan kembali sekitar 250 token.
- Input: 50.000 x 1.500 = 75.000.000 token = 75 x $0,15 = $11,25
- Output: 50.000 x 250 = 12.500.000 token = 12,5 x $0,50 = $6,25
- Total: $17,50 untuk bulan tersebut
Itu masuk ke dalam isi saldo minimum $20 dengan sisa $2,50, dan saldo yang tidak digunakan tetap di akun. Perhatikan bahwa input adalah 64% dari tagihan di sini, meskipun itu adalah tarif yang lebih murah, karena ada begitu banyak dari itu. Token output lebih mahal per token ($0,50 adalah sekitar 3,3 kali $0,15), tetapi input biasanya mendominasi dalam aplikasi obrolan karena riwayat dikirim ulang setiap giliran.
Untuk perbandingan, beban kerja yang lebih ringan dengan 5.000 permintaan dengan ukuran yang sama berharga $1,75. Yang lebih berat, 500.000 permintaan, berharga $175. Biaya meningkat secara linear, sehingga Anda dapat mengalikan untuk memperkirakan kasus Anda sendiri.
Lima cara menurunkan tagihan
1. Pangkas riwayat
Jangan kirim ulang obrolan dari awal selamanya. Simpan prompt sistem dan beberapa pesan terakhir, dan ringkas apa pun yang lebih lama dalam satu atau dua kalimat. Jendela konteks memungkinkan 100.000 token, yang merupakan ruang untuk banyak, tetapi ruang bukan alasan untuk mengisinya.
2. Batasi output
Atur max_tokens ketika balasan memiliki batas atas yang diketahui, dan minta jawaban singkat di prompt sistem. Ini opsional, dan tanpanya penyelesaian dapat menggunakan sisa jendela. Batas 150 alih-alih rata-rata 250 token menghemat $0,00005 per permintaan, yang menjadi $2,50 atas 50.000 permintaan.
3. Gunakan urutan berhenti dan mode JSON
Untuk output yang dibaca mesin, response_format dengan {"type":"json_object"} menjaga balasan tetap pada objek yang Anda minta alih-alih basa-basi yang bertele-tele. Urutan stop mengakhiri generasi segera setelah bagian yang Anda butuhkan ditulis.
4. Perbaiki percobaan ulang
Ketika Anda mencapai HTTP 429, tunggu sebelum mencoba lagi. Header Retry-After: 5 memberi tahu Anda berapa lama pada kelebihan beban sementara. Permintaan yang gagal tidak dikenakan biaya, tetapi yang berhasil ganda dikenakan biaya, jadi jangan mengirim panggilan yang sama dua kali dari dua jalur kode.
5. Batch dalam konkurensi Anda
Kunci penuh memungkinkan 8 permintaan konkuren dan 300 per menit. Menjalankan antrian dengan 8 pekerja menggunakan apa yang telah Anda bayar tanpa memicu kesalahan concurrency.
Bulan yang sama setelah penyetelan
Terapkan dua perubahan pertama pada bulan 50.000 permintaan. Pemangkasan riwayat membawa input turun dari 1.500 menjadi 800 token per permintaan, dan batas output 150 token membawa rata-rata balasan turun dari 250 menjadi 150.
- Input: 50.000 x 800 = 40.000.000 token = 40 x $0,15 = $6,00
- Output: 50.000 x 150 = 7.500.000 token = 7,5 x $0,50 = $3,75
- Total: $9,75, turun dari $17,50, pengurangan 44%
Apakah balasan yang lebih pendek dapat diterima tergantung pada produk Anda, jadi uji perubahan kualitas sebelum Anda meluncurkannya. Berikut adalah pemangkas riwayat minimal dengan batas yang ada:
from openai import OpenAI
client = OpenAI(base_url="https://api.cheapllmapis.com/v1", api_key="YOUR_KEY")
MAX_TURNS = 6 # keep the last 6 messages besides the system prompt
def trim(history):
system, rest = history[0], history[1:]
return [system] + rest[-MAX_TURNS:]
history = [{"role": "system", "content": "You are a concise assistant."}]
history.append({"role": "user", "content": "Plan a three-day trip outline."})
resp = client.chat.completions.create(
model="uncensored",
messages=trim(history),
max_tokens=300,
)
history.append({"role": "assistant", "content": resp.choices[0].message.content})Respons juga melaporkan usage, jadi catat per permintaan dan Anda akan melihat efek setiap perubahan dalam angka nyata.
Dokumen panjang dan konteks besar
Jendela 100.000 token membuat pekerjaan dokumen utuh memungkinkan, jadi hitung biayanya terlebih dahulu sebelum Anda menjalankan batch. Panggilan dengan 99.000 token input dan 1.000 token output berharga 99.000 x $0,15 / 1 juta = $0,01485 ditambah 1.000 x $0,50 / 1 juta = $0,0005, jadi $0,01535. Menjalankannya pada 1.000 dokumen berharga $15,35. Jika dokumen hanya 30.000 token dan ringkasannya 500, panggilan berharga $0,0045 + $0,00025 = $0,00475, dan 1.000 dokumen berharga $4,75.
Pipeline pemecahan dan perangkuman sering kali lebih mahal daripada satu panggilan besar, karena setiap bagian mengulang instruksi dan setiap langkah menambahkan token outputnya sendiri. Bandingkan keduanya pada sampel sebelum memilih.
Berapa lama isi saldo bertahan
Gunakan bulan yang disetel, $9,75, sebagai patokan. Pengisian saldo $20 mencakup sedikit lebih dari dua bulan darinya (20 / 9,75 = 2,05). Pengisian saldo $100 menambahkan 10% dan menjadi $110, yang mencakup sekitar 11 bulan (110 / 9,75 = 11,3). Kredit tidak pernah kedaluwarsa, sehingga pengisian saldo yang lebih besar tidak mengeluarkan biaya tambahan dalam menunggu; bonus adalah alasan untuk mempertimbangkannya, dan Anda selalu dapat memulai dengan $20.
Membiayai akun
Anda membayar di muka. Jumlah bulat apa pun dari $20 hingga $500 berfungsi, dan pengisian saldo yang lebih besar menambahkan kredit: +5% dari $50, +10% dari $100, +15% dari $200. Jadi $50 menjadi $52,50, $100 menjadi $110 dan $200 menjadi $230. Bayar dengan kripto (USDT pada TRC20, USDC pada Base). Tabel lengkap tersedia di halaman harga.
Sebelum membayar apa pun, Anda dapat menggunakan uji coba gratis. Setelah pendaftaran, satu klik di halaman kunci API mengklaim $0,50 kredit, satu per orang, berlaku selama 7 hari, tanpa kartu. Pada ukuran sebelumnya dari 1.500 token input dan 250 token output, permintaan berharga $0,000225 + $0,000125 = $0,00035, sehingga $0,50 mencakup sekitar 1.400 permintaan. Kunci uji coba dibatasi hingga 2 permintaan paralel dan 60 per menit.
Apa yang tidak termasuk murah
Jelaskan ruang lingkupnya sebelum Anda membangun. API menawarkan chat completion teks dan daftar model. Tidak ada pembuatan gambar atau audio, tidak ada embedding dan tidak ada fine-tuning, sehingga proyek yang membutuhkan itu membayar penyedia lain untuk itu. Modelnya bukan API resmi dari vendor besar mana pun dan bukan router. Dan konten seksual yang melibatkan anak di bawah umur tidak pernah diizinkan.
Jika Anda membandingkannya dengan unggulan gaya Claude, artikel tentang alternatif API Claude murah mencakup trade-off-nya. Vendor lain sering mengubah harga, jadi periksa harga terkini mereka daripada mempercayai tabel yang disalin dari suatu tempat. Ketika Anda siap untuk mengintegrasikannya, panduan memulai cepat mengambil URL dasar, kunci dan nama model, dan sisanya adalah panggilan klien OpenAI normal.
Panduan lainnya
Tanya jawab
Berapa biaya satu permintaan?
Tergantung pada token. Permintaan dengan 1.500 token input dan 250 token output berharga $0,00035, dihitung pada $0,15 dan $0,50 per 1 juta token.
Apakah ada tingkat gratis?
Ada kredit uji coba gratis sebesar $0,50, yang diklaim dengan satu klik di halaman kunci API setelah pendaftaran. Kredit ini berlaku selama 7 hari dan tidak memerlukan kartu.
Apakah saldo yang tidak terpakai akan habis?
Tidak. Kredit tidak pernah kedaluwarsa, sehingga Anda dapat mengisi saldo $20 dan menggunakannya sesuai kecepatan Anda sendiri.
Apakah permintaan ulang dikenakan biaya?
Permintaan yang gagal atau ditolak tidak dikenakan biaya. Permintaan yang berhasil akan ditagih meskipun kode Anda juga mengirimkan duplikat.
Kunci Anda hanya selangkah lagi dari satu formulir
Buat akun, salin kunci, ubah URL dasar. Itu saja seluruh proses pengaturannya.