VI ▾
API LLM không kiểm duyệt bắt đầu từ $0,15 cho mỗi 1 triệu tokenhttps://api.cheapllmapis.com/v1

API LLM giá rẻ: Chi phí thực và cách giảm chi phí

Giá rẻ chỉ có ý nghĩa khi bạn cộng dồn một khối lượng công việc thực tế. Trang này làm điều đó cho một API theo token với giá $0,15 cho đầu vào và $0,50 cho đầu ra trên 1 triệu token, sau đó chỉ cho bạn cách giảm tổng chi phí.

Hũ kính chứa các token phát sáng bên cạnh một đường xu hướng giảm, minh họa cho chi phí trên mỗi token thấp hơn

Điểm chính

  • Giá là $0,15 cho mỗi 1 triệu token đầu vào và $0,50 cho mỗi 1 triệu token đầu ra, trả trước, không có gói đăng ký.
  • Một tháng với 50.000 yêu cầu, mỗi yêu cầu 1.500 token đầu vào và 250 token đầu ra tốn $17,50.
  • Cắt ngắn lịch sử và giới hạn đầu ra giảm chi phí tháng đó xuống còn $9,75.
  • Các yêu cầu thất bại không bị tính phí và tín dụng không bao giờ hết hạn.

Điều gì làm cho API rẻ

Một API LLM giá rẻ là loại mà tổng hóa đơn hàng tháng của bạn thấp cho công việc bạn thực sự làm, và một mức giá niêm yết thấp đơn thuần không mang lại điều đó. Ba yếu tố quyết định điều này: giá trên mỗi token, các khoản phí bổ sung liên quan (gói đăng ký, mức tối thiểu, tín dụng hết hạn) và số lượng token mà ứng dụng của bạn gửi đi. API này đơn giản hóa hai điều đầu tiên. Nó tính $0.15 cho mỗi 1 triệu token đầu vào và $0.50 cho mỗi 1 triệu token đầu ra, không có phí đăng ký, không hết hạn tín dụng và không tính phí cho các yêu cầu thất bại hoặc bị từ chối.

Yếu tố thứ ba là do bạn kiểm soát, và đó là nơi phần lớn tiết kiệm đến từ. Các phần tiếp theo sẽ phân tích một khối lượng công việc cụ thể và sau đó là các thay đổi để giảm nó. ID mô hình là uncensored, một mô hình trọng số mở đơn lẻ cho việc sử dụng hợp pháp của người lớn, chỉ văn bản.

Một tháng lưu lượng thực tế, đã tính toán

Hãy lấy một ứng dụng với 50.000 yêu cầu mỗi tháng. Mỗi yêu cầu gửi khoảng 1.500 token đầu vào (prompt hệ thống, lịch sử, tin nhắn mới) và nhận lại khoảng 250 token.

  • Đầu vào: 50.000 x 1.500 = 75.000.000 token = 75 x $0,15 = $11,25
  • Đầu ra: 50.000 x 250 = 12.500.000 token = 12,5 x $0,50 = $6,25
  • Tổng cộng: $17,50 cho tháng đó

Điều này nằm trong khoản nạp tiền tối thiểu $20 với $2.50 còn lại, và tín dụng chưa sử dụng vẫn được giữ trên tài khoản. Lưu ý rằng đầu vào chiếm 64% hóa đơn ở đây, mặc dù nó có mức giá rẻ hơn, vì có rất nhiều token đầu vào hơn. Token đầu ra tốn nhiều tiền hơn trên mỗi token ($0.50 tương đương khoảng 3,3 lần $0.15), nhưng token đầu vào thường chiếm ưu thế trong các ứng dụng trò chuyện vì lịch sử được gửi lại ở mỗi lượt.

Để so sánh, một khối lượng công việc nhẹ hơn với 5.000 yêu cầu với cùng kích thước tốn $1,75. Một khối lượng nặng hơn, 500.000 yêu cầu, tốn $175. Chi phí tăng theo đường thẳng, vì vậy bạn có thể nhân để ước tính trường hợp của riêng mình.

Năm cách để giảm hóa đơn

1. Cắt ngắn lịch sử

Đừng gửi lại một cuộc trò chuyện từ đầu mãi mãi. Hãy giữ lại prompt hệ thống và vài tin nhắn gần nhất, và tóm tắt những gì cũ hơn trong một hoặc hai câu. Cửa sổ ngữ cảnh cho phép 100.000 token, đây là một khoảng trống lớn, nhưng khoảng trống không phải là lý do để lấp đầy nó.

2. Giới hạn đầu ra

Đặt max_tokens khi câu trả lời có giới hạn trên đã biết, và yêu cầu ngắn gọn trong system prompt. Nó không bắt buộc, và nếu không có nó, phần hoàn thành có thể sử dụng phần còn lại của cửa sổ ngữ cảnh. Việc giới hạn ở 150 token thay vì trung bình 250 token tiết kiệm $0.00005 cho mỗi yêu cầu, tương đương $2.50 cho 50.000 yêu cầu.

3. Sử dụng chuỗi dừng và chế độ JSON

Đối với đầu ra dành cho máy đọc, sử dụng response_format với {"type":"json_object"} giữ câu trả lời ở đúng định dạng đối tượng bạn yêu cầu thay vì thêm các phần văn bản thừa. Một chuỗi stop sẽ kết thúc quá trình tạo ngay khi phần bạn cần được viết ra.

4. Sửa lỗi thử lại

Khi gặp HTTP 429, hãy đợi trước khi thử lại. Tiêu đề Retry-After: 5 cho bạn biết thời gian chờ trong trường hợp quá tải tạm thời. Các yêu cầu thất bại không bị tính phí, nhưng các yêu cầu thành công trùng lặp thì có, vì vậy đừng gửi cùng một lệnh gọi hai lần từ hai đường dẫn mã khác nhau.

5. Ghép nhóm trong giới hạn độ đồng thời của bạn

Một khóa đầy đủ cho phép 8 yêu cầu đồng thời và 300 mỗi phút. Chạy một hàng chờ với 8 tác vụ sử dụng những gì bạn đã trả tiền mà không gặp lỗi concurrency.

Cùng một tháng sau khi tinh chỉnh

Áp dụng hai thay đổi đầu tiên cho tháng 50.000 yêu cầu. Việc cắt ngắn lịch sử giảm đầu vào từ 1.500 xuống còn 800 token mỗi yêu cầu, và giới hạn đầu ra 150 token giảm trung bình câu trả lời từ 250 xuống còn 150.

  • Đầu vào: 50.000 x 800 = 40.000.000 token = 40 x $0,15 = $6,00
  • Đầu ra: 50.000 x 150 = 7.500.000 token = 7,5 x $0,50 = $3,75
  • Tổng cộng: $9,75, giảm từ $17,50, giảm 44%

Việc các câu trả lời ngắn hơn có thể chấp nhận được hay không phụ thuộc vào sản phẩm của bạn, vì vậy hãy kiểm tra sự thay đổi chất lượng trước khi triển khai. Dưới đây là một trình cắt ngắn lịch sử tối thiểu với giới hạn được đặt:

from openai import OpenAI

client = OpenAI(base_url="https://api.cheapllmapis.com/v1", api_key="YOUR_KEY")

MAX_TURNS = 6  # keep the last 6 messages besides the system prompt

def trim(history):
    system, rest = history[0], history[1:]
    return [system] + rest[-MAX_TURNS:]

history = [{"role": "system", "content": "You are a concise assistant."}]
history.append({"role": "user", "content": "Plan a three-day trip outline."})

resp = client.chat.completions.create(
    model="uncensored",
    messages=trim(history),
    max_tokens=300,
)
history.append({"role": "assistant", "content": resp.choices[0].message.content})

Phản hồi cũng bao gồm usage, vì vậy hãy ghi lại nó cho mỗi yêu cầu và bạn sẽ thấy tác động của mọi thay đổi theo các con số thực tế.

Tài liệu dài và ngữ cảnh lớn

Cửa sổ 100.000 token cho phép các tác vụ tài liệu toàn bộ, vì vậy hãy tính giá một lần trước khi chạy một lô. Một lệnh gọi với 99.000 token đầu vào và 1.000 token đầu ra tốn 99.000 x $0,15 / 1M = $0,01485 cộng 1.000 x $0,50 / 1M = $0,0005, vậy $0,01535. Chạy điều đó trên 1.000 tài liệu tốn $15,35. Nếu tài liệu chỉ có 30.000 token và bản tóm tắt là 500, lệnh gọi tốn $0,0045 + $0,00025 = $0,00475, và 1.000 tài liệu tốn $4,75.

Các quy trình phân chia và tóm tắt thường tốn nhiều tiền hơn một lệnh gọi lớn, vì mỗi phần lặp lại các hướng dẫn và mỗi lần chạy thêm các token đầu ra của riêng nó. So sánh cả hai trên một mẫu trước khi chọn.

Nạp tiền kéo dài bao lâu

Hãy sử dụng tháng đã tính toán, $9.75, làm thước đo. Một khoản nạp tiền $20 bao phủ hơn hai tháng dựa trên mức đó (20 / 9.75 = 2,05). Một khoản nạp tiền $100 thêm 10% và trở thành $110, bao phủ khoảng 11 tháng (110 / 9.75 = 11,3). Tín dụng không bao giờ hết hạn, vì vậy một khoản nạp tiền lớn hơn không tốn thêm chi phí chờ đợi; khoản tiền thưởng là lý do để cân nhắc một khoản lớn hơn, và bạn luôn có thể bắt đầu với $20.

Nạp tiền vào tài khoản

Bạn trả trước. Bất kỳ số tiền nguyên nào từ $20 đến $500 đều được, và các lần nạp tiền lớn hơn thêm tín dụng: +5% từ $50, +10% từ $100, +15% từ $200. Vì vậy $50 trở thành $52,50, $100 trở thành $110 và $200 trở thành $230. Thanh toán bằng tiền mã hóa (USDT trên TRC20, USDC trên Base). Bảng đầy đủ có trên trang giá cả.

Trước khi thanh toán bất cứ điều gì, bạn có thể sử dụng tín dụng dùng thử miễn phí. Sau khi đăng ký, một cú nhấp chuột vào trang khóa API nhận $0.50 tín dụng, mỗi người một lần, có giá trị trong 7 ngày, không cần thẻ. Ở kích thước trước đó là 1.500 token đầu vào và 250 token đầu ra, một yêu cầu tốn $0.000225 + $0.000125 = $0.00035, vì vậy $0.50 bao phủ khoảng 1.400 yêu cầu như vậy. Khóa dùng thử bị giới hạn ở 2 yêu cầu đồng thời và 60 yêu cầu mỗi phút.

Giá rẻ không bao gồm

Hãy rõ ràng về phạm vi trước khi xây dựng. API cung cấp chat completion văn bản và danh sách mô hình. Không có tạo hình ảnh hoặc âm thanh, không có embedding và không có tinh chỉnh, vì vậy một dự án cần những thứ đó sẽ trả tiền cho nhà cung cấp khác cho chúng. Mô hình không phải là API chính thức của bất kỳ nhà cung cấp lớn nào và không phải là bộ định tuyến. Và nội dung tình dục liên quan đến người chưa thành niên không bao giờ được phép.

Nếu bạn đang cân nhắc điều này so với một mô hình hàng đầu kiểu Claude, bài viết về một lựa chọn thay thế API Claude giá rẻ bao gồm các sự đánh đổi. Các nhà cung cấp khác thay đổi giá thường xuyên, vì vậy hãy kiểm tra giá hiện tại của họ thay vì tin tưởng vào bảng giá sao chép từ đâu đó. Khi bạn sẵn sàng kết nối, hướng dẫn bắt đầu nhanh lấy base URL, khóa và tên mô hình, và phần còn lại là một cuộc gọi client OpenAI chuẩn.

Hỏi đáp

Một yêu cầu tốn bao nhiêu?

Tùy thuộc vào token. Một yêu cầu với 1.500 token đầu vào và 250 token đầu ra tốn $0.00035, được tính ở mức $0.15 và $0.50 cho mỗi 1 triệu token.

Có gói miễn phí không?

Bạn có tín dụng dùng thử miễn phí trị giá $0.50, nhận được chỉ bằng một cú nhấp chuột trên trang khóa API sau khi đăng ký. Tín dụng này có hiệu lực trong 7 ngày và không cần thẻ.

Tín dụng chưa sử dụng có hết hạn không?

Không. Tín dụng trả trước không bao giờ hết hạn, vì vậy bạn có thể nạp tiền $20 và sử dụng theo tốc độ của mình.

Các yêu cầu thử lại có được tính phí không?

Các yêu cầu thất bại hoặc bị từ chối không được tính phí. Một yêu cầu thành công sẽ được tính phí ngay cả khi mã của bạn cũng đã gửi một bản sao trùng lặp.

Khóa của bạn chỉ cách một biểu mẫu

Tạo tài khoản, sao chép khóa, thay đổi base URL. Đó là toàn bộ thiết lập.

Lấy khóa APIĐọc tài liệu