KO ▾
무검열 LLM API, 토큰 100만 개당 $0.15부터https://api.cheapllmapis.com/v1

저렴한 LLM API: 실제 비용 및 절감 방법

저렴함은 실제 워크로드를 합산했을 때만 의미가 있습니다. 이 페이지는 1M 토큰당 입력 $0.15, 출력 $0.50의 토큰 단위 API에 대해 이를 계산하고 총액을 줄이는 방법을 보여줍니다.

아래로 떨어지는 선 옆에 빛나는 토큰이 담긴 유리 병, 토큰당 비용 절감을 나타내는 이미지

주요 포인트

  • 가격은 토큰 1M당 입력 $0.15, 출력 $0.50이며 선불 방식이고 구독이 없습니다.
  • 입력 토큰 1,500개, 출력 토큰 250개로 구성된 월 50,000개 요청은 $17.50이 발생합니다.
  • 대화 기록을 줄이고 출력을 제한하면 해당 월 비용이 $9.75로 줄어듭니다.
  • 실패한 요청은 청구되지 않으며 크레딧은 만료되지 않습니다.

API가 저렴하기 위한 조건

저렴한 LLM API란 실제 수행하는 작업에 대해 월간 총 요금이 낮게 유지되는 API를 의미하며, 낮은 헤드라인 요금만으로는 이를 보장할 수 없습니다. 이를 결정하는 세 가지 요소는 토큰 단위 가격, 이를 둘러싼 추가 요금(구독, 최소 금액, 만료되는 크레딧), 그리고 애플리케이션에서 전송하는 토큰 수입니다. 이 API는 앞의 두 가지를 단순하게 처리합니다. 1M 입력 토큰당 $0.15, 1M 출력 토큰당 $0.50의 요금을 부과하며, 구독료, 크레딧 만료, 실패 또는 거부된 요청에 대한 요금이 없습니다.

세 번째 요소는 사용자가 제어할 수 있으며, 대부분의 절감 효과가 여기서 나옵니다. 다음 섹션에서는 구체적인 워크로드를 분석하고 이를 줄이는 방법을 다룹니다. 모델 ID는 uncensored이며, 성인 대상의 합법적 사용에 적합한 단일 오픈 웨이트 모델로 텍스트만 지원합니다.

실제 트래픽으로 계산한 한 달

월간 50,000개의 요청을 처리하는 애플리케이션을 가정해 봅시다. 각 요청은 약 1,500개의 입력 토큰(시스템 프롬프트, 히스토리, 새 메시지)을 전송하고 약 250개의 토큰을 받습니다.

  • 입력: 50,000 x 1,500 = 75,000,000 토큰 = 75 x $0.15 = $11.25
  • 출력: 50,000 x 250 = 12,500,000 토큰 = 12.5 x $0.50 = $6.25
  • 월간 총액: $17.50

최소 충전 금액인 $20 안에 들어가며 $2.50가 남고, 사용하지 않은 크레딧은 계정에 유지됩니다. 여기서는 입력 비용이 총 요금의 64%를 차지한다는 점에 주목하십시오. 입력이 더 저렴함에도 불구하고 입력이 더 많기 때문입니다. 출력 토큰은 토큰당 비용이 더 비쌉니다($0.50은 약 $0.15의 3.3배). 하지만 채팅 앱에서는 매 턴마다 대화 기록이 다시 전송되므로 입력이 대부분을 차지합니다.

비교를 위해, 동일한 크기의 5,000개 요청 워크로드는 $1.75가 들며, 500,000개 요청의 무거운 워크로드는 $175가 듭니다. 비용은 직선적으로 비례하므로 자신의 경우를 추정하기 위해 곱셈을 사용할 수 있습니다.

청구서를 줄이는 5가지 방법

1. 히스토리 정리

채팅을 처음부터 끝까지 계속 다시 전송하지 마십시오. 시스템 프롬프트와 마지막 몇 개의 메시지만 유지하고, 그 이전의 내용은 한두 문장으로 요약하십시오. 컨텍스트 창은 100,000개의 토큰을 지원하므로 여유 공간이 많지만, 그 공간을 채울 이유가 되는 것은 아닙니다.

2. 출력 제한

max_tokens을 설정하여 응답의 최대 길이를 정하고, 시스템 프롬프트에서 간결함을 요구하세요. 이 설정은 선택 사항이며, 설정하지 않으면 completion이 컨텍스트 창의 나머지 부분을 모두 사용할 수 있습니다. 평균 250 토큰 대신 150 토큰으로 제한하면 요청당 $0.00005를 절약할 수 있으며, 50,000번의 요청에서 이는 $2.50가 됩니다.

3. 스톱 시퀀스 및 JSON 모드 사용

기계 판독용 출력의 경우, response_format에 {"type":"json_object"}을 사용하면 대화형 설명 대신 요청한 객체로만 응답이 제한됩니다. stop 시퀀스는 필요한 부분이 작성되면 생성을 즉시 종료합니다.

4. 재시도 수정

HTTP 429 오류가 발생하면 재시도 전에 대기하십시오. Retry-After: 5 헤더는 일시적 과부하 시 대기해야 하는 시간을 알려줍니다. 실패한 요청은 요금이 부과되지 않지만, 중복된 성공적인 요청은 요금이 부과되므로 두 코드 경로에서 동일한 호출을 두 번 보내지 마십시오.

5. 동시성 내에서 배치 처리

전체 키는 동시 요청 8개와 분당 300개를 허용합니다. 8개의 워커로 큐를 실행하면 concurrency 오류를 발생시키지 않고 사용한 만큼의 한도까지 활용합니다.

튜닝 후 같은 달

50,000개 요청 월에 첫 두 가지 변경 사항을 적용합니다. 히스토리 정리로 요청당 입력 토큰이 1,500에서 800으로 줄어들고, 150 토큰 출력 제한으로 평균 응답이 250에서 150으로 줄어듭니다.

  • 입력: 50,000 x 800 = 40,000,000 토큰 = 40 x $0.15 = $6.00
  • 출력: 50,000 x 150 = 7,500,000 토큰 = 7.5 x $0.50 = $3.75
  • 총액: $9.75, $17.50에서 감소, 44% 절감

짧은 응답이 허용 가능한지는 제품 기능에 따라 다르므로, 출시 전에 품질 변화를 테스트하십시오. 여기서는 제한이 적용된 최소한의 히스토리 정리기가 있습니다:

from openai import OpenAI

client = OpenAI(base_url="https://api.cheapllmapis.com/v1", api_key="YOUR_KEY")

MAX_TURNS = 6  # keep the last 6 messages besides the system prompt

def trim(history):
    system, rest = history[0], history[1:]
    return [system] + rest[-MAX_TURNS:]

history = [{"role": "system", "content": "You are a concise assistant."}]
history.append({"role": "user", "content": "Plan a three-day trip outline."})

resp = client.chat.completions.create(
    model="uncensored",
    messages=trim(history),
    max_tokens=300,
)
history.append({"role": "assistant", "content": resp.choices[0].message.content})

응답에는 usage도 보고되므로 요청별로 로깅하면 모든 변경 사항의 효과를 실제 숫자로 확인할 수 있습니다.

긴 문서와 큰 컨텍스트 창

100,000 토큰의 컨텍스트 창은 전체 문서 작업을 가능하게 하므로, 배치 실행 전 가격을 계산하십시오. 입력 토큰 99,000개와 출력 토큰 1,000개의 호출 비용은 99,000 x $0.15 / 1M = $0.01485 + 1,000 x $0.50 / 1M = $0.0005이므로 $0.01535입니다. 이를 1,000개 문서에 적용하면 $15.35가 듭니다. 문서가 30,000 토큰이고 요약이 500 토큰인 경우 호출 비용은 $0.0045 + $0.00025 = $0.00475이며, 1,000개 문서의 비용은 $4.75입니다.

분할-요약 파이프라인은 각 청크가 지시사항을 반복하고 각 단계가 자체 출력 토큰을 추가하므로 하나의 큰 호출보다 비용이 더 많이 들 수 있습니다. 선택하기 전에 샘플에서 둘 다 비교하십시오.

충전은 얼마나 지속됩니까

조정된 월 요금인 $9.75를 기준으로 삼으십시오. $20 충전은 이 요금의 두 달이 약간 넘는 기간을 커버합니다(20 / 9.75 = 2.05). $100 충전은 10%가 추가되어 $110이 되며, 이는 약 11개월(110 / 9.75 = 11.3)을 커버합니다. 크레딧은 만료되지 않으므로 더 큰 충전은 기다리는 데 추가 비용이 들지 않습니다. 보너스가 고려해야 할 이유이며, 항상 $20부터 시작할 수 있습니다.

계정 자금

선불로 결제합니다. $20부터 $500까지의 정수 금액이 모두 가능하며, 더 큰 충전 금액은 크레딧을 추가합니다: $50부터 +5%, $100부터 +10%, $200부터 +15%. 따라서 $50은 $52.50, $100은 $110, $200은 $230이 됩니다. 암호화폐(TRC20 네트워크의 USDT, Base 네트워크의 USDC)로 결제할 수 있습니다. 전체 표는 가격 책정 페이지에서 확인할 수 있습니다.

아무것도 결제하기 전에 무료 체험을 사용할 수 있습니다. 가입 후 API 키 페이지에서 한 번의 클릭으로 크레딧 $0.50을 청구할 수 있습니다. 1인당 1회, 유효 기간 7일, 카드 불필요. 입력 1,500 토큰, 출력 250 토큰의 이전 크기에서 요청 비용은 $0.000225 + $0.000125 = $0.00035이므로, $0.50은 약 1,400개의 요청을 커버할 수 있습니다. 체험용 키는 동시 요청 2개, 분당 60개로 제한됩니다.

저렴함에 포함되지 않는 항목

구축 전에 범위를 명확히 하십시오. 이 API는 텍스트 채팅 completion과 모델 목록을 제공합니다. 이미지 또는 오디오 생성, 임베딩, 파인튜닝은 제공하지 않으므로 이러한 기능이 필요한 프로젝트는 다른 공급자에게 비용을 지불해야 합니다. 이 모델은 주요 벤더의 공식 API가 아니며 라우터도 아닙니다. 그리고 미성년자가 관련된 성적인 콘텐츠는 절대 허용되지 않습니다.

Claude 스타일의 플래그십 모델과 비교 중이라면 저렴한 Claude API 대체재 기사를 참조하십시오. 다른 벤더들은 가격을 자주 변경하므로 어딘가에서 복사한 표를 신뢰하기보다 현재 가격을 확인하십시오. 연결할 준비가 되면 빠른 시작 가이드가 Base URL, 키 및 모델 이름을 제공하며 나머지는 일반적인 OpenAI 클라이언트 호출입니다.

질문과 답변

요청 한 개당 비용은 얼마입니까

토큰 수에 따라 다릅니다. 입력 토큰 1,500개와 출력 토큰 250개로 구성된 요청의 비용은 $0.00035이며, 토큰 100만 개당 $0.15 및 $0.50의 기준 가격으로 계산됩니다.

무료 티어가 있나요?

키 페이지에서 가입 후 한 번의 클릭으로 청구할 수 있는 $0.50의 체험 크레딧이 있습니다. 유효 기간은 7일이며 카드가 필요하지 않습니다.

사용하지 않은 크레딧은 만료되나요?

아니요. 크레딧은 만료되지 않으므로 $20을 충전하고 자신의 속도로 사용할 수 있습니다.

재시도에도 요금이 부과됩니까

실패하거나 거부된 요청에는 요금이 부과되지 않습니다. 요청이 성공하면 코드에서 중복 요청을 보냈더라도 요금이 청구됩니다.

키는 양식 하나만 작성하면 받을 수 있습니다

계정을 생성하고 키를 복사한 후 Base URL을 변경하세요. 설정은 이것으로 끝입니다.

API 키 받기문서 읽기