OpenAI API 대체제: 코드 변경 사항
대부분의 OpenAI API 대체제는 OpenAI 요청 형식을 복사하므로 전환은 종종 재작성이 아닌 구성 변경입니다. 이 문서에서는 코드 변경 사항, 오류 가능성 및 단일 모델 OpenAI 호환 엔드포인트가 적합한 영역과 그렇지 않은 영역을 정확히 설명합니다.


대체제가 제공할 수 있는 것
사람들은 가격, 콘텐츠 규칙, 데이터 처리, 지역 가용성 또는 오픈 웨이트 모델 사용 욕구로 OpenAI API 대체제를 찾습니다. 어떤 이유든 동일한 테스트가 적용됩니다. 대체제가 이미 보내는 요청 형식을 받아들이고 코드가 이미 읽는 응답 형식을 반환합니까?
예라면 SDK 호출이 변경되지 않습니다. 아니라면 어댑터를 한 번 작성하면 되지만 이것이 전환의 주요 비용입니다. 이 문서의 나머지는 첫 번째 경우인 OpenAI 호환 엔드포인트를 가정합니다.
세 줄 변경
공식 Python 패키지를 사용하면 기본 설정에는 기본 호스트와 OpenAI 키가 있습니다. 대안을 사용하려면 base_url, 새 제공업체의 키, 모델 이름을 세 가지 설정해야 합니다. 이 엔드포인트용 완성된 버전은 다음과 같습니다:
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.uncensoredaimodels.com/v1", # was the default host
api_key=os.environ["NEW_PROVIDER_KEY"], # was your OpenAI key
)
r = client.chat.completions.create(
model="uncensored", # was an OpenAI model name
messages=[{"role": "user", "content": "Pitch me a plot twist for a mystery."}],
)
print(r.choices[0].message.content)
Node에서는 생성자에 baseURL를 전달하고, LangChain 스타일의 래퍼에서는 base URL 옵션을 통해, 커스텀 endpoint 필드가 있는 도구에서는 동일한 방식으로 작동합니다. curl에서는 호스트와 헤더를 변경합니다:
curl https://api.uncensoredaimodels.com/v1/chat/completions \
-H "Authorization: Bearer $NEW_PROVIDER_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"ping"}]}'전환 후 문제가 발생할 수 있는 부분
모델 이름
모델 ID는 제공업체에 속합니다. OpenAI 모델 이름을 하드 코딩한 모든 항목은 업데이트해야 합니다. 이름을 구성에 넣으세요.
매개변수
temperature, top_p, stop, max_tokens과 같은 핵심 옵션은 그대로 유지됩니다. logprobs 또는 특정 response-format 옵션과 같은 다른 옵션은 제공업체에 따라 다릅니다. 이 엔드포인트에서는 temperature, top_p, stop, seed 및 페널티가 전달되며 JSON 모드는 response_format: {"type":"json_object"}로 작동합니다.
함수 호출 품질
와이어 형식은 공유되지만 모델이 도구를 선택하고 인수를 채우는 방식은 다릅니다. 실제 도구 스키마를 새 모델로 실행하고 코드에서 인수를 검증하세요.
컨텍스트 길이 및 잘림
컨텍스트 창을 변경하면 보낼 수 있는 히스토리의 양이 달라집니다. 여기서는 프롬프트와 completion을 위해 창이 100,000 토큰입니다.
오류 및 제한
제공업체는 서로 다른 제한과 코드를 사용합니다. 이 제공업체는 분당 요청에 대해 HTTP 429를 rate_limited로 반환하고, 동시에 너무 많은 요청에 대해 concurrency로 429를 반환하며, 일시적 과부하 시 Retry-After: 5와 함께 429를 반환합니다. 모든 제공업체에 대한 429 오류를 처리할 재시도 로직이 필요합니다.
동작
가장 큰 변경은 기술적이지 않습니다. 모델은 어조, 서식 습관 및 거절 패턴이 다릅니다. 데모가 아닌 실제 프롬프트로 테스트하세요.
단일 모델 엔드포인트의 적합 영역
이 서비스는 단일 오픈 웨이트 모델을 실행하는 독립 제공업체의 OpenAI 호환 텍스트 API이며, 합법적인 성인 사용에 대한 콘텐츠 거절 없이 답변하도록 조정되었습니다. OpenAI, Meta, Mistral, Qwen, DeepSeek, xAI, Google, Anthropic 또는 기타 벤더의 공식 API가 아니며 벤더 간 라우터도 아닙니다. 모델 ID는 uncensored입니다.
이 서비스는 성인용 픽션 및 역할극 도구, 동반자 앱, 장면 중간에 중단되지 않아야 하는 글쓰기 보조 도구, 여러 모델 간 선택보다 성숙한 주제에 대한 안정적인 동작이 중요한 백엔드에 적합합니다. 또한 단순 토큰당 가격과 학습에 사용되지 않는 프롬프트를 원하는 개발자에게도 적합합니다.
맞지 않는 경우
트래픽을 이동하기 전에 제한 사항을 솔직하게 인정하세요:
- 단일 모델만. 쉬운 작업에 더 작고 저렴한 모델을 선택하거나 어려운 작업에 더 큰 모델을 선택할 수 없습니다. 모델 라우팅에 의존하는 경우 다른 플랫폼이 필요합니다.
- 텍스트 전용. 이미지, 오디오 또는 비디오 생성, 임베딩 또는 파인튜닝이 없습니다. 임베딩이 필요한 검색 앱은 다른 곳에서 임베딩을 가져와야 합니다.
- 벤더의 플래그십이 아님. 준수 또는 벤치마크를 위해 특정 이름의 모델이 필요한 경우 해당 벤더를 사용하세요.
- 엄격한 제한. 미성년자가 포함된 성적 콘텐츠는 절대 허용되지 않습니다.
많은 팀이 두 엔드포인트를 실행합니다: 주요 제공업체와 첫 번째 제공업체가 거절하는 콘텐츠용 두 번째 제공업체입니다. 둘은 동일한 형식을 공유하므로 코드가 적고 구성 전환과 특정 오류에 대한 폴백만 필요합니다.
비용 비교 방법
각 제공업체의 현재 가격을 확인하고 요청 형식에 맞게 변환하세요. 이 엔드포인트의 경우 입력 비용은 100만 토큰당 $0.15, 출력 비용은 100만 토큰당 $0.50입니다. 예: 입력 3,000 토큰과 출력 500 토큰의 비용은 $0.00045 + $0.00025 = $0.0007이며, 월 10,000회 호출 시 비용은 $7입니다. 실패하거나 거부된 요청에는 요금이 부과되지 않으며, 구독이 없고 크레딧은 만료되지 않습니다.
충전은 $20부터 $500까지 암호화폐(TRC20의 USDT, Base의 USDC)로 가능하며, $50부터 +5%, $100부터 +10%, $200부터 +15% 보너스가 제공됩니다. 다양한 모델 선택 비교에 대해서는 AI 모델 및 가격 비교를 참조하세요. 가격 책정 페이지에 전체 목록이 있습니다.
두 엔드포인트를 위한 폴백 패턴
주요 제공업체가 거절하는 콘텐츠용 두 번째 엔드포인트가 필요한 경우 두 클라이언트를 모두 유지하고 요청별로 선택하세요. 이 예시는 먼저 주요 제공업체에 요청을 보내고, 정의한 거절 마커가 반환되거나 호출이 실패할 경우 두 번째 엔드포인트를 시도합니다:
import os
from openai import OpenAI
main = OpenAI(api_key=os.environ["MAIN_KEY"])
second = OpenAI(
base_url="https://api.uncensoredaimodels.com/v1",
api_key=os.environ["NEW_PROVIDER_KEY"],
)
def ask(messages, main_model, use_second_first=False):
order = [(second, "uncensored"), (main, main_model)] if use_second_first else [(main, main_model), (second, "uncensored")]
last = None
for client, model in order:
try:
r = client.chat.completions.create(model=model, messages=messages)
return r.choices[0].message.content
except Exception as err:
last = err
raise last
가능한 경우 콘텐츠 유형별로 라우팅하세요. 스토리 쓰기 기능은 use_second_first=True와 함께 두 번째 엔드포인트로 직접 이동할 수 있고, 청구 보조 도구는 주요 엔드포인트에 유지됩니다. 이는 실패한 호출에 대한 지불을 피하고 사용자에게 예측 가능한 동작을 유지합니다.
안전한 테스트 방법
모든 트래픽을 한 번에 이동하지 마세요. API 키 페이지에서 $0.50 무료 체험 크레딧을 청구하세요. 이 크레딧은 카드가 필요 없으며 7일 동안 유효합니다. 그런 다음 다음 단계를 실행하세요:
- 로그에서 실제 프롬프트 20개를 새 엔드포인트에 다시 재생하세요.
- 현재 제공업체와 답변, 토큰 수 및 실패 사례를 비교하세요.
- 429를 강제로 발생시키고 재시도가 작동하는지 확인하세요.
- 기능 플래그를 통해 생산 트래픽의 5%를 보내세요.
- 확장하기 전에
X-Balance-USD헤더 및 오류율을 며칠 동안 모니터링하세요.
문서에는 메서드가 설명되어 있으며, 검열 없는 코딩 LLM은 한 개발자의 사용 사례를 자세히 보여줍니다.
더 많은 가이드
질문과 답변
다른 제공업체와 OpenAI SDK를 사용할 수 있나요?
네, 제공자가 OpenAI 호환이면 가능합니다. 기본 URL, API 키 및 모델 이름을 새 제공자의 값으로 설정하세요.
이 서비스가 OpenAI의 API인가요?
아니요. 이는 독립적인 OpenAI 호환 엔드포인트로, 단일 오픈 웨이트 모델을 실행하며 OpenAI 또는 기타 벤더의 공식 API가 아닙니다.
스트리밍과 도구 호출을 지원하나요?
네. stream: true를 사용한 SSE를 통해 스트리밍이 작동하며, 도구 호출은 표준 tools 및 tool_calls 형식을 사용합니다.
전환 전에 무엇을 확인해야 하나요?
모델 이름, 지원되는 매개변수, 도구 호출 동작, 컨텍스트 제한, 429 오류 처리 및 무엇보다도 실제 프롬프트에 대한 모델의 응답 방식입니다.
키는 양식 하나만 작성하면 받을 수 있습니다
계정을 생성하고 키를 복사한 후 기본 URL을 변경하세요. 설정은 이것으로 끝입니다.