TR ▾
API anahtarı al

OpenAI API Alternatifleri: Kodunuzda Ne Değişir

Çoğu OpenAI API alternatifi OpenAI istek formatını kopyalar, bu da geçişin genellikle bir yapılandırma değişikliği olduğunu ve yeniden yazma gerektirmediği anlamına gelir. Bu makale, kodda tam olarak neyin değiştiğini, neyin bozulabileceğini ve tek modelli, OpenAI uyumlu bir uç noktanın nerede iyi bir uyum sağladığını ve nerede sağlamadığını gösterir.

güncellendi

Değiştirilebilir API uç noktalarını gösteren tek bir standart konektör portuna takılan çeşitli renkli kablolar
Merkezi bir bakiyeye bağlı dört bulut, ağ merkezi, GPU kutusu ve küp içeren dört platform, model seçeneklerini karşılaştırmak için

Bir alternatifi neler sunmalı

İnsanlar farklı nedenlerle OpenAI API alternatifleri arar: fiyat, içerik kuralları, veri işleme, bölgesel erişilebilirlik veya açık ağırlıklı modelleri kullanma isteği. Her ne nedenle olursa olsun, aynı test geçerlidir. Alternatif, zaten gönderdiğiniz istek şeklini kabul ediyor mu ve kodunuzun zaten okuduğu yanıt şeklini döndürüyor mu?

Evet ise, SDK çağrılarınız değişmez. Hayırsa, bir adaptör yazarsınız ki bu da kabul edilebilir, ancak bu geçişin ana maliyetidir. Bu makalenin geri kalanı ilk durumu, bir OpenAI uyumlu uç nokta varsayarak ele alır.

Üç satırlık değişiklik

Resmi Python paketiyle, orijinal yapılandırmada varsayılan ana bilgisayar ve bir OpenAI anahtarı bulunur. Alternatif için üç şeyi ayarlarsınız: base_url, yeni sağlayıcıdan gelen anahtar ve model adı. Bu uç nokta için tamamlanmış sürüm şudur:

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.uncensoredaimodels.com/v1",  # was the default host
    api_key=os.environ["NEW_PROVIDER_KEY"],            # was your OpenAI key
)

r = client.chat.completions.create(
    model="uncensored",                                 # was an OpenAI model name
    messages=[{"role": "user", "content": "Pitch me a plot twist for a mystery."}],
)
print(r.choices[0].message.content)

Aynı şey, baseURL'i yapıcıya geçirerek Node.js'te, LangChain tarzı sarmalayıcılarda temel URL seçeneği aracılığıyla ve özel uç nokta alanı olan araçlarla çalışır. curl'da ana hostu ve başlığı değiştirirsiniz:

curl https://api.uncensoredaimodels.com/v1/chat/completions \
  -H "Authorization: Bearer $NEW_PROVIDER_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"ping"}]}'

Geçişten sonra ne bozulabilir

Model adları

Model kimlikleri sağlayıcıya aittir. Bir OpenAI model adını sabit kodlayan her şey güncellenmelidir. Adı yapılandırmaya koyun.

Parametreler

Sıcaklık, top_p, stop ve max_tokens gibi temel seçenekler aktarılır. logprobs veya belirli response-format seçenekleri gibi diğerleri sağlayıcıya bağlıdır. Bu uç noktada sıcaklık, top_p, stop, seed ve cezalar aktarılır ve JSON modu response_format: {"type":"json_object"} ile çalışır.

Fonksiyon çağırma kalitesi

Hat formatı paylaşılsa da, bir modelin araçları seçme ve argümanları doldurma biçimi farklılık gösterir. Gerçek araç şemalarınızı yeni model üzerinden çalıştırın ve argümanları kodunuzda doğrulayın.

Bağlam uzunluğu ve kırpma

Bağlam penceresinin değişimi, gönderebileceğiniz geçmiş miktarını değiştirir. Burada pencere, istem ve tamamlama için 100.000 token'dır.

Hatalar ve limitler

Sağlayıcılar farklı limitler ve kodlar kullanır. Bu uç nokta, dakika başına istekler için rate_limited ve aynı anda çok fazla istek için concurrency ile HTTP 429 döndürür ve geçici aşırı yüklenme durumunda Retry-After: 5 ile 429 döndürür. Geri deneme mantığınız, herhangi bir sağlayıcı için 429'u ele almalıdır.

Davranış

En büyük değişiklik teknik değildir. Modeller ton, biçimlendirme alışkanlıkları ve reddedme davranışları açısından farklılık gösterir. Demo istemlerle değil, gerçek istemlerle test edin.

Tek modelli uç noktanın uygun olduğu yerler

Bu hizmet, bağımsız bir sağlayıcı tarafından işletilen ve yasal yetişkin kullanım için içerik reddi olmadan yanıt verecek şekilde ayarlanmış tek bir açık ağırlıklı modele sahip OpenAI uyumlu bir metin API'sidir. OpenAI, Meta, Mistral, Qwen, DeepSeek, xAI, Google, Anthropic veya başka herhangi bir satıcının resmi API'si değildir ve satıcılar arasında bir yönlendirici değildir. Model kimliği uncensored'dir.

Bunlar için iyi bir şekilde uyar: Yetişkinler için kurgu ve rol yapma araçları, arkadaş uygulamaları, sahne ortasında durmaması gereken yazma asistanları ve olgun temalardaki tutarlı davranışın, birden fazla model arasından seçim yapmaktan daha önemli olduğu arka uçlar. Ayrıca basit token başına fiyat ve eğitim için kullanılmayan istemler arayan geliştiriciler için de uygundur.

Uymadığı durumlar

Trafığı yönlendirmeden önce sınırlamalar konusunda dürüst olun:

  • Yalnızca bir model. Kolay görevler için daha küçük, daha ucuz bir model veya zor görevler için daha büyük bir model seçemezsiniz. Model yönlendirmesine güveniyorsanız, farklı bir platforma ihtiyacınız vardır.
  • Yalnızca metin. Resim, ses veya video oluşturma yok, embedding ve ince ayar yok. Embedding gerektiren bir bilgi erişim uygulaması, bunları başka yerlerden almalıdır.
  • Bir satıcının amiral gemisi değil. Uyumluluk veya benchmark'lar için belirli bir adlı modele ihtiyacınız varsa, o satıcıyı kullanın.
  • Sert limit. Reşit olmayanların yer aldığı cinsel içerik asla yoktur.

Çoğu ekip iki uç nokta çalıştırır: birincisi ana sağlayıcı, ikincisi ise birincisinin reddettiği içerikler için. Her ikisi de aynı formatı paylaştığından, bu küçük bir kod miktarı, bir yapılandırma seçeneği ve belirli hatalarda bir geri dönüş anlamına gelir.

Maliyet: nasıl karşılaştırılır

Her sağlayıcının güncel fiyatlandırmasını kontrol edin ve istek şeklinize dönüştürün. Bu uç nokta için, girdi maliyetleri token başına 1M için $0,15 ve çıktı için $0,50'dir. Örnek: 3.000 girdi ve 500 çıktı token'ı $0,00045 + $0,00025 = $0,0007 maliyetine sahiptir, bu da ayda 10.000 çağrı için $7'e mal olur. Başarısız veya reddedilen istekler için ücret alınmaz, abonelik yoktur ve kredi süresi dolmaz.

Yüklemeler $20 ile $500 arasında değişir; kripto (TRC20 üzerinde USDT, Base üzerinde USDC) ile yapılır; $50'den itibaren +%5, $100'den itibaren +%10 ve $200'den itibaren +%15 bonus sunar. Farklı model seçeneklerinin nasıl karşılaştırıldığını görmek için AI modelleri ve fiyatlandırma karşılaştırması sayfasına bakın. Fiyatlandırma sayfası tam listeyi içerir.

İki uç nokta için bir geri dönüş deseni

Ana sağlayıcınızın reddettiği içerikler için ikinci bir uç nokta istiyorsanız, her iki istemciyi de tutun ve istek başına seçim yapın. Bu taslak, isteği önce ana sağlayıcıya gönderir ve yanıt, tanımladığınız bir reddetme bayrağıysa veya bir çağrı başarısız olursa ikinci sağlayıcıyı dener:

import os
from openai import OpenAI

main = OpenAI(api_key=os.environ["MAIN_KEY"])
second = OpenAI(
    base_url="https://api.uncensoredaimodels.com/v1",
    api_key=os.environ["NEW_PROVIDER_KEY"],
)

def ask(messages, main_model, use_second_first=False):
    order = [(second, "uncensored"), (main, main_model)] if use_second_first else [(main, main_model), (second, "uncensored")]
    last = None
    for client, model in order:
        try:
            r = client.chat.completions.create(model=model, messages=messages)
            return r.choices[0].message.content
        except Exception as err:
            last = err
    raise last

Mümkün olduğunda içeriğe göre yönlendirme yapın. Bir hikaye yazma özelliği, use_second_first=True ile doğrudan ikinci uç noktaya gidebilir, bir faturalandırma asistanı ise ana uç noktada kalır. Bu, başarısız bir çağrı için önce ödeme yapmaktan kaçınır ve kullanıcılar için davranışı öngörülebilir kılar.

Güvenli bir test yöntemi

Tüm trafiği aynı anda taşımayın. API anahtarı sayfası üzerinde $0,50 deneme kredisi talep edin; bu işlem için kart gerekmez ve 7 gün sürer, ardından bu adımları çalıştırın:

  1. Günlüklerinizden 20 gerçek istemi yeni uç noktada yeniden oynatın.
  2. Yanıtları, token sayılarını ve hataları mevcut sağlayıcınızla karşılaştırın.
  3. Bir 429 zorlayın ve yeniden denemenizin çalıştığını onaylayın.
  4. Üretim trafiğinin %5'ini bir özellik bayrağı aracılığıyla gönderin.
  5. Genişletmeden önce X-Balance-USD başlığını ve hata oranınızı birkaç gün boyunca izleyin.

Belgeler yöntemleri kapsar ve sansürsüz kodlama LLM bir geliştiricinin detaylı kullanımını gösterir.

01

Sorular ve cevaplar

Başka bir sağlayıcıyla OpenAI SDK'sını kullanabilir miyim?

Evet, sağlayıcı OpenAI-uyumluysa. Base URL'yi, anahtarı ve model adını yeni sağlayıcının değerlerine ayarlayın.

Bu hizmet OpenAI'nin API'si mi?

Hayır. Bağımsız bir OpenAI-uyumlu uç noktadır, açık ağırlıklı bir model çalıştırır ve OpenAI'nin veya başka bir satıcının resmi API'si değildir.

Akış desteği ve araçları destekliyor mu?

Evet. Akış, stream: true ile SSE üzerinden çalışır ve fonksiyon çağırma standart araçları ve tool_calls biçimini kullanır.

Geçiş yapmadan önce neyi kontrol etmeliyim?

Model adları, desteklenen parametreler, araç çağırma davranışı, bağlam sınırları, 429 hataları için hata yönetimi ve en önemlisi, modelin gerçek istemlerinize nasıl yanıt verdiğidir.

Anahtarınız tek bir formun uzağında

Bir hesap oluşturun, anahtarı kopyalayın ve base URL'yi değiştirin. Bütün kurulum budur.

API anahtarı al