TR ▾
API anahtarı al

AI Modelleri ve Fiyatlandırma Karşılaştırması: Bulut, Yerel, Bu API

AI modelleri ve fiyatlandırmayı adil şekilde karşılaştırmak için bir fiyat listesinden ziyade kendi token sayılarınıza ihtiyacınız vardır. Bu makale size formülü, karşılaştırılmaya değer dört seçeneği ve bu API'nin hangi durumlarda yanlış bir tercih olduğunu dürüstçe anlatır.

güncellendi

Merkezi bir bakiyeye bağlı bulut, ağ merkezi, GPU kutusu ve küp içeren dört platform, model seçeneklerini karşılaştırmak için

Bir modeli elde etmenin dört yolu ve her birinin size maliyeti

Çoğu karşılaştırma birbirine benzemeyen şeyleri karıştırır. Bir model, bir sağlayıcı ve bir faturalandırma şeması üç ayrı seçenektir. Bir uygulamada metin üretimi için dört gerçekçi yol vardır ve her birinin kendi maliyet yapısı vardır.

  1. Kapanık bir satıcının kendi API'si. O satıcının amiral gemisi modellerini, özellik setini ve kullanım politikasını alırsınız. Fiyat token başına belirlenir ve değişir, bu yüzden bir blog yazısına, bu yazı dahil olmak üzere, güvenmek yerine mevcut fiyatlarını kontrol edin.
  2. Bir yönlendirici veya pazar yeri. Bir hesap, birçok satıcıdan birçok model. Denemeler için uygundur; temel fiyatın üzerine bir kar payı veya ücret katmanı eklenir, hizmete bağlı olarak.
  3. Açık ağırlıklı bir modeli kendi başınıza çalıştırmak. Token başına ücret yok. GPU'lara veya uygun bir iş istasyonuna, elektriğe, kurulum süresine ve bakıma ödeme yaparsınız; işlem kapasiteniz donanımın size verebileceği kadardır.
  4. Dar bir iş için hosted açık ağırlıklı API. Site şudur: bağımsız bir sağlayıcı tarafından çalıştırılan, yasal yetişkin kullanımı için sansürsüz yanıt verecek şekilde ayarlanmış tek bir açık ağırlıklı model; OpenAI uyumlu bir uç nokta arkasında sunulur. Meta, Mistral, Qwen, DeepSeek, OpenAI, xAI, Google veya Anthropic'in resmi API'si değildir ve bir yönlendirici değildir.

Bu makalenin geri kalanı, herhangi bir pazarlama sayfasına güvenmeden her yol için maliyetleri sayısal olarak belirlemenize olanak tanır.

Bu API'nin sundukları, doğrulanabilir gerçekler

Başlarken doğrulayabileceğiniz taraftan başlayın. Buradaki her şey fiyatlandırma sayfasında ve dokümantasyonda yayınlanmıştır.

ÖğeBu API
Model kimliğiuncensored (tek model)
Uç noktalarPOST /v1/chat/completions, GET /v1/models
UyumlulukBase URL ve anahtarı değiştirerek OpenAI SDK'ları ve istemcileri
Bağlam penceresi100.000 token, istem ve tamamlama birlikte
Giriş fiyatı1M token başına $0,15
Çıkış fiyatı1M token başına $0,50
FaturalandırmaÖn ödemeli kredi, abonelik yok, süresi dolmaz, başarısız veya reddedilen istekler için ücret alınmaz
ÖzelliklerAkış, araç çağırma, JSON modu, seed ve örnekleme kontrolleri
LimitlerTam anahtar: 8 eşzamanlı, dakika başına 300 istek. Deneme anahtarı: 2 eşzamanlı, dakika başına 60
Teklif edilmiyorGörüntüler, ses, video, gömme işlemleri, ince ayar

Diğer yollar için aynı tabloyu şablon olarak kullanın. Rekabet eden bir servisin dokümantasyonundan bir satırı dolduramıyorsanız, bunu bir bulgu olarak değerlendirin. Eşzamanlılık ve hız kısıtları özellikle pazarlama sayfalarında sıklıkla eksiktir ve toplu işler için belirleyicidir.

Maliyet formülü, kesin örneklerle

Aylık maliyet, giriş tokenlarının bir milyona bölünmüş hali ile giriş oranının çarpımı, artı çıkış tokenlarının bir milyona bölünmüş hali ile çıkış oranının çarpımıdır. Burada başka hiçbir şey gizli değildir. $0.15 ve $0.50 için üç örnek:

  • Küçük araç. Ayda 2M giriş ve 0.5M çıkış token: 2 x $0.15 = $0.30, artı 0.5 x $0.50 = $0.25, toplam $0.55.
  • Yoğun ürün. 50M giriş ve 10M çıkış: 50 x $0.15 = $7.50, artı 10 x $0.50 = $5.00, toplam $12.50.
  • Çıktı ağırlıklı yazma uygulaması. 5M giriş ve 5M çıkış: 5 x $0.15 = $0.75, artı 5 x $0.50 = $2.50, toplam $3.25.

Üçüncü satır, giriş-çıkış oranının neden önemli olduğunu gösterir. Eşit hacimlerde, çıktı burada girdiden üç kattan fazla pahalıdır, bu nedenle kısa istemlerden uzun yanıtlar yazan bir kullanım durumu, uzun belgeleri okuyup kısa yanıt veren bir durumdan farklı davranır. Herhangi iki hizmeti karşılaştırırken, her iki oranı da her iki fiyat listesinden geçirin.

Diğer seçenekler için aynı soruyu sorun. Kapanık bir satıcı veya yönlendirici için mevcut token başına oranlarını alın ve aynı üç senaryoyu çalıştırın. Yerel bir çalışma için, aylık donanım maliyetini, elektriği ve bakım için harcadığınız zamanı, ayda ürettiği tokenlara bölün. Boşta kalan GPU'lar yerel çalıştırmayı token başına pahalı gösterir, tam yüklenen bir sistem çok ucuz görünebilir. Hangisini alacağınız yükünüze bağlıdır, bu yüzden ölçün.

Kendi istemlerinizle ölçün

Yayınlanan fiyatlar size oranı söyler, token sayılarınız hakkında bir şey söylemez. Farklı modeller farklı tokenizasyon yapar ve detaylı modeller aynı soru için daha uzun yanıtlar yazar. En adil karşılaştırma, gerçek istemlerinizi çalıştırmak ve gelen yanıtları loglamaktır. Bu betik bunu bu API için yapar; aynı sayıları almak için base URL ve modeli başka bir hizmete yönlendirin.

import os, time
from openai import OpenAI

client = OpenAI(
    base_url="https://api.uncensoredaimodels.com/v1",
    api_key=os.environ["UNCENSORED_KEY"],
)

IN_PER_M, OUT_PER_M = 0.15, 0.50   # dollars per 1M tokens

def cost(prompt_tokens, completion_tokens):
    return prompt_tokens / 1e6 * IN_PER_M + completion_tokens / 1e6 * OUT_PER_M

def trial(prompt):
    t0 = time.time()
    r = client.chat.completions.create(
        model="uncensored",
        messages=[{"role": "user", "content": prompt}],
        max_tokens=500,
    )
    u = r.usage
    return {
        "seconds": round(time.time() - t0, 2),
        "in": u.prompt_tokens,
        "out": u.completion_tokens,
        "dollars": round(cost(u.prompt_tokens, u.completion_tokens), 6),
        "text": r.choices[0].message.content,
    }

for p in open("my_real_prompts.txt").read().split("\n---\n"):
    print(trial(p))

my_real_prompts.txt dosyasına üç tire içeren bir satırla ayrılmış şekilde 20 ile 50 gerçek istem yerleştirin. Çıktıyı kendiniz inceleyin. Bir istek başına maliyet, yanıtların beklentilerinizi karşılıyorsa anlamlıdır; bir görev için iki deneme gerektiren daha ucuz model daha ucuz değildir. Bunu yapmak için bir deneme anahtarı yeterlidir: yeni kullanıcılar API anahtarı sayfası üzerinde tek tıkla $0.50 kredi elde edebilir; bu kredi 7 gün boyunca geçerlidir ve kart gerekmez. Deneme anahtarının 2 eşzamanlı istek ve dakikada 60 istek ile sınırlı olduğunu unutmayın, bu nedenle betiği sıralı olarak çalıştırın.

Kapanık önde gelen API'nin daha iyi bir seçim olduğu durumlar

Herhangi bir şey harcamadan önce bunu netleştirin. Göreviniz mevcut en güçlü genel muhakeme, görsel girdi, ses, arama için gömme vektörleri veya bir satıcının ince ayar hizmetine bağlıysa, kapanık bir satıcının API'si doğru araçtır ve bu API yerini tutamaz. Bu API'nin tek bir metin modeli vardır. Görsel veya ses üretmez veya okumaz, gömme vektörü üretmez ve ince ayar yapmaz.

Bu durum politika için de geçerlidir. Kapanık satıcılar kendi içerik kurallarını uygular ve müşteri destek botu veya çocuklar için eğitim aracı için bu kurallar bir özelliktir. Reddetmeler olmadan yanıt verecek şekilde ayarlanmış bir API, sınır durumlarında modelin direnmesini istediğiniz bir ürün için uygun değildir. Üzerine kendi filtrelemenizi ekleyebilirsiniz, ancak reddetmeler istiyorsanız, bu etrafında inşa edilmiş bir hizmet seçin.

Son olarak, kurumsal ihtiyaçları kontrol edin. İmzalı veri işleme anlaşması, bölge garantileri veya çalışma süresi taahhütleri gerekiyorsa, her sağlayıcıdan bunları yazılı olarak isteyin. Site yukarıda listelenen gerçekleri ve bunların ötesinde bir şey yayınlamaz.

Yerel çalıştırmanın kazandığı durumlar

Veri asla donanımınızdan çıkmıyorsa, çevrimdışı çalışma gerektiğinde, hacminiz GPU'yu meşgul edecek kadar yüksek ve istikrarlı olduğunda veya model dosyaları ve örnekleme üzerinde tam kontrol istediğinizde yerel çalışma doğru cevaptır. İstediğiniz herhangi bir açık ağırlıklı modeli seçebilir ve istediğiniz zaman değiştirebilirsiniz.

Bu kontrolün gerçek bir maliyeti vardır. Sürücüleri, sunum yazılımını, nicemleme (quantisation) seçimlerini, bellek sınırlarını ve güncellemeleri siz yönetirsiniz. Uzun bağlamlar bellekte pahalıdır, bu nedenle bir API'de tek bir parametre olan 100.000 tokenlık bir pencere yerelde bir donanım projesi olabilir. Bir prototip veya trafiği dalgalı gelen bir uygulama için bir API genellikle daha erken çalışan bir ürüne ulaşmanızı sağlar. Kodlama tarafındaki mühendislik ödünleşimleri hakkında bir fikir edinmek istiyorsanız, sansürsüz bir kodlama LLM'si için üretim kontrol listesi bunları ele alır.

Bu API'nin nereye uyduğu ve nasıl başlanacağı

OpenAI-uyumlu bir uç nokta, yasal yetişkin isteklerini reddetmeyen bir model, aboneliği olmayan ön ödemeli faturalandırma ve net limitler istediğinizde uyum sağlar. Tipik işler kurgu ve rol yapma arka uçları, yetişkinler için arkadaş uygulamaları, red-test ve yazma araçları ve başka yerlerde reddiye ile başarısız olan ajan döngüleridir. Reşit olmayanlar içeren cinsel içerik katı bir sınırdır. İstemler eğitim için kullanılmaz.

Mevcut bir istemciyi değiştirmek iki satır sürer: base URL'yi https://api.uncensoredaimodels.com/v1 olarak değiştirin ve modeli uncensored olarak değiştirin. Toplam tutarlar $20 ile $500 arasındadır ve $50'den +%5, $100'den +%10 ve $200'den +%15 bonuslar sunar; kripto (TRC20 üzerinde USDT, Base üzerinde USDC) ile ödenebilir. Kredi asla sona ermez, bu nedenle $20'lik ilk bakiye yükleme, yukarıdaki ölçüm betiğini gerçek hacimle çalıştırmak için düşük riskli bir yoldur. hızlı başlangıç tam istek formatını içerir.

01

Sorular ve cevaplar

AI model fiyatlarını doğru şekilde nasıl karşılaştırırım?

Giriş ve çıkış oranlarını toplayın, ardından her birini kendi aylık token hacimlerinize çarpın ve toplayın. Gerçek token sayılarını almak için her hizmeti gerçek istemlerle çalıştırın, çünkü modeller sözlülük ve tokenizasyon açısından farklılık gösterir.

Barındırılan bir API, bir modeli yerelde çalıştırmaktan daha ucuz mudur?

Düşük veya dalgalı trafik için genellikle evet, çünkü sadece kullanılan tokenlar için ödeme yaparsınız. GPU'yu meşgul edecek yüksek, istikrarlı yük için yerel token başına daha ucuz olabilir. Yerel maliyete donanım, enerji ve kendi zamanınızı dahil edin.

Bu API birkaç model sunuyor mu?

Hayır. Tek bir modeli, ID'si uncensored olanı ortaya çıkarır. Satıcılar arasında bir yönlendirici (router) değildir ve herhangi bir satıcının resmi API'si değildir.

Burada 1M token için giriş ve çıkışın maliyeti nedir?

Giriş 1M token başına $0.15, çıkış ise 1M token başına $0,50'dir. Faturalandırma ön ödemeli krediden yapılır; başarısız veya reddedilen istekler için ücret alınmaz.

Anahtarınız tek bir formu doldurarak elde edilebilir

Bir hesap oluşturun, anahtarı kopyalayın ve base URL'yi değiştirin. Kurulum bu kadar basit.

API anahtarı al