Alternatif untuk API OpenAI: Apa yang Berubah dalam Kode Anda
Sebagian besar alternatif API OpenAI meniru format permintaan OpenAI, yang berarti beralih sering kali hanya perubahan konfigurasi daripada penulisan ulang. Artikel ini menunjukkan tepat apa yang berubah dalam kode, apa yang bisa rusak, dan di mana endpoint OpenAI-compatible satu model adalah kecocokan yang baik dan di mana tidak.


Apa yang ditawarkan alternatif
Orang mencari alternatif api open ai karena berbagai alasan: harga, aturan konten, penanganan data, ketersediaan regional, atau keinginan untuk menggunakan model bobot terbuka. Apa pun alasannya, pengujian yang sama berlaku. Apakah alternatif menerima bentuk permintaan yang sudah Anda kirim, dan apakah alternatif mengembalikan bentuk respons yang sudah dibaca kode Anda?
Jika ya, panggilan SDK Anda tidak berubah. Jika tidak, Anda menulis adapter sekali, yang juga baik, tetapi itu adalah biaya utama untuk beralih. Sisa artikel ini mengasumsikan kasus pertama, endpoint yang kompatibel dengan OpenAI.
Perubahan tiga baris
Dengan paket Python resmi, pengaturan asli memiliki host default dan kunci API OpenAI. Untuk alternatif, Anda mengatur tiga hal: base_url, kunci dari penyedia baru, dan nama model. Berikut versi yang sudah selesai untuk endpoint ini:
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.uncensoredaimodels.com/v1", # was the default host
api_key=os.environ["NEW_PROVIDER_KEY"], # was your OpenAI key
)
r = client.chat.completions.create(
model="uncensored", # was an OpenAI model name
messages=[{"role": "user", "content": "Pitch me a plot twist for a mystery."}],
)
print(r.choices[0].message.content)
Hal yang sama berlaku di Node dengan meneruskan baseURL ke konstruktor, di wrapper gaya LangChain melalui opsi URL dasar mereka, dan di alat yang memiliki bidang endpoint kustom. Di curl Anda mengubah host dan header:
curl https://api.uncensoredaimodels.com/v1/chat/completions \
-H "Authorization: Bearer $NEW_PROVIDER_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"ping"}]}'Apa yang dapat rusak setelah beralih
Nama model
ID model milik penyedia. Apa pun yang mengunci nama model OpenAI secara hard-code perlu diperbarui. Masukkan nama ke dalam konfigurasi.
Parameter
Opsi inti seperti temperature, top_p, stop dan max_tokens diteruskan. Lainnya, seperti logprobs atau opsi response-format tertentu, bergantung pada penyedia. Di endpoint ini temperature, top_p, stop, seed dan penalti diteruskan, dan mode JSON bekerja dengan response_format: {"type":"json_object"}.
Kualitas pemanggilan fungsi
Format transmisi bersifat bersama, tetapi kemampuan model dalam memilih alat dan mengisi argumen berbeda. Jalankan skema alat asli Anda melalui model baru, dan validasi argumen dalam kode Anda.
Panjang konteks dan pemotongan
Perubahan jendela konteks mengubah jumlah riwayat yang dapat Anda kirim. Di sini, jendela tersebut adalah 100.000 token untuk prompt ditambah hasil.
Error dan batas
Penyedia menggunakan batas dan kode yang berbeda. Yang ini mengembalikan HTTP 429 dengan rate_limited untuk permintaan per menit dan concurrency untuk terlalu banyak sekaligus, serta 429 dengan Retry-After: 5 saat kelebihan beban sementara. Logika coba ulang Anda harus menangani 429 untuk penyedia mana pun.
Perilaku
Perubahan terbesar bukan teknis. Model berbeda dalam nada, kebiasaan pemformatan, dan apa yang mereka tolak. Uji dengan prompt nyata Anda, bukan yang demo.
Di mana endpoint satu model cocok
Layanan ini adalah API teks OpenAI-compatible dengan satu model bobot terbuka, dijalankan oleh penyedia independen dan disesuaikan untuk menjawab tanpa penolakan konten untuk penggunaan dewasa yang sah. Ini bukan API resmi dari OpenAI, Meta, Mistral, Qwen, DeepSeek, xAI, Google, Anthropic atau vendor lain, dan ini bukan router lintas vendor. ID modelnya adalah uncensored.
Ini cocok untuk tugas-tugas berikut: alat fiksi dan roleplay untuk dewasa, aplikasi teman, asisten penulisan yang tidak boleh berhenti di tengah adegan, dan backend di mana perilaku stabil pada tema dewasa lebih penting daripada memilih di antara banyak model. Ini juga cocok untuk pengembang yang menginginkan harga per token sederhana dan prompt yang tidak digunakan untuk pelatihan.
Di mana hal ini tidak cocok
Jujur tentang batasnya sebelum Anda mengalihkan lalu lintas:
- Hanya satu model. Anda tidak dapat memilih model yang lebih kecil dan lebih murah untuk tugas mudah atau yang lebih besar untuk tugas sulit. Jika Anda mengandalkan routing model, Anda memerlukan platform lain.
- Hanya teks. Tidak ada pembuatan gambar, audio, atau video, tidak ada embedding, dan tidak ada penyesuaian halus. Aplikasi retrieval yang memerlukan embedding harus mendapatkannya dari tempat lain.
- Bukan produk unggulan vendor. Jika Anda membutuhkan model bernama spesifik untuk kepatuhan atau benchmark, gunakan vendor tersebut.
- Batas keras. Tidak ada konten seksual yang melibatkan anak di bawah umur, selamanya.
Banyak tim menjalankan dua endpoint: penyedia utama dan kedua untuk konten yang ditolak oleh yang pertama. Karena keduanya berbagi format yang sama, itu adalah sejumlah kecil kode, sakelar konfigurasi, dan fallback pada kesalahan tertentu.
Biaya: cara membandingkan
Periksa harga saat ini setiap penyedia dan konversi ke bentuk permintaan Anda. Untuk endpoint ini, biaya input adalah $0,15 per 1 juta token dan output $0,50 per 1 juta. Contoh: 3.000 token input dan 500 token output berharga $0,00045 + $0,00025 = $0,0007 per panggilan, jadi 10.000 panggilan sebulan berharga $7. Permintaan yang gagal atau ditolak tidak dikenakan biaya, tidak ada langganan, dan saldo tidak pernah kedaluwarsa.
Isi saldo berjalan dari $20 hingga $500, dengan kripto (USDT di TRC20, USDC di Base), dengan bonus +5% dari $50, +10% dari $100 dan +15% dari $200. Untuk tabel bagaimana pilihan model yang berbeda bertumpuk, lihat membandingkan model AI dan harga. Halaman harga memiliki daftar lengkap.
Pola fallback untuk dua endpoint
Jika Anda ingin endpoint kedua untuk konten yang ditolak oleh penyedia utama Anda, simpan kedua klien dan pilih per permintaan. Sketsa ini mengirim permintaan ke penyedia utama terlebih dahulu dan mencoba yang kedua ketika jawabannya adalah penanda penolakan yang Anda tentukan, atau ketika panggilan gagal:
import os
from openai import OpenAI
main = OpenAI(api_key=os.environ["MAIN_KEY"])
second = OpenAI(
base_url="https://api.uncensoredaimodels.com/v1",
api_key=os.environ["NEW_PROVIDER_KEY"],
)
def ask(messages, main_model, use_second_first=False):
order = [(second, "uncensored"), (main, main_model)] if use_second_first else [(main, main_model), (second, "uncensored")]
last = None
for client, model in order:
try:
r = client.chat.completions.create(model=model, messages=messages)
return r.choices[0].message.content
except Exception as err:
last = err
raise last
Rute berdasarkan jenis konten jika memungkinkan. Fitur penulisan cerita dapat langsung ke endpoint kedua dengan use_second_first=True, sementara asisten penagihan tetap di yang utama. Itu menghindari membayar untuk panggilan gagal terlebih dahulu dan menjaga perilaku dapat diprediksi bagi pengguna.
Cara aman untuk menguji
Jangan pindahkan semua lalu lintas sekaligus. Klaim uji coba $0,50 di halaman kunci API, yang tidak memerlukan kartu dan berlangsung 7 hari, lalu jalankan langkah-langkah ini:
- Putar ulang 20 prompt nyata dari log Anda ke endpoint baru.
- Bandingkan jawaban, hitungan token, dan kegagalan dengan penyedia Anda saat ini.
- Paksa 429 dan konfirmasi retry Anda berhasil.
- Kirimkan 5% lalu lintas produksi melalui bendera fitur.
- Pantau header
X-Balance-USDdan tingkat error Anda selama beberapa hari sebelum memperlebar.
dokumentasi mencakup metode, dan LLM pemrograman tanpa sensor menunjukkan satu penggunaan pengembang secara rinci.
Panduan lainnya
Tanya jawab
Bisakah saya menggunakan SDK OpenAI dengan penyedia lain?
Ya, jika penyedia tersebut kompatibel dengan OpenAI. Atur base URL, kunci, dan nama model sesuai dengan nilai penyedia baru.
Apakah layanan ini API OpenAI?
Tidak. Ini adalah endpoint independen yang kompatibel dengan OpenAI yang menjalankan satu model bobot terbuka, dan bukan API resmi dari OpenAI atau vendor lain.
Apakah mendukung streaming dan alat?
Ya. Streaming bekerja melalui SSE dengan stream: true, dan pemanggilan fungsi menggunakan format tools dan tool_calls standar.
Apa yang harus saya periksa sebelum beralih?
Nama model, parameter yang didukung, perilaku pemanggilan fungsi, batas konteks, penanganan kesalahan untuk 429, dan di atas semua itu, bagaimana model menjawab prompt nyata Anda.
Kunci Anda hanya selangkah lagi dari satu formulir
Buat akun, salin kunci, ubah URL dasar. Itu saja seluruh proses pengaturannya.