HI ▾
API कुंजी पाएँ

OpenAI API विकल्प: आपके कोड में क्या बदलाव

अधिकांश OpenAI API विकल्प OpenAI अनुरूप प्रारूप की नकल करते हैं, जिसका अर्थ है कि स्विच अक्सर एक कॉन्फ़िगरेशन बदलाव होता है, पुनर्लेखन नहीं। यह लेख ठीक बताता है कि कोड में क्या बदलाव आते हैं, क्या टूट सकता है, और एकल-मॉडल, OpenAI-संगत एंडपॉइंट कहाँ अच्छा फिट है और कहाँ नहीं।

अपडेट किया गया

एक मानक कनेक्टर पोर्ट में कई रंगीन केबल जुड़ी हुई हैं, जो अदला-बदली योग्य API एंडपॉइंट दिखाती हैं
तुलना के लिए मॉडल विकल्पों के लिए एक केंद्रीय बैलेंस से जुड़े क्लाउड, नेटवर्क हब, GPU बॉक्स और क्यूब वाले चार प्लेटफ़ॉर्म

किसी अन्य विकल्प में क्या सुविधाएँ हैं

लोग विभिन्न कारणों से OpenAI API विकल्प खोजते हैं: कीमत, सामग्री नियम, डेटा हैंडलिंग, क्षेत्रीय उपलब्धता, या ओपन-वेट मॉडल का उपयोग करने की इच्छा। चाहे कारण कुछ भी हो, वही परीक्षण लागू होता है। क्या यह विकल्प उसी अनुरोध आकार को स्वीकार करता है जिसे आप पहले भेजते थे, और क्या यह उसी प्रतिक्रिया आकार को लौटाता है जिसे आपका कोड पढ़ता है?

यदि हाँ, तो आपकी SDK कॉल्स में कोई बदलाव नहीं होगा। यदि नहीं, तो आपको एक बार एडाप्टर लिखना होगा, जो कि ठीक है, लेकिन यह बदलाव का मुख्य खर्च है। इस लेख का शेष भाग पहले मामले, एक OpenAI-संगत एंडपॉइंट को मानकर लिखा गया है।

तीन-पंक्ति का बदलाव

आधिकारिक Python पैकेज के साथ, मूल सेटअप में डिफ़ॉल्ट होस्ट और एक OpenAI कुंजी होती है। किसी अन्य विकल्प के लिए आपको तीन चीज़ें सेट करनी होती हैं: base_url, नए प्रदाता से कुंजी, और मॉडल का नाम। यहाँ इस एंडपॉइंट के लिए पूर्ण संस्करण है:

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.uncensoredaimodels.com/v1",  # was the default host
    api_key=os.environ["NEW_PROVIDER_KEY"],            # was your OpenAI key
)

r = client.chat.completions.create(
    model="uncensored",                                 # was an OpenAI model name
    messages=[{"role": "user", "content": "Pitch me a plot twist for a mystery."}],
)
print(r.choices[0].message.content)

Node.js में यह baseURL को कंस्ट्रक्टर में पास करके काम करता है, LangChain-शैली वाले वापर्स में उनके base URL विकल्प के माध्यम से, और उन टूल्स में जिनमें कस्टम एंडपॉइंट फ़ील्ड होती है। curl में आपको होस्ट और हेडर बदलने होते हैं:

curl https://api.uncensoredaimodels.com/v1/chat/completions \
  -H "Authorization: Bearer $NEW_PROVIDER_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"ping"}]}'

बदलाव के बाद क्या टूट सकता है

मॉडल नाम

मॉडल IDs प्रदाता की होती हैं। किसी भी OpenAI मॉडल नाम को हार्ड-कोड करने वाले कोड को अपडेट करने की आवश्यकता है। नाम कॉन्फ़िगरेशन में रखें।

पैरामीटर

तापमान, top_p, stop और max_tokens जैसे कोर विकल्प वैसे ही काम करते हैं। अन्य, जैसे logprobs या कुछ response-format विकल्प, प्रदाता पर निर्भर करते हैं। इस एंडपॉइंट पर temperature, top_p, stop, seed और पेनल्टी पास की जाती हैं, और JSON मोड response_format: {"type":"json_object"} के साथ काम करता है।

टूल कॉलिंग की गुणवत्ता

वायर फ़ॉर्मेट साझा है, लेकिन मॉडल टूल्स को कैसे चुनता है और तर्क कैसे भरा जाता है, इसमें अंतर होता है। अपने वास्तविक टूल स्कीमा को नए मॉडल पर चलाएँ, और अपने कोड में तर्कों की जाँच करें।

कॉन्टेक्स्ट लंबाई और ट्रंकेशन

संदर्भ विंडो में बदलाव से आपको भेजने के लिए इतिहास की मात्रा बदल जाती है। यहाँ विंडो प्रॉम्प्ट और पूर्णता के लिए 100,000 टोकन की है।

त्रुटियाँ और सीमाएँ

प्रदाता अलग-अलग सीमाएँ और कोड का उपयोग करते हैं। यह एंडपॉइंट प्रति मिनट अनुरोधों के लिए rate_limited के साथ HTTP 429 लौटाता है, एक साथ बहुत अधिक अनुरोधों के लिए concurrency, और अस्थायी ओवरलोड पर Retry-After: 5 के साथ 429 लौटाता है। आपके रीट्राई लॉजिक को किसी भी प्रदाता के लिए 429 हैंडल करना चाहिए।

व्यवहार

सबसे बड़ा बदलाव तकनीकी नहीं है। मॉडल टोन, फॉर्मेटिंग की आदतों और क्या वे अस्वीकार करते हैं, इसमें अलग-अलग होते हैं। डेमो प्रॉम्प्ट्स के बजाय अपने वास्तविक प्रॉम्प्ट्स से टेस्ट करें।

एक-मॉडल एंडपॉइंट कहाँ फिट बैठता है

यह सेवा एक ओपन-वेट मॉडल के साथ एक OpenAI-कम्पैटिबल टेक्स्ट API है, जिसे एक स्वतंत्र प्रदाता चलाता है और कानूनी वयस्क उपयोग के लिए कंटेंट रिफ्यूजल्स के बिना उत्तर देने के लिए ट्यून्ड किया गया है। यह OpenAI, Meta, Mistral, Qwen, DeepSeek, xAI, Google, Anthropic या किसी अन्य वेंडर की आधिकारिक API नहीं है, और न ही यह वेंडर्स के बीच एक रूटर है। मॉडल ID uncensored है।

यह इन कार्यों के लिए उपयुक्त है: वयस्कों के लिए कथा और रोलप्ले टूल्स, साथी ऐप्स, लेखन सहायक जो मध्य-दृश्य में रुकने नहीं चाहिए, और वे बैकएंड जहाँ परिपक्क विषयों पर स्थिर व्यवहार कई मॉडलों के बीच चुनने से अधिक महत्वपूर्ण है। यह उन डेवलपर्स के लिए भी उपयुक्त है जो एक सरल प्रति-टोकन कीमत चाहते हैं और प्रॉम्प्ट्स जो ट्रेनिंग के लिए उपयोग नहीं किए जाते।

जहाँ यह फिट नहीं बैठता

ट्रैफ़िक ले जाने से पहले सीमाओं के बारे में ईमानदार रहें:

  • केवल एक मॉडल। आप आसान कार्यों के लिए छोटा, सस्ता मॉडल या कठिन कार्यों के लिए बड़ा मॉडल नहीं चुन सकते। यदि आप मॉडल रूटिंग पर निर्भर हैं, तो आपको एक अलग प्लेटफ़ॉर्म की आवश्यकता है।
  • केवल टेक्स्ट। कोई इमेज, ऑडियो या वीडियो जनरेशन नहीं, कोई एम्बेडिंग नहीं और कोई फाइन-ट्यूनिंग नहीं। एक रीट्रीवल ऐप जिसमें एम्बेडिंग्स की आवश्यकता है, उन्हें कहीं और से प्राप्त करना चाहिए।
  • कोई विक्रेता का फ्लैगशिप नहीं। यदि आपको अनुपालन या बेंचमार्क के लिए किसी विशिष्ट नामित मॉडल की आवश्यकता है, तो उस विक्रेता का उपयोग करें।
  • कठोर लिमिट। नाबालिगों से जुड़ी यौन सामग्री कभी नहीं।

अक्सर टीमें दो एंडपॉइंट चलाती हैं: एक मुख्य प्रदाता और दूसरी उस सामग्री के लिए जिसे पहला अस्वीकार करता है। चूँकि दोनों का फॉर्मेट समान है, इसलिए यह कोड की थोड़ी मात्रा, कॉन्फ़िगरेशन स्विच और कुछ त्रुटियों पर फॉलबैक है।

लागत: तुलना कैसे करें

प्रत्येक प्रदाता की वर्तमान कीमतों की जाँच करें और उन्हें अपने अनुरूप आकार में बदलें। इस एंडपॉइंट के लिए, इनपुट लागत 1M टोकन प्रति $0.15 है और आउटपुट 1M टोकन प्रति $0.50 है। उदाहरण: 3,000 इनपुट और 500 आउटपुट टोकन की लागत $0.00045 + $0.00025 = $0.0007 प्रति कॉल है, इसलिए महीने में 10,000 कॉल की लागत $7 है। विफल या अस्वीकृत अनुरोधों के लिए चार्ज नहीं किया जाता है, कोई सब्सक्रिप्शन नहीं है, और क्रेडिट कभी समाप्त नहीं होता है।

टॉप-अप $20 से $500 तक, क्रिप्टो (TRC20 पर USDT, Base पर USDC) से होते हैं, $50 से +5%, $100 से +10% और $200 से +15% बोनस के साथ। विभिन्न मॉडल चयनों की तुलना के लिए, AI मॉडल और मूल्य निर्धारण की तुलना देखें। मूल्य निर्धारण पृष्ठ पर पूर्ण सूची उपलब्ध है।

दो एंडपॉइंट के लिए फॉलबैक पैटर्न

यदि आप किसी ऐसे दूसरे एंडपॉइंट का उपयोग करना चाहते हैं जिसमें आपका मुख्य प्रदाता अस्वीकार कर देता है, तो दोनों क्लाइंट्स रखें और प्रत्येक अनुरोध के आधार पर चयन करें। यह स्केच पहले मुख्य प्रदाता को अनुरोध भेजता है और तब दूसरे का प्रयास करता है जब उत्तर एक अस्वीकरण मार्कर हो जिसे आप परिभाषित करते हैं, या जब कोई कॉल विफल हो जाती है:

import os
from openai import OpenAI

main = OpenAI(api_key=os.environ["MAIN_KEY"])
second = OpenAI(
    base_url="https://api.uncensoredaimodels.com/v1",
    api_key=os.environ["NEW_PROVIDER_KEY"],
)

def ask(messages, main_model, use_second_first=False):
    order = [(second, "uncensored"), (main, main_model)] if use_second_first else [(main, main_model), (second, "uncensored")]
    last = None
    for client, model in order:
        try:
            r = client.chat.completions.create(model=model, messages=messages)
            return r.choices[0].message.content
        except Exception as err:
            last = err
    raise last

जहाँ संभव हो, कंटेंट टाइप के आधार पर रूट करें। स्टोरी राइटिंग फीचर सीधे दूसरे एंडपॉइंट पर use_second_first=True के साथ जा सकता है, जबकि बिलिंग असिस्टेंट मुख्य पर रहता है। इससे पहले विफल कॉल के लिए भुगतान करने से बचा जाता है और उपयोगकर्ताओं के लिए व्यवहार भविष्यवाणी योग्य रहता है।

एक सुरक्षित परीक्षण तरीका

सभी ट्राफिक को एक साथ स्थानांतरित न करें। API कुंजी पृष्ठ पर $0.50 का ट्रायल दावें, जिसके लिए कार्ड की आवश्यकता नहीं है और जो 7 दिनों तक चलता है, फिर ये कदम उठाएँ:

  1. अपने लॉग से 20 वास्तविक प्रॉम्प्ट को नए एंडपॉइंट पर रीप्ले करें।
  2. अपने वर्तमान प्रदाता के साथ उत्तरों, टोकन गणना और विफलताओं की तुलना करें।
  3. 429 फोर्स करें और पुनःप्रयास काम करता है, इसकी पुष्टि करें।
  4. उत्पादन ट्राफिक का 5% एक फीचर फ्लैग के माध्यम से भेजें।
  5. कुछ दिनों के लिए X-Balance-USD हेडर और अपनी त्रुटि दर पर नज़र रखें, फिर विस्तार करें।

दस्तावेज़ में विधियाँ दी गई हैं, और बिना सेंसर कोडिंग LLM एक डेवलपर के उपयोग को विस्तार से दिखाता है।

01

प्रश्न और उत्तर

क्या मैं किसी अन्य प्रदाता के साथ OpenAI SDK का उपयोग कर सकता हूँ?

हाँ, यदि प्रदाता OpenAI-संगत है। बेस URL, कुंजी और मॉडल नाम को नए प्रदाता के मानों पर सेट करें।

क्या यह सेवा OpenAI की API है?

नहीं। यह एक स्वतंत्र OpenAI-संगत एंडपॉइंट है जो एक ओपन-वेट मॉडल चलाता है, और यह OpenAI या किसी अन्य विक्रेता की आधिकारिक API नहीं है।

क्या यह स्ट्रीमिंग और टूल्स का समर्थन करता है?

हाँ। स्ट्रीमिंग SSE के माध्यम से stream: true के साथ काम करती है, और टूल कॉलिंग मानक tools और tool_calls प्रारूप का उपयोग करती है।

स्विच करने से पहले आपको क्या जांचना चाहिए?

मॉडल के नाम, समर्थित पैरामीटर, टूल-कॉलिंग व्यवहार, संदर्भ सीमाएँ, 429 त्रुटि का प्रबंधन और सबसे महत्वपूर्ण, मॉडल आपके वास्तविक प्रॉम्प्ट का उत्तर कैसे देता है।

आपकी कुंजी बस एक वेब फॉर्म दूर है

एक खाता बनाएँ, कुंजी कॉपी करें, बेस URL बदलें। यही संपूर्ण सेटअप है।

API कुंजी पाएँ