繁中 ▾
取得 API 金鑰

OpenAI API 替代方案:程式碼的變更

大多數 OpenAI API 替代方案會複製 OpenAI 的請求格式,這意味著切換通常只是設定變更而非重寫。本文將詳細說明程式碼中的變更、可能出錯的地方,以及單一模型、OpenAI 相容端點適合與不適合的場景。

更新於

多條彩色電纜插入一個標準連接埠,顯示可互換的 API 端點
四個帶有雲端、網路集線器、GPU 機箱和方塊並連接到中央餘額的平臺,用於比較模型選項

替代方案能提供什麼

人們尋找 OpenAI API 替代方案 的原因各異:價格、內容規則、資料處理、區域可用性,或是希望使用開放權重模型。無論原因為何,測試標準相同:替代方案是否接受您已發送的請求格式,並回傳您的程式碼已讀取的回應格式?

如果是,您的 SDK 呼叫就不會改變。如果不是,您需要編寫一次適配器,這也沒問題,但這是切換的主要成本。本文其餘部分假設第一種情況,即 OpenAI 相容端點。

三行程式碼的變更

使用官方 Python 套件時,原始設定包含預設主機和 OpenAI API 金鑰。對於替代方案,您需要設定三件事:base_url、新供應商的 API 金鑰以及模型名稱。以下是此端點的完成版本:

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.uncensoredaimodels.com/v1",  # was the default host
    api_key=os.environ["NEW_PROVIDER_KEY"],            # was your OpenAI key
)

r = client.chat.completions.create(
    model="uncensored",                                 # was an OpenAI model name
    messages=[{"role": "user", "content": "Pitch me a plot twist for a mystery."}],
)
print(r.choices[0].message.content)

Node.js 透過將 baseURL 傳遞給建構子同樣可以運作,LangChain 風格的包裝函式透過其 base URL 選項運作,具有自訂 endpoint 欄位的工具亦然。在 curl 中,您需要變更主機和標頭:

curl https://api.uncensoredaimodels.com/v1/chat/completions \
  -H "Authorization: Bearer $NEW_PROVIDER_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"ping"}]}'

切換後可能出錯的地方

模型名稱

模型 ID 屬於供應商。任何硬編碼 OpenAI 模型名稱的地方都需要更新。請將名稱放在設定檔中。

參數

temperature、top_p、stop 和 max_tokens 等核心選項可以沿用。其他選項(如 logprobs 或某些 response-format 選項)則取決於供應商。在此端點上,temperature、top_p、stop、seed 和懲罰係數都會傳遞,且 JSON 模式可透過 response_format: {"type":"json_object"} 運作。

函式呼叫品質

線路格式是共享的,但模型選擇工具和填充參數的能力各不相同。請將您的實際工具架構通過新模型運行,並在程式碼中驗證參數。

上下文長度與截斷

上下文視窗的變更會影響您可以發送的歷史記錄量。此處的上下文視窗為 100,000 token,包含提示詞與完成部分。

錯誤與限制

供應商使用不同的限制和代碼。此端點會針對每分鐘請求返回 HTTP 429 與 rate_limited,針對同時請求過多返回 concurrency,並在暫時超載時返回帶有 Retry-After: 5 的 429。您的重試邏輯應處理任何供應商的 429。

行為

最大的變更不在技術層面。模型在語氣、格式化習慣和拒絕內容方面各不相同。請使用實際提示詞進行測試,而非示範提示詞。

單一模型端點的適用場景

此服務是一個 OpenAI 相容的文本 API,由獨立供應商運行單一開放權重模型,並針對合法成人用途下不拒絕內容的回應進行調優。它不是 OpenAI、Meta、Mistral、Qwen、DeepSeek、xAI、Google、Anthropic 或其他任何廠商的官方 API,也不是跨供應商的路由器。模型 ID 為 uncensored。

它非常適合以下任務:成人小說與角色扮演工具、陪伴應用程式、不應在中途停止的寫作助手,以及對成熟主題行為穩定性比選擇多種模型更重要的後端。它也適合希望擁有簡單的每 token 價格且提示詞不用於訓練的開發者。

不適合的情況

在轉移流量之前,請誠實面對限制:

  • 僅單一模型。 您無法為簡單任務選擇更小、更便宜的模型,也無法為困難任務選擇更大的模型。如果您依賴模型路由,您需要不同的平台。
  • 僅文本。 無影像、音訊或影片生成,無嵌入向量,無微調。需要嵌入向量的檢索應用程式必須從其他地方獲取。
  • 非廠商旗艦產品。 如果您需要特定名稱的模型以符合合規或基準測試要求,請使用該廠商。
  • 硬性限制。 絕對禁止任何涉及未成年人的性內容。

許多團隊運行兩個端點:一個主要供應商和一個用於處理第一個供應商拒絕的內容的第二個供應商。由於兩者共享相同的格式,這只需要少量程式碼、設定切換以及在特定錯誤時的備援機制。

成本:如何比較

檢查各供應商的當前定價,並將其轉換為您的請求格式。在此端點,輸入成本為每 1M token $0.15,輸出為每 1M token $0.50。範例:3,000 個輸入 token 和 500 個輸出 token 的成本為 $0.00045 + $0.00025 = 每次呼叫 $0.0007,因此每月 10,000 次呼叫的成本為 $7。失敗或被拒絕的請求不會收費,沒有訂閱,且額度永不過期。

儲值金額從 $20 到 $500 不等,可透過加密貨幣(TRC20 上的 USDT、Base 上的 USDC)支付,$50 以上贈送 +5%,$100 以上贈送 +10%,$200 以上贈送 +15%。查看不同模型選擇的比較表,請見 比較 AI 模型與定價。定價頁面 有完整列表。

雙端點的備援模式

如果您希望為主要供應商拒絕的內容設置第二個端點,請保留兩個客戶端並根據請求選擇。此範例首先向主要供應商發送請求,當答案是您定義的拒絕標記或呼叫失敗時,則嘗試第二個端點:

import os
from openai import OpenAI

main = OpenAI(api_key=os.environ["MAIN_KEY"])
second = OpenAI(
    base_url="https://api.uncensoredaimodels.com/v1",
    api_key=os.environ["NEW_PROVIDER_KEY"],
)

def ask(messages, main_model, use_second_first=False):
    order = [(second, "uncensored"), (main, main_model)] if use_second_first else [(main, main_model), (second, "uncensored")]
    last = None
    for client, model in order:
        try:
            r = client.chat.completions.create(model=model, messages=messages)
            return r.choices[0].message.content
        except Exception as err:
            last = err
    raise last

在可行的情況下依內容類型進行路由。故事寫作功能可以直接透過 use_second_first=True 導向第二個端點,而帳單助理則保留在主端點上。這可避免先為失敗的呼叫付費,並讓使用者行為保持可預測。

安全的測試方式

不要一次性轉移所有流量。在 API 金鑰頁面領取 $0.50 的試用額度,無需信用卡且有效期為 7 天,然後執行以下步驟:

  1. 將日誌中的 20 個實際提示詞重放至新端點。
  2. 將答案、token 計數和失敗情況與您當前的供應商進行比較。
  3. 強制產生 429 狀態碼,並確認您的重試機制能正常運作。
  4. 透過功能旗標將 5% 的生產流量導出。
  5. 在擴大範圍之前,請觀察 X-Balance-USD 標頭和錯誤率幾天。

文件 涵蓋了相關方法,無審查程式碼 LLM 詳細展示了一位開發者的使用案例。

01

問答

我能使用 OpenAI SDK 搭配其他供應商嗎?

是的,如果該供應商與 OpenAI 相容。請將 Base URL、金鑰和模型名稱設定為新供應商的對應值。

此服務是 OpenAI 的 API 嗎?

不是。這是一個獨立的 OpenAI 相容端點,運行單一開放權重模型,並非 OpenAI 或其他廠商的官方 API。

是否支援串流輸出和工具?

是的。串流輸出透過 SSE 與 stream: true 運作,工具呼叫則使用標準的 tools 和 tool_calls 格式。

切換前應檢查什麼?

模型名稱、支援的參數、工具呼叫行為、上下文限制、429 錯誤處理,以及最重要的是模型對你實際提示詞的回應方式。

只需填寫表單即可取得金鑰

建立帳號、複製金鑰、更改基礎 URL。這就是整個設定過程。

取得 API 金鑰