OpenAI API 替代方案:你的代码中有哪些变化
大多数 OpenAI API 替代方案都复制了 OpenAI 的请求格式,这意味着切换通常只需更改配置而非重写代码。本文详细说明了代码中的具体变更、可能出现的故障,以及单模型 OpenAI 兼容接口在哪些场景下适用,哪些不适用。


替代方案能提供什么
人们寻找 OpenAI API 替代方案的原因各不相同:价格、内容规则、数据处理、区域可用性,或使用开放权重模型的愿望。无论原因如何,测试标准是一致的:替代方案是否接受你已发送的请求格式,并返回你的代码已读取的响应格式?
如果是,你的 SDK 调用无需更改。如果不是,你需要编写一次适配器,这也是可行的,但这正是切换的主要成本。本文其余部分假设第一种情况,即 OpenAI 兼容接口。
三行代码的变更
使用官方 Python 包时,原始设置包含默认主机和 OpenAI 密钥。对于替代方案,你需要设置三项内容:base_url、新提供商的密钥以及模型名称。以下是此接口的完成版本:
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.uncensoredaimodels.com/v1", # was the default host
api_key=os.environ["NEW_PROVIDER_KEY"], # was your OpenAI key
)
r = client.chat.completions.create(
model="uncensored", # was an OpenAI model name
messages=[{"role": "user", "content": "Pitch me a plot twist for a mystery."}],
)
print(r.choices[0].message.content)
在 Node.js 中,可以通过向构造函数传递 baseURL 来实现,在 LangChain 风格的包装器中通过其基础 URL 选项实现,在具有自定义 endpoint 字段的工具中实现。在 curl 中,你需要更改主机和标头:
curl https://api.uncensoredaimodels.com/v1/chat/completions \
-H "Authorization: Bearer $NEW_PROVIDER_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"ping"}]}'切换后可能出现的问题
模型名称
模型 ID 属于提供商。任何硬编码 OpenAI 模型名称的地方都需要更新。请将名称放入配置中。
参数
temperature、top_p、stop 和 max_tokens 等核心选项可以沿用。其他选项(如 logprobs 或某些 response-format 选项)则取决于提供商。在此接口中,temperature、top_p、stop、seed 和惩罚项会被透传,JSON 模式可通过 response_format: {"type":"json_object"} 实现。
函数调用质量
传输格式是共享的,但模型选择工具和填充参数的能力各不相同。请将你的真实工具定义通过新模型运行,并在代码中验证参数。
上下文长度和截断
上下文窗口的变化会影响你可以发送的历史记录量。在此接口中,上下文窗口为 100,000 个 token(包含提示词和补全)。
错误和限制
不同提供商使用不同的限制和错误码。此接口对每分钟请求过多返回 HTTP 429 并附带 rate_limited,对同时请求过多返回 concurrency,并在临时过载时返回带有 Retry-After: 5 的 429。你的重试逻辑应能处理任何提供商的 429 错误。
行为
最大的变化并非技术性的。模型在语气、格式习惯和拒答行为方面存在差异。请使用真实提示词进行测试,而非演示提示词。
单模型接口的适用场景
该服务是一个 OpenAI 兼容的文本 API,由独立提供商运行,使用单一开放权重模型,并针对合法成人用途下的无内容拒绝回答进行了优化。它不是 OpenAI、Meta、Mistral、Qwen、DeepSeek、xAI、Google、Anthropic 或其他任何厂商的官方 API,也不是跨厂商的路由器。模型 ID 为 uncensored。
它非常适合以下任务:成人向的虚构和角色扮演工具、陪伴类应用、不应在场景中途停止的写作助手,以及在对成熟主题表现稳定性要求高于多模型选择的后端。它也适合希望拥有简单的每 token 价格且提示词不用于训练的开发人员。
不适用的场景
在迁移流量之前,请诚实地了解其限制:
- 仅限单一模型。 你无法为简单任务选择更小、更便宜的模型,也无法为复杂任务选择更大的模型。如果你依赖模型路由,则需要不同的平台。
- 仅限文本。 无图像、音频或视频生成,无嵌入,无微调。需要嵌入的检索应用必须从其他来源获取。
- 非厂商旗舰产品。 如果需要特定命名模型以满足合规性或基准测试要求,请使用该厂商。
- 硬性限制。 永远禁止涉及未成年人的色情内容。
许多团队运行两个接口:主提供商和一个用于处理主接口拒绝内容的备用接口。由于两者共享相同的格式,这只需要少量代码、配置切换以及在特定错误时的降级处理。
成本:如何比较
检查每个提供商的当前定价,并将其转换为你请求的格式。对于此接口,输入成本为每 1M token $0.15,输出为每 1M token $0.50。示例:3,000 输入 token 和 500 输出 token 的成本为 $0.00045 + $0.00025 = $0.0007 每次调用,因此每月 10,000 次调用的成本为 $7。失败或被拒绝的请求不收费,无订阅费,且额度永不过期。
充值金额为 $20 至 $500,支持加密货币(TRC20 上的 USDT,Base 上的 USDC),充值 $50 起赠 +5%,$100 起赠 +10%,$200 起赠 +15%。查看不同模型选择的对比表,请参阅 AI 模型与定价比较。定价页面 包含完整列表。
双接口的降级模式
如果你希望为处理主提供商拒绝的内容而设置第二个接口,请保留两个客户端并按请求选择。此示例首先向主提供商发送请求,当回答是你定义的拒绝标记或调用失败时,尝试第二个接口:
import os
from openai import OpenAI
main = OpenAI(api_key=os.environ["MAIN_KEY"])
second = OpenAI(
base_url="https://api.uncensoredaimodels.com/v1",
api_key=os.environ["NEW_PROVIDER_KEY"],
)
def ask(messages, main_model, use_second_first=False):
order = [(second, "uncensored"), (main, main_model)] if use_second_first else [(main, main_model), (second, "uncensored")]
last = None
for client, model in order:
try:
r = client.chat.completions.create(model=model, messages=messages)
return r.choices[0].message.content
except Exception as err:
last = err
raise last
在可行的情况下按内容类型进行路由。故事写作功能可以直接通过 use_second_first=True 发送到第二个接口,而计费助手则保留在主接口上。这样可以避免先支付失败调用的费用,并保持用户行为的可预测性。
安全的测试方法
不要一次性迁移所有流量。在 API 密钥页面领取 $0.50 试用额度,无需绑定信用卡,有效期 7 天,然后执行以下步骤:
- 将日志中的 20 个真实提示词重放至新接口进行测试。
- 将回答、token 计数和故障情况与当前提供商进行比较。
- 强制触发 429 状态码并确认重试有效。
- 通过功能标志发送 5% 的生产流量。
- 在扩大流量之前,观察
X-Balance-USD标头和错误率几天。
文档涵盖了相关方法,无审查编码 LLM则详细展示了一位开发者的使用案例。
更多指南
问答
我可以将 OpenAI SDK 与其他提供商配合使用吗?
是的,如果提供商兼容 OpenAI。将 base URL、密钥和模型名称设置为新提供商的值。
该服务是 OpenAI 的 API 吗?
不是。它是一个独立运行的兼容 OpenAI 的接口,使用一个开放权重模型,并非 OpenAI 或其他供应商的官方 API。
是否支持流式输出和工具?
是的。通过 stream: true 使用 SSE 实现流式输出,工具调用使用标准的 tools 和 tool_calls 格式。
切换前我应该检查什么?
模型名称、支持的参数、工具调用行为、上下文限制、429 错误的处理方式,以及最重要的是,模型对你实际提示词的回答。
只需填写一张表单即可获得密钥
创建账户,复制密钥,更改基础 URL。这就是全部设置。