中文 ▾
获取 API 密钥

对比 AI 模型与定价:托管、本地、本 API

要公平对比 AI 模型和定价,你需要自己的 token 计数,而非价格表。本文提供公式、值得对比的四种选项,以及本 API 不适合的场景。

更新于

四个平台:云、网络中心、GPU 盒子和立方体连接到中央余额,用于对比模型选项

获取模型的四种方式及各自成本

大多数比较混淆了不相似的事物。模型、提供商和计费方案是三个独立的选择。在应用中生成文本有四种可行的路线,每种路线都有其独特的成本结构。

  1. 封闭供应商自己的 API。 你获得该供应商的旗舰模型、其功能集和使用策略。价格按 token 计算,且会变动,因此请查看他们当前的定价,而不是相信博客文章,包括本文。
  2. 路由或市场。 一个账户,来自许多供应商的许多模型。便于实验,但在基础价格之上会有加价或费用层,具体取决于服务。
  3. 自行运行开放权重模型。 无按 token 计费。你支付 GPU 或高性能工作站、电力、设置时间和维护的费用,吞吐量取决于硬件能提供的性能。
  4. 具有特定用途的托管开放权重 API。 这就是本站:一个开放权重模型,由独立提供商运行,经过调整以在法律允许的成人用途中无内容拒绝地回答,通过 OpenAI 兼容的接口提供服务。它不是 Meta、Mistral、Qwen、DeepSeek、OpenAI、xAI、Google 或 Anthropic 的官方 API,也不是路由。

本文其余部分为你提供量化各路径的方法,无需依赖任何营销页面。

本 API 提供的可验证事实

从你可以验证的方面开始。所有内容均发布在定价页面和文档中。

项目此 API
模型 IDuncensored(一个模型)
接口POST /v1/chat/completions,GET /v1/models
接口格式OpenAI SDK 和客户端,通过更改 Base URL 和 API 密钥
上下文窗口100,000 token,包含提示词和补全
输入价格$0.15 / 1M token
输出价格$0.50/1M token
计费预付额度,无订阅,无过期,失败或被拒的请求不收费
功能流式输出、函数调用、JSON 模式、种子和采样控制
限制完整密钥:8 个并发,每分钟 300 个请求。试用密钥:2 个并发,每分钟 60 个请求
不提供图像、音频、视频、嵌入、微调

将同一表格用作其他路由的模板。如果无法从竞品文档中填写某一行,请将其视为一项发现。并发和速率限制在营销页面中经常缺失,但对批量处理至关重要。

成本公式,含具体示例

月度成本为输入 token 除以一百万再乘以输入费率,加上输出 token 除以一百万再乘以输出费率。此处没有隐藏的其他费用。三个示例,费率为 $0.15 和 $0.50:

  • 小型工具类应用。 每月 2M 输入和 0.5M 输出 token:2 x $0.15 = $0.30,加上 0.5 x $0.50 = $0.25,总计 $0.55。
  • 高负载产品。 50M 输入和 10M 输出:50 x $0.15 = $7.50,加上 10 x $0.50 = $5.00,总计 $12.50。
  • 输出密集型写作应用。 5M 输入和 5M 输出:5 x $0.15 = $0.75,加上 5 x $0.50 = $2.50,总计 $3.25。

第三行显示了输入输出比的重要性。在同等体积下,输出成本比输入高三倍以上,因此从简短提示生成长篇回复的用例与阅读长文档并简短回答的用例表现不同。当你比较任何两项服务时,请将两种比率都代入两个价格表进行计算。

现在对其他选项问同样的问题。对于封闭供应商或路由器,获取他们当前的每 token 费率并运行相同的三个场景。对于本地运行,将你的月度硬件成本、电力和维护时间除以它实际上在一个月内生成的 token 数。闲置的 GPU 会让本地运行看起来每 token 成本很高,而满载的 GPU 则可能看起来非常便宜。你面临的是哪种情况取决于你的负载,因此请测量。

在你的真实提示词上测量

公布的定价告诉你费率,但不包含你的 token 数量。不同的模型分词方式不同,冗长的模型会对同一个问题写出更长的答案。唯一的诚实比较方法是运行你的真实提示词并记录返回结果。此脚本对此 API 运行该操作;将 base URL 和模型指向另一项服务,即可从该服务获取相同的数字。

import os, time
from openai import OpenAI

client = OpenAI(
    base_url="https://api.uncensoredaimodels.com/v1",
    api_key=os.environ["UNCENSORED_KEY"],
)

IN_PER_M, OUT_PER_M = 0.15, 0.50   # dollars per 1M tokens

def cost(prompt_tokens, completion_tokens):
    return prompt_tokens / 1e6 * IN_PER_M + completion_tokens / 1e6 * OUT_PER_M

def trial(prompt):
    t0 = time.time()
    r = client.chat.completions.create(
        model="uncensored",
        messages=[{"role": "user", "content": prompt}],
        max_tokens=500,
    )
    u = r.usage
    return {
        "seconds": round(time.time() - t0, 2),
        "in": u.prompt_tokens,
        "out": u.completion_tokens,
        "dollars": round(cost(u.prompt_tokens, u.completion_tokens), 6),
        "text": r.choices[0].message.content,
    }

for p in open("my_real_prompts.txt").read().split("\n---\n"):
    print(trial(p))

将 20 到 50 个真实提示词放入由三个连字符(---)分隔的 my_real_prompts.txt 文件中。自行读取输出。每个提示词的成本仅在答案符合你的标准时才有效,而一个需要两次尝试才能完成任务的更便宜模型并不便宜。试用密钥足以完成此操作:新用户可以在 API 密钥页面 上点击一次领取 $0.50 的额度,有效期 7 天,无需信用卡。请注意,试用密钥限制为 2 个并发请求和每分钟 60 个请求,因此请串行运行脚本。

当封闭的前沿 API 是更好的选择时

在花费任何资金之前要明确这一点。如果你的任务依赖于最强的通用推理能力、视觉输入、音频、用于搜索的嵌入,或者供应商的微调服务,那么封闭供应商的 API 是合适的工具,而此 API 无法替代。此 API 只有一个文本模型。它不生成或读取图像或音频,不生成嵌入,也不进行微调。

策略方面也是如此。封闭供应商应用自己的内容规则,对于客服机器人或儿童辅导工具来说,这些规则是一个特性。经过调整以不拒绝回答的 API 与你希望模型对边缘请求进行反驳的产品不匹配。你可以在上面添加自己的过滤,但如果拒绝正是你想要的,请选择围绕拒绝构建的服务。

最后,检查企业需求。如果你需要签署的数据处理协议、区域保证或正常运行时间承诺,请要求每个提供商以书面形式提供。本站公布上述事实,除此之外别无其他。

本地运行胜出时

当数据必须保留在你的硬件中、需要离线运行、流量高且稳定足以保持 GPU 忙碌,或希望完全控制模型文件和采样时,本地运行是正确选择。你还可以选择任何喜欢的开放权重模型并随意更换。

这种控制的代价是真实的。你需要处理驱动程序、推理软件、量化选择、内存限制和更新。长上下文在内存中成本高昂,因此 API 上只需一个参数即可配置的 100,000 token 上下文窗口,在本地可能成为一个硬件项目。对于原型或流量呈突发性的应用,API 通常能更快实现可用产品。如果你想了解编码方面的工程权衡,无审查编码 LLM 的生产清单 对此进行了详细说明。

此 API 的适用场景及如何开始

当你想要 OpenAI 兼容的接口、不拒绝合法成人请求的模型、无订阅的预付计费以及清晰的限制时,它适用。典型用途包括小说和角色扮演后端、成人伴侣应用、红队和写作工具,以及在别处因拒绝而失败的代理循环。涉及未成年人的性内容是硬性限制。提示词不用于训练。

切换现有客户端需要两行代码:将 Base URL 更改为 https://api.uncensoredaimodels.com/v1,并将模型更改为 uncensored。充值金额为 $20 到 $500 的整数金额,并附带奖金:$50 起 +5%,$100 起 +10%,$200 起 +15%,可通过加密货币(TRC20 上的 USDT、Base 上的 USDC)支付。额度永不过期,因此首次充值 $20 是一种低风险的方式,可以使用真实流量运行上述测量脚本。快速入门 包含完整的请求格式。

01

问答

如何正确比较 AI 模型定价?

收集输入和输出费率,然后分别乘以你的月度 token 量并相加。将真实提示词输入各服务运行以获取真实 token 计数,因为不同模型在冗长程度和分词方式上存在差异。

托管 API 比本地运行模型更便宜吗?

对于低流量或突发流量,通常是的,因为你只为使用的 token 付费。对于保持 GPU 忙碌的高且稳定的负载,本地运行每 token 可能更便宜。在计算本地成本时包括硬件、电力和你自己的时间。

该 API 提供多个模型吗?

不。它提供一个模型,ID 为 uncensored。它不是跨供应商的路由器,也不是任何供应商的官方 API。

在此处,1M token 的输入和输出费用是多少?

输入为每 1M token $0.15,输出为每 1M token $0.50。费用从预付额度中扣除,失败或被拒绝的请求不收费。

只需填写一张表单即可获得密钥

创建账户,复制密钥,更改基础 URL。这就是全部设置。

获取 API 密钥