RU ▾
Получить API-ключ

Сравнение моделей ИИ и цен: хостинг, локально, этот API

Чтобы справедливо сравнивать модели ИИ и цены, вам нужны ваши собственные подсчёты токенов, а не просто прайс-лист. В этой статье приведена формула, четыре варианта для сравнения и честный анализ того, когда этот API не подходит.

Обновлено

Четыре платформы с облаком, сетевым хабом, GPU-боксом и кубом, подключёнными к центральному балансу, для сравнения вариантов моделей

Четыре способа получить модель и что это вам обойдётся

Большинство сравнений смешивает несравнимое. Модель, провайдер и схема оплаты — это три отдельных выбора. Для генерации текста в приложении есть четыре реалистичных варианта, и каждый имеет свою структуру затрат.

  1. Собственное API закрытого вендора. Вы получаете флагманские модели этого вендора, их набор функций и политику использования. Цена за токен, и она меняется, поэтому проверяйте текущие тарифы провайдера, а не доверяйте постам в блогах, включая этот.
  2. Роутер или маркетплейс. Одна учётная запись, множество моделей от разных вендоров. Удобно для экспериментов, но к базовой цене добавляется наценка или слой комиссии в зависимости от сервиса.
  3. Запуск модели с открытыми весами самостоятельно. Нет платы за токен. Вы платите за GPU или мощную рабочую станцию, электроэнергию, время настройки и обслуживание, а ваша пропускная способность зависит от возможностей оборудования.
  4. Хостинг API с открытыми весами под узкую задачу. Именно этим является этот сайт: одна модель с открытыми весами, запускаемая независимым провайдером, настроенная на ответы без отказов по контенту для законного использования взрослыми, за эндпоинтом, совместимым с OpenAI. Это не официальное API Meta, Mistral, Qwen, DeepSeek, OpenAI, xAI, Google или Anthropic, и это не роутер.

Остальная часть этой статьи даёт вам способ оценить каждый вариант цифрами, не полагаясь на маркетинговые страницы других.

Что предлагает этот API, в фактах, которые вы можете проверить

Начните со стороны, которую вы можете проверить. Всё здесь опубликовано на странице с ценами и в документации.

ПунктЭтот API
ID моделиuncensored (одна модель)
ЭндпоинтыPOST /v1/chat/completions, GET /v1/models
СовместимостьSDK и клиенты OpenAI, путём изменения базового URL и ключа
Контекстное окно100 000 токенов, промпт плюс завершение
Цена ввода$0,15 за 1 млн токенов
Цена вывода$0,50 за 1 млн токенов
БиллингПредоплаченный кредит, без подписки, без срока действия, неудачные или отклонённые запросы не оплачиваются
ВозможностиПотоковая передача, вызов функций, JSON-режим, управление seed и сэмплированием
ЛимитыПолный ключ: 8 параллельных, 300 запросов в минуту. Пробный ключ: 2 параллельных, 60 в минуту
Не предлагаетсяИзображения, аудио, видео, эмбеддинги, дообучение

Используйте эту же таблицу как шаблон для других вариантов. Если вы не можете заполнить строку для конкурирующего сервиса по его документации, считайте это находкой. Лимиты параллельных запросов и частоты запросов особенно часто отсутствуют на маркетинговых страницах и решают для пакетной обработки.

Формула стоимости с точными примерами

Ежемесячная стоимость — это количество входных токенов, делённое на миллион и умноженное на ставку за вход, плюс количество выходных токенов, делённое на миллион и умноженное на ставку за выход. Ничего лишнего здесь не скрыто. Три примера по $0,15 и $0,50:

  • Небольшой инструмент. 2 млн входных и 0,5 млн выходных токенов за месяц: 2 × $0.15 = $0.30, плюс 0,5 × $0.50 = $0.25, итого $0.55.
  • Интенсивная нагрузка. 50 млн входных и 10 млн выходных: 50 × $0,15 = $7,50, плюс 10 × $0,50 = $5,00, итого $12,50.
  • Приложение для написания текстов с преобладанием вывода. 5 млн входных и 5 млн выходных: 5 × $0.15 = $0.75, плюс 5 × $0.50 = $2.50, итого $3.25.

Третья строка показывает, почему важно соотношение входных и выходных данных. При равных объёмах выходные токены здесь стоят более чем в три раза дороже входных, поэтому сценарий, который пишет длинные ответы на короткие промпты, ведёт себя иначе, чем сценарий, который читает длинные документы и даёт краткие ответы. При сравнении любых двух сервисов прогоняйте оба соотношения через оба прайс-листа.

Теперь задайте тот же вопрос другим вариантам. Для закрытого провайдера или роутера возьмите их текущие ставки за токен и прогоните те же три сценария. Для локального запуска разделите ежемесячные затраты на оборудование, электроэнергию и ваше время на обслуживание на количество токенов, которое оборудование реально выдает за месяц. Простаивающие GPU делают локальный запуск дорогим в расчёте на токен, а полностью загруженные — очень дешёвым. Что из этого вы получите, зависит от вашей нагрузки, поэтому измеряйте.

Измеряйте на своих собственных промптах

Опубликованные цены показывают ставку, но ничего не говорят о количестве ваших токенов. Разные модели разбивают токены по-разному, а многословные модели дают более длинные ответы на тот же вопрос. Единственное честное сравнение — запустить ваши реальные промпты и зафиксировать результат. Этот скрипт делает это для этого API; укажите базовый URL и модель для другого сервиса, чтобы получить те же цифры от него.

import os, time
from openai import OpenAI

client = OpenAI(
    base_url="https://api.uncensoredaimodels.com/v1",
    api_key=os.environ["UNCENSORED_KEY"],
)

IN_PER_M, OUT_PER_M = 0.15, 0.50   # dollars per 1M tokens

def cost(prompt_tokens, completion_tokens):
    return prompt_tokens / 1e6 * IN_PER_M + completion_tokens / 1e6 * OUT_PER_M

def trial(prompt):
    t0 = time.time()
    r = client.chat.completions.create(
        model="uncensored",
        messages=[{"role": "user", "content": prompt}],
        max_tokens=500,
    )
    u = r.usage
    return {
        "seconds": round(time.time() - t0, 2),
        "in": u.prompt_tokens,
        "out": u.completion_tokens,
        "dollars": round(cost(u.prompt_tokens, u.completion_tokens), 6),
        "text": r.choices[0].message.content,
    }

for p in open("my_real_prompts.txt").read().split("\n---\n"):
    print(trial(p))

Поместите от 20 до 50 реальных промптов в my_real_prompts.txt, разделив их строкой из трёх тире. Прочитайте вывод самостоятельно. Стоимость за промпт полезна только если ответы соответствуют вашим требованиям, а более дешёвая модель, требующая двух попыток на задачу, не является дешёвой. Для этого достаточно пробного ключа: новые пользователи могут получить $0,50 кредита одним нажатием на странице API-ключа, срок действия 7 дней, карта не нужна. Обратите внимание, что пробный ключ ограничен 2 параллельными запросами и 60 запросами в минуту, поэтому запускайте скрипт последовательно.

Когда закрытый API передовой модели — лучший выбор

Чётко определитесь в этом вопросе до траты денег. Если ваша задача зависит от лучших общих способностей к рассуждению, анализа изображений, аудио, эмбеддингов для поиска или сервиса дообучения провайдера, API закрытого провайдера — правильный инструмент, и этот не может его заменить. У этого API одна текстовая модель. Она не генерирует и не читает изображения или аудио, не создаёт эмбеддинги и не поддерживает дообучение.

То же относится к политике. Закрытые провайдеры применяют свои правила контента, и для бота поддержки или инструмента обучения детей эти правила являются преимуществом. API, настроенный на ответы без отказов, плохо подходит для продукта, где вы хотите, чтобы модель возражала против пограничных запросов. Вы можете добавить собственную фильтрацию, но если вам нужны отказы, выбирайте сервис, построенный вокруг них.

Наконец, проверьте корпоративные потребности. Если вам нужно подписанное соглашение об обработке данных, гарантии региона или обязательства по времени безотказной работы, запросите их у каждого провайдера в письменном виде. Этот сайт публикует факты, перечисленные выше, и ничего сверх них.

Когда локальный запуск выигрывает

Локальный запуск — правильный ответ, когда данные никогда не должны покидать ваше оборудование, когда вам нужен офлайн-режим, когда ваш объём высок и стабилен, чтобы держать GPU загруженным, или когда вы хотите полный контроль над файлами модели и параметрами семплирования. Вы также можете выбрать любую модель с открытыми весами и менять её по желанию.

Цена этого контроля реальна. Вы управляете драйверами, программным обеспечением для обслуживания, выбором квантования, ограничениями памяти и обновлениями. Длинные контексты дороги в памяти, поэтому контекстное окно на 100 000 токенов, которое является всего лишь одним параметром в API, может стать проектом по оборудованию при локальном запуске. Для прототипа или приложения с периодическими нагрузками API обычно позволяет быстрее достичь работающего продукта. Если вы хотите оценить инженерные компромиссы на стороне кода, чек-лист для продакшена uncensored coding LLM проходит по ним.

Где подходит этот API и как начать

Он подходит, когда вам нужен эндпоинт, совместимый с OpenAI, модель, которая не отказывает в законных запросах от взрослых, предоплаченный биллинг без подписки и чёткие лимиты. Типичные задачи: бэкенды для фантастики и ролевых игр, приложения-компаньоны для взрослых, инструменты для ред-тиминга и написания текстов, а также циклы агентов, которые терпят неудачу из-за отказов в других сервисах. Сексуальный контент с участием несовершеннолетних — это строгий лимит. Промпты не используются для обучения.

Переключение существующего клиента занимает две строки: измените базовый URL на https://api.uncensoredaimodels.com/v1 и модель на uncensored. Пополнения — целые суммы от $20 до $500 с бонусами +5% от $50, +10% от $100 и +15% от $200, доступные к оплате криптовалютой (USDT на TRC20, USDC на Base). Баланс не сгорает, поэтому первое пополнение на $20 — это способ с низким риском запустить скрипт измерения выше с реальным объёмом. В быстром старте указан полный формат запроса.

01

Вопросы и ответы

Как правильно сравнивать цены на AI-модели?

Соберите ставки за входные и выходные данные, затем умножьте каждую на ваши ежемесячные объёмы токенов и сложите. Прогоните реальные промпты через каждый сервис, чтобы получить истинные количества токенов, так как модели различаются по длине вывода и токенизации.

Дешевле ли хостинг API, чем запуск модели локально?

При низком или волнообразном трафике обычно да, потому что вы платите только за использованные токены. При высокой стабильной нагрузке, которая держит GPU загруженным, локальный запуск может быть дешевле за токен. Включите в расчёт стоимость локального запуска: оборудование, электроэнергию и ваше время.

Предлагает ли этот API несколько моделей?

Нет. Доступна одна модель с идентификатором uncensored. Это не роутер между поставщиками и не официальное API какого-либо вендора.

Сколько здесь стоят 1 млн токенов на вход и выход?

Ввод стоит $0.15 за 1M токенов, вывод — $0.50 за 1M токенов. Оплата производится с предоплаченного баланса, за неудачные или отклонённые запросы плата не взимается.

Ваш ключ — всего одна форма

Создайте аккаунт, скопируйте ключ, измените базовый URL. Вот и вся настройка.

Получить API-ключ