Агрегатор нейросетей: что даёт посредник и во что он обходится

Агрегатором нейросетей называют три разных продукта: чат по подписке, API-шлюз и облачную платформу с договором. Разработчику из России обычно нужен шлюз: один ключ, один баланс и формат OpenAI для моделей разных вендоров. Дороже всего в нём обходится не наценка, а скидки вендора, которые через посредника недоступны, например пакетная обработка за полцены, и ещё одна компания на пути ваших данных. Шлюз окупается, когда моделей несколько, а заплатить вендору напрямую нельзя.

Три разных сервиса под одним словом

В выдаче по запросу «агрегатор нейросетей» вперемешку стоят чат-сервисы вроде Poe и BotHub и шлюзы вроде OpenRouter. Это продукты для разных людей, и сравнивать их между собой бессмысленно.

Внутренняя валюта чат-агрегатора, например капсы BotHub, мешает сравнить его цену с прайсом вендора. Чем такой сервис отличается от шлюза на практике, разобрано в статье про BotHub. Дальше речь только об API-шлюзах.

Что шлюз берёт на себя

Первое — оплата. России нет в списках поддерживаемых стран у OpenAI, Anthropic и Google, а OpenAI предупреждает, что доступ из других стран может закончиться блокировкой аккаунта. Карты Visa, выпущенные в России, с марта 2022 года не работают за рубежом. Шлюз сам платит за доступ к моделям, а вы пополняете баланс у него: в altrouter картой РФ, СБП или криптой.

Второе — формат. Модели всех вендоров вызываются одним и тем же запросом в формате OpenAI Chat Completions. base_url — адрес, куда SDK отправляет запросы. При переезде на шлюз меняются он и ключ, а модель выбирается строкой model:

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.altrouter.ai/v1",
    api_key=os.environ["ALTROUTER_API_KEY"],
)

for model in ["claude-sonnet-5.5", "gpt-6.1-sol", "gemini-3.8-flash"]:
    r = client.chat.completions.create(
        model=model,
        max_tokens=200,
        messages=[{"role": "user", "content": "Одной фразой: зачем нужен API-шлюз?"}],
    )
    print(model, r.usage.prompt_tokens, r.usage.completion_tokens)
    print(r.choices[0].message.content)

Третье — переключение при сбое. Если провайдер модели ответил ошибкой, шлюз отправляет запрос следующему. У этого механизма есть границы, о них ниже.

Сколько стоит посредник: 300 000 запросов к Claude

Возьмём разбор обращений в поддержку: 300 000 запросов в месяц. В каждом 2 000 входных токенов, из них 1 500 — одна и та же инструкция с примерами, и 400 токенов ответа. За месяц это 600 млн токенов входа и 120 млн выхода. Модель — Claude Sonnet 5.5.

Два термина из прайса вендора. Кэш — повторяющееся начало промпта: вендор не обрабатывает его заново и берёт со скидкой. Batch — пакетная отправка: ответ приходит в течение суток, зато вдвое дешевле.

Цены Anthropic — по прайсу на 29.10.2026: $2 за вход, $10 за выход, $0,10 за чтение из кэша, Batch на 50% дешевле. Цены altrouter — по каталогу на 27.10.2026: $1,699971 и $8,499855, на 15% ниже официальной цены вендора. В строке с кэшем мы считали, что он не успевает истечь. Каждое чтение продлевает его жизнь на пять минут, а запросов здесь около семи в минуту, поэтому платой за запись в кэш мы пренебрегли.

Скидка шлюза выигрывает только у обычных запросов к вендору. Если задача терпит ответ в течение суток, Batch у Anthropic в 1,7 раза дешевле шлюза. Если у промптов длинное общее начало, кэш снижает счёт вендора на 36%. Учитывает ли кэш конкретный шлюз, видно только по фактическому списанию: в altrouter стоимость каждого запроса приходит в поле usage.cost (логи и списания).

Посредники зарабатывают по-разному. OpenRouter берёт за токены цену провайдера и удерживает 5,5% при пополнении баланса на базовом тарифе. Российские шлюзы публикуют цену токена в рублях, поэтому с прайсом вендора их сравнивают по курсу на одну дату.

Сильнее посредника на счёт влияет выбор модели. Та же нагрузка на Claude Haiku 5.5 стоит $120 у Anthropic и $102 через altrouter, в 20 раз меньше, чем на Sonnet 5.5. Справится ли младшая модель, проверьте на 50–100 реальных обращениях до того, как выбирать посредника.

Что теряется по дороге

Первая потеря — функции вендора. Шлюз отдаёт то, что у вендоров общее, то есть Chat Completions. OpenAI рекомендует для новых проектов Responses API: поиск по файлам и интерпретатор кода работают в нём, а не в Chat Completions. Через altrouter доступны Chat Completions, Anthropic-совместимый /v1/messages, генерация картинок и видео. Responses API, Batch, эмбеддингов и дообучения у нас нет.

Вторая потеря — контроль над данными: промпт проходит через ещё одну компанию. OpenAI хранит логи с промптами и ответами до 30 дней, чтобы отслеживать злоупотребления. У altrouter запись о каждом запросе живёт в логе 12 месяцев (хранение данных). Если в промптах есть персональные данные, отправка их зарубежной модели — трансграничная передача. По ч. 3 ст. 12 закона 152-ФЗ оператор уведомляет о ней Роскомнадзор до начала передачи. Посредник с российским юрлицом этого не меняет: данные всё равно уходят к зарубежному вендору. Надёжнее не класть персональные данные в промпт или маскировать их до отправки.

Failover: от чего он спасает, а от чего нет

Failover — переключение на запасного провайдера той же модели. В altrouter у большинства моделей несколько провайдеров. При ответе 429, таймауте или 5xx запрос молча уходит к следующему, а 503 вы получите, только когда отказали все (надёжность).

В той же документации описаны три границы:

• у модели с одним провайдером резерва нет;
• если провайдер уже принял задачу и начал её тарифицировать, второму её не отправляют, иначе вы заплатили бы дважды;
• отказ модерации не переигрывается, потому что другой провайдер той же модели откажет так же.

Failover работает внутри одной модели. Если сбой у вендора целиком, перейти с Claude на GPT или Gemini должен ваш код. Шлюз сводит это к смене строки model, но запасную модель и условие перехода выбираете вы. Как устроить такой фолбэк, разобрано в статье о маршрутизации между моделями.

Посредник тоже может закрыться

11 мая 2026 года OpenRouter разослал владельцам аккаунтов из России письмо: сервис «не поддерживает использование, биллинг и способы оплаты, связанные с вашей географией». Пополнение закрыли и для карт, и для криптовалюты. Остаток можно было доиспользовать или вернуть во временное окно, а покупки за криптовалюту не возвращались (Хабр, 12.05.2026).

Правила вендоров касаются и посредников. В политике регионов Anthropic отдельно названы модели, которые продают облака и авторизованные реселлеры. Если вендор закроет шлюзу доступ, модель пропадёт из каталога, а код, который на неё рассчитан, начнёт получать ошибки.

Отсюда три правила для любого шлюза, включая наш. Держите на балансе расход на месяц, а не на год. Поставьте потолок трат на каждый ключ, у нас это настройка в кабинете (лимиты). Заранее проверьте запасную модель другого вендора на своих промптах.

Когда шлюз не нужен

• Вы работаете с одной моделью одного вендора, а у компании есть юрлицо и карта в поддерживаемой стране. Тогда Batch, кэш и Responses API достанутся вам по цене вендора.
• Нагрузка пакетная и терпит ответ в течение суток. В нашем расчёте Batch у вендора дешевле скидки шлюза.
• Нужны эмбеддинги, дообучение или встроенные инструменты Responses API.
• Персональные данные нельзя отправлять за рубеж.

В последнем случае смотрите на модели, которые работают в российских облаках. В Yandex AI Studio это Alice AI LLM, YandexGPT, DeepSeek и Qwen, а Claude, Gemini и GPT-6 там нет. В Cloud.ru Foundation Models больше 20 моделей семейств GLM, Qwen, DeepSeek, MiniMax и GigaChat с оплатой по договору. Запросы к внешним моделям Cloud.ru уходят к зарубежным провайдерам, поэтому персональные данные разумнее отдавать только моделям в его собственной инфраструктуре.

Если шлюз всё-таки нужен, следующий вопрос — какой именно. Сравнение российских сервисов по цене одной модели, способам оплаты и совместимости — в разборе агрегаторов в России.

FAQ