FastRouter: LLM-шлюз для приложений с разными провайдерами

FastRouter — LLM-шлюз для разработчиков и команд, которым нужен доступ к нескольким провайдерам моделей через OpenAI-совместимый API. Сервис компании AI.tech Ltd объединяет маршрутизацию, резервные модели, управление доступом и учёт затрат.

Для чего нужен FastRouter: простое объяснение

Это единая точка обращения между приложением и сервисами, выполняющими модели ИИ. Приложение отправляет запрос в FastRouter, шлюз передаёт его выбранной модели и возвращает ответ. Команда управляет несколькими подключениями в одном месте.

Такой подход подходит для ИИ-приложений, агентов и тестирования моделей. API охватывают текст, изображения, видео, аудио и эмбеддинги. Форматы входных данных и функции зависят от модели и конечной точки; единый интерфейс не делает модели одинаковыми.

Выбор модели и резервирование

fastrouter/auto выбирает модель с учётом сложности, темы и стоимости запроса. Маршрутизация провайдеров определяет, кто исполнит выбранную модель, например по цене, задержке или пропускной способности. Виртуальный псевдоним сохраняет одно имя в коде при изменении набора моделей.

Укажите основной model и список models для последовательного перехода к резервным вариантам. Если не сработает ни один, запрос завершится ошибкой. Проверяйте качество и формат резервных ответов на собственных примерах до запуска в рабочей среде.

Из чего складывается стоимость

На 7 октября 2026 года публичные месячные цены платформы в USD составляют 0 для Starter, 199 для Pro и 799 для Business. Enterprise рассчитывается индивидуально. Использование моделей оплачивается отдельно; сайт заявляет отсутствие наценки на их стоимость. Условия годовой оплаты приведены в текущих тарифах. Эти данные не подтверждают доступность оплаты или сервиса в России.

Starter включает один ключ BYOK и миллион BYOK-запросов в месяц, но не бесплатную генерацию такого объёма. Кеширование ответов, трассировка и guardrails начинаются с Pro; самостоятельное размещение относится к Enterprise.

Для бесплатных моделей оплаченный баланс должен превышать 1 USD. Допущенные бесплатные запросы не расходуют кредиты. Документированный стандарт — десять запросов на организацию и модель в сутки, со сбросом в полночь UTC. Условия и набор моделей могут меняться.

Как выполнить первый запрос

1. Создайте ключ проекта и сохраните его: полное значение показывается один раз.
2. Настройте бюджет, доступные модели и ограничения запросов и токенов.
3. Задайте в совместимом клиенте базовый адрес https://api.fastrouter.ai/api/v1 и ключ FastRouter.
4. Отправьте в Chat Completions поля model и массив messages, начав с примера без чувствительных данных.
5. Проверьте ответ, фактическую модель, usage.provider, токены и стоимость в панели.

В официальном введении есть пример SDK. Структурированные ответы и вызовы инструментов требуют поддержки выбранной моделью.

Передача данных и ограничения ZDR

Промпты отправляются провайдерам моделей. Журналирование содержимого можно отключить для ключа. Суффикс :zdr ограничивает выбор подходящими провайдерами без хранения; если их нет, запрос отклоняется.

Он не отключает кеш FastRouter, плагины, сохранённое состояние диалога или журналы платформы. В политике конфиденциальности и тарифах указаны разные сроки хранения: уточните применимые условия. Действуют также правила провайдеров и ограничения на перепродажу ключей и услуг.

Аналитика для рабочих нагрузок

Панель показывает стоимость, токены, ошибки и задержки; права проектов и бюджеты ключей помогают ограничивать расходы. Playground, Model Council, оценки и управление промптами поддерживают сравнение конфигураций.

Insights еженедельно предлагает изменения по трафику последних семи дней. Автоматического внедрения и гарантии экономии нет. Рекомендации кеширования и Flex используют имеющиеся данные; включённый Model Switch выполняет платные повторные запросы и оценки. MCP Gateway объединяет серверы инструментов, область доступа проектов и выбор инструментов. Описания и результаты инструментов увеличивают контекст и расход токенов.

Частые вопросы

Можно ли пользоваться FastRouter бесплатно?

Starter не взимает плату за платформу. Обычная генерация оплачивается, а бесплатные модели имеют отдельные требования к балансу и суточные квоты.

Можно ли подключить свои API-ключи?

Да. Владелец организации добавляет их через Setup → External Keys → New Integration и выбирает проекты и модели. См. руководство BYOK. Тарифы и лимиты собственного аккаунта провайдера сохраняются.

Означает ли ZDR полное отсутствие хранения данных?

Нет. Изучите границы ZDR и отдельно проверьте журналы, кеш и функции с сохранением состояния.

Официальные материалы и сообщество

• Документация: API и условия функций.
• Форма связи: аккаунт, размещение и договор.
• Официальный Discord: обсуждения и помощь сообщества.