Experiential Labs: открытый AI gateway для моделей

Experiential Labs — AI gateway с открытым исходным кодом для разработчиков и команд, использующих несколько поставщиков моделей. Он объединяет API-доступ, маршрутизацию, ключи и учёт потребления. Можно работать через размещённую платформу или запустить шлюз на собственной инфраструктуре.

Простыми словами: для чего нужен этот сайт?

Представьте общую приёмную для запросов ваших AI-приложений. Приложение указывает модель, а шлюз находит настроенный путь к поставщику, проверяет права и бюджет и возвращает ответ. Управление соединениями и расходами становится общей задачей, а не отдельной реализацией в каждом продукте.

Сайт знакомит с сервисом и ведёт на платформу с каталогом, ключами и статистикой. Указанный оператор — Resolute Labs AI, Inc., работающая под названием Experiential Labs. Основная аудитория — разработчики приложений, агентов и корпоративной AI-инфраструктуры.

Подключение и региональная доступность моделей

В официальном руководстве описаны совместимые с OpenAI Chat Completions и Responses, включая потоковую выдачу.

1. Войдите на платформу и создайте ключ в Settings → API keys. Секрет показывается один раз: сразу сохраните его.
2. Задайте EXPLABS_API_KEY и базовый адрес https://api.experientiallabs.ai/v1.
3. Выберите актуальный идентификатор модели в каталоге и отправьте короткий тестовый запрос.
4. Проверьте ответ, фактический маршрут, токены и стоимость. Для потоковой выдачи включите stream: true.

Форматы и контекст зависят от модели. Для OpenAI, Anthropic и Gemini проверяется регион входящего IP-адреса. Наличие модели в глобальном каталоге не подтверждает доступность из вашей точки подключения. BYOK и резервные поставщики не снимают эти условия, поэтому сервис нельзя описывать как гарантированный способ доступа из любой страны.

Собственный сервер и обработка данных

Официальный репозиторий использует Apache-2.0. Команда запуска — uvx --from experiential exp run; сначала ознакомьтесь с требованиями установки. Бесплатный код не оплачивает серверы или инференс и не определяет права на результаты сторонних моделей.

Шлюз предлагает настраиваемые списки поставщиков, ZDR-маршрутизацию и политики поставщиков, не использующих данные для обучения. Публичная политика конфиденциальности относится только к сайту и исключает запросы платформы. Она не устанавливает срок хранения API-промптов. Собственный шлюз всё равно передаёт данные внешним API, если такие маршруты настроены. Встроенное скрытие PII и защита от prompt injection отмечены как ещё не поставленные функции.

Резервные маршруты и контроль расходов

Provider waterfall — упорядоченная цепочка развёртываний, обслуживающих одну модель. При ошибке ёмкости или транспорта шлюз может попробовать следующую ступень. Это переключение поставщика, а не обещание автоматически заменить модель другой.

Отдельные ключи, разрешённые модели и бюджетные ограничения помогают ограничить расходы агентов. В журнале можно проверить маршрут и потребление запроса. Начните с одного процесса с небольшим бюджетом, чтобы оценить реальный расход до расширения доступа.

Оптимизация на основе рабочих трасс

Intelligence анализирует трассы для выбора моделей, кэширования, сжатия промптов, пакетной обработки и настройки усилия рассуждения. Среди источников указаны Arize, Braintrust, LangChain, базы данных и трафик самого шлюза.

В рамках Enterprise возможно обучение собственной модели через дистилляцию, обучение с подкреплением или supervised fine-tuning. До обслуживания запросов модель проверяется, а включение требует явного выбора. Результаты опубликованных кейсов не гарантируют аналогичную экономию на вашем процессе.

Сколько стоят кредиты и Pro

На 6 сентября 2026 года страница тарифов показывает USD: Free — 0 USD в месяц с 500 кредитами; Pro — от 20 USD с 2000 кредитами; Enterprise — индивидуально. Один кредит обозначен как 0,01 USD, без наценки на передаваемые токены. Инференс расходует кредиты либо оплачивается напрямую поставщику при BYOK.

Условия BYOK противоречивы: таблица относит собственные ключи и локальные модели к Pro, а FAQ говорит о BYOK во всех планах. Проверьте реальное право доступа в аккаунте. Условия покупки на платформе имеют приоритет; доступность российских способов оплаты и цена в рублях не подтверждены.

Частые вопросы

Free означает неограниченный бесплатный инференс?

Нет. Это ежемесячный объём кредитов. Отсутствие наценки на токены не отменяет стоимость работы модели.

Можно сохранить OpenAI-совместимый клиент?

Базовое подключение меняет адрес, ключ и идентификатор модели из каталога. Затем нужно проверить необходимые функции и региональные условия.

При самостоятельном размещении промпты всегда остаются внутри?

Только если это соответствует маршруту модели. Внешний поставщик получает направленные ему запросы независимо от расположения шлюза.

Официальные ресурсы

• GitHub: код, лицензия и установка.
• Discord по ссылке с сайта: сообщество разработчиков.
• Статус сервиса: сведения об инцидентах.
• Intelligence: анализ трасс и собственные модели.