Вышел OmniRoute: открытый API-шлюз для агрегации бесплатных лимитов ИИ-провайдеров

Опубликован исходный код OmniRoute — локального API-шлюза, который объединяет доступные квоты различных ИИ-провайдеров в единый эндпоинт. Система отслеживает и агрегирует бесплатные тарифы более 270 сервисов, формируя общий пул токенов для генерации текста и кода. Сразу после установки шлюз способен обрабатывать запросы без ключей авторизации, опираясь на встроенные открытые модели, что исключает этап первичной конфигурации.

Базовым механизмом системы является автоматическая маршрутизация запросов, при которой исчерпание лимита или отказ одного провайдера приводит к бесшовному переключению на следующую доступную модель. Архитектура поддерживает интеграцию с популярными инструментами разработки, такими как Cursor, Claude Code и Copilot, позволяя использовать агрегированный пул токенов внутри редакторов. Дополнительно в шлюз встроен алгоритм сжатия контекста, который сокращает объем передаваемых данных и замедляет расход квот.

Разработчики предусмотрели несколько профилей маршрутизации под разные задачи. Использование параметра auto/coding приоритизирует модели с высоким качеством генерации кода, тогда как auto/fast выбирает узлы с минимальной задержкой ответа. В результате пользователи получают отказоустойчивый доступ к языковым моделям, делегируя контроль за множеством бесплатных аккаунтов единому локальному сервису.