Единая точка доступа ко всем языковым моделям — российским, локально развёрнутым и внешним. Учёт потребления и стоимости по пространствам, лимиты, правила роутинга.
Российские, локально развёрнутые и внешние модели подключаются в одном месте; агенты и сервисы обращаются к ним по OpenAI-совместимому интерфейсу.
Расход и стоимость видны по пространствам, агентам и сервисам — с лимитами на день и месяц.
Модель под задачу: дешёвая для рутины, сильная для сложного; смена провайдера настройкой, без правки агентов.
При передаче запроса во внешнюю модель чувствительные сведения маскируются, а в ответе восстанавливаются.
При обращении к внешним моделям запросы проходят умную чистку: чувствительные сведения распознаются на русском языке — имена, телефоны, адреса, реквизиты — и обрабатываются по одному из трёх режимов. Режимы и правила роутинга настраиваются.
Чувствительные сведения распознаются на русском языке и заменяются перед передачей во внешнюю модель.
Передача отдельных категорий данных во внешние модели запрещается.
Замаскированные сведения возвращаются на место в ответе — пользователь видит исходные данные.
Роутер снимает привязку к одному поставщику: модель выбирается под задачу и бюджет, а смена провайдера не ломает уже настроенных агентов. Расходы на ИИ видны в разрезе команд и проектов, а чувствительные данные не уходят во внешние модели в открытом виде — режимы маскирования описаны в разделе «Безопасность».
Роутер входит в платформу — в облаке и в инсталляции в вашем контуре. Учётные записи поставщиков моделей остаются вашими: в enterprise-поставке платформа работает на ваших ключах и ваших локальных моделях.
Как получить ключ, подключить роутер к своему редактору кода или скрипту и выбрать модель — в документации.
Бесплатный старт в облаке или демо под вашу задачу.