Routing admin
Управление L2 (direct) и L3 (own-hw) бэкендами + preferredOrder для моделей.
Cache (exact-hash L1)
Загрузка...
Provider prompt-cache (sticky, 24ч)
токены промпта из тёплого кэша провайдера
Загрузка...
Blend shadow QA
ENV BLEND_SHADOW_RATE ∈ [0..1] — доля blend-downgrade-запросов, для которых дёргаем оригинальную модель и считаем similarity. Окно — 24ч.
Загрузка...
L2 — Direct upstream accounts
Нет direct-аккаунтов.
L3 — Self-hosted nodes
Нет own-hw нод.
Model routing
preferredOrder — список бэкендов через запятую, проверяется сверху вниз. Допустимые: own, direct, openrouter.
Загрузка...