Тег

RouterBench

1 материалов

Роутер, который оценивает сложность каждого промпта, не вызывая модель (github.com)

Wayfinder встаёт перед любым OpenAI-совместимым клиентом и решает «локально или в облако» по структуре, а не по смыслу: «решение „сложно или просто“ на каждом промпте, офлайн и детерминированно, без вызова модели». Лексические признаки обыгрывали сложные промпты на ~20%, но не обобщались — по умолчанию выключены.

CISO, строящий собственный роутер, возразил из опыта: нельзя маршрутизировать между моделями с разными окнами контекста и настройкой под инструменты на уровне прокси, не воюя с теми приёмами, которые и заставляют харнесс работать.