BerriAI /
Routing & Cost Optimizationlitellm
LiteLLM 的复杂度路由器可选用 Jev 判断请求应交给哪个模型档位。
GitHub
59,12311,569
License: MITLanguage: TypeScript最近提交:2026/9/19#llm-routing-cost#multilanguage-sdk
JEV 在该架构中的决策位置
将请求映射到预设复杂度类别,再由 LiteLLM 路由策略选择后端。
核心架构收益
让模型分流使用可检查的复杂度判断。
固定版本源码审校依据
本站人工核验过该仓库的以下固定 commit 源码文件,确认 Jev 决策逻辑的真实接入方式:
BerriAI/litellm/blob/56116079c8022da0e8f7ff9ccb017ad5aca5aed2/litellm/router_strategy/complexity_router/jev_classifier.py#L70
BerriAI/litellm/blob/56116079c8022da0e8f7ff9ccb017ad5aca5aed2/README.md
BerriAI/litellm/blob/56116079c8022da0e8f7ff9ccb017ad5aca5aed2/tests/README.MD
BerriAI/litellm/blob/56116079c8022da0e8f7ff9ccb017ad5aca5aed2/LICENSE
审校说明与基准口径:已核对固定版本 README 与集成源码。
快速克隆仓库
git clone https://github.com/BerriAI/litellm.git
同分类相关项目推荐(模型路由与降本)
0xNatoshi
jev-codex-router
Routing & Cost OptimizationMITPython
每轮先让 Jev 判断任务类型与难度,再由本地策略为 Codex 选模型、思考深度和速度档。
JEV 在这里做什么
对当前轮次的任务层级与推理需求分类,本地规则据此选择模型配置。
↳ 把模型分配规则和判断记录放在本地,便于回看与调整。
#llm-routing-cost#coding-agents
5✓ 3 处源码证据
查看详情 →sherajdev
jev-research
Routing & Cost OptimizationMITTypeScript
一份 Jev 与 Herdr 协作指南,附有把任务分给不同 Agent 的路由原型。
JEV 在这里做什么
根据任务与仓库状态选择执行者,并给出风险和派发准备情况的判断。
↳ 提供可以阅读和修改的多 Agent 派工示例。
#llm-routing-cost#typed-decisions
✓ 2 处源码证据
查看详情 →