prismhq /
Routing & Cost Optimizationjev-router
基于 LiteLLM 与 Jev 构建的开源模型路由器:根据输入任务复杂度与上下文自动选择性价比最高的大模型。
License: MITLanguage: TypeScript最近提交:2026/9/17#llm-routing-cost#typed-decisions
JEV 在该架构中的决策位置
通过 System-1 单次前向推理对输入 Prompt 评定推理需求档位,再由本地 LiteLLM 路由分发请求。
核心架构收益
无需复杂的启发式正则即可实现高吞吐的任务分级与模型降本调度。
固定版本源码审校依据
本站人工核验过该仓库的以下固定 commit 源码文件,确认 Jev 决策逻辑的真实接入方式:
prismhq/jev-router/blob/583f0a1d1e0534cda3b6bbfa4b19aa1ec25d73a7/README.md
prismhq/jev-router/blob/583f0a1d1e0534cda3b6bbfa4b19aa1ec25d73a7/jev_router/__init__.py
prismhq/jev-router/blob/583f0a1d1e0534cda3b6bbfa4b19aa1ec25d73a7/jev_router/config.py
prismhq/jev-router/blob/583f0a1d1e0534cda3b6bbfa4b19aa1ec25d73a7/jev_router/deciders.py
审校说明与基准口径:经由公共仓库代码审查确认真实 Jev 可执行集成证据;决策机制提取自实际源码,未经本站性能跑分测试。
快速克隆仓库
git clone https://github.com/prismhq/jev-router.git
同分类相关项目推荐(模型路由与降本)
0xNatoshi
jev-codex-router
Routing & Cost OptimizationMITPython
每轮先让 Jev 判断任务类型与难度,再由本地策略为 Codex 选模型、思考深度和速度档。
JEV 在这里做什么
对当前轮次的任务层级与推理需求分类,本地规则据此选择模型配置。
↳ 把模型分配规则和判断记录放在本地,便于回看与调整。
#llm-routing-cost#coding-agents
5✓ 3 处源码证据
查看详情 →sherajdev
jev-research
Routing & Cost OptimizationMITTypeScript
一份 Jev 与 Herdr 协作指南,附有把任务分给不同 Agent 的路由原型。
JEV 在这里做什么
根据任务与仓库状态选择执行者,并给出风险和派发准备情况的判断。
↳ 提供可以阅读和修改的多 Agent 派工示例。
#llm-routing-cost#typed-decisions
✓ 2 处源码证据
查看详情 →