Jev 替代品

Von

不用显卡的那条路,也是独立榜单上最强的开源模型

一句话结论

没有显卡时就跑 Von:395M 编码器、磁盘约 1.5GB、CPU 上单次判定低于 15ms。它也是独立 49 任务基准上最强的开源模型,约 0.70–0.72,而 Jev 是 0.966——这就是整个品类最诚实的一句结论。它被记录下来的失败模式很具体:在陌生领域会塌缩到单一模式。

Von 是一个 395M 的 ModernBERT-Large 编码器加三个决策头——选选项、判真假、打分。它完全不需要显卡,CPU 上单次判定低于 15ms,磁盘占用约 1.5GB。它还在这个生态里唯一一个"局外人"写的基准上领跑开源阵营:独立的 49 任务分类器套件。

Train a decision model

A small non-autoregressive encoder with decision heads. No text generation at all — the classic classifier shape, rebuilt for natural-language options.

搜索别名

vonVonvon-sdkwfzyx/von

关键规格

Licence
Apache-2.0
Author
wfzyx
Backbone
ModernBERT-Large 395M + 三个决策头
Size
磁盘约 1.5GB
Latency
CPU 上单次判定低于 15ms——不需要显卡
Wire format
npm 上的 von-sdk,供 Node.js 调用方使用
Install
见仓库

Von 对 Jev

独立 49 任务数字是整个生态里唯一由"与任何项目都无利益关系的人"产出的结果。看它,优先于任何项目自报的分数。

Von 对 JevVonJev
独立 49 任务基准约 0.70–0.72 —— 开源阵营第一0.966
干净的 20 桶路由任务在边界清晰的任务上约 0.834该切分未公布
杂乱的 49 任务套件约 0.715 —— 出了自己的车道就断崖式下跌0.966
硬件CPU,约 1.5GB,无需显卡托管服务
延迟本地低于 15ms一次网络往返
已记录的失败模式在陌生领域塌缩到单一模式见官方公布的失败模式清单

什么时候该选 Von

当部署约束是真实的——边缘盒子、笔记本、纯 CPU 容器,或者环境不允许把 state 发给第三方——选 Von。它小到"无聊",而且是唯一一个靠外部基准而非自评赢得位置的开源项目。把它指向一个狭窄、定义清晰的决策(一个路由桶、一道真假闸门),它又快又够用。

什么时候该放弃它

开放域或陌生领域不要用 Von。它被独立记录下来的失败模式是:领域一旦不是它被指向的那类,就会塌缩到单一答案;它自己的数字也从干净路由任务上的约 0.834 掉到杂乱 49 任务套件上的约 0.715。如果你的输入不可预测,这个落差就是全部故事——此时级联到更强的模型比规模化地做错决定更便宜。

三步接入 Von

01在现有机器上跑起来——CPU、1.5GB、不需要加速卡。如果你的调用方是 JavaScript,有现成的 Node.js SDK。
02把决策范围收窄。Von 在边界清晰的路由或真假任务上最强,输入分布一宽就最弱。
03在任何有后果的动作前加置信度闸门,并在信模型卡之前先测自己的留出集。
bash / 模型 + SDK
# Von 不需要显卡:395M 参数,磁盘约 1.5GB。
# CPU 上单次判定低于 15ms。

git clone https://github.com/wfzyx/von.git && cd von
# 按 README 安装,然后起服务或进程内调用

# Node.js 调用方可以用已发布的 SDK:
npm install von-sdk
#   import { decide } from 'von-sdk'
#   const r = await decide({
#     state: '三月份被扣了两次款。',
#     question: '该由哪个团队处理?',
#     options: ['billing', 'technical', 'sales'],
#   })
#   if (r.confidence < 0.85) escalateToHuman(r)
单次判定低于 15ms 会改变架构选择:你可以对每一个动作都设闸门,而不是抽样;整个模型可以直接和你的应用一起放进内存。

关于 Von 的常见问题

Von 真的能替代 Jev 吗?

对于无显卡硬件上一个狭窄、定义清晰的决策,它够用。作为通用替代品则不行:独立 49 任务基准上最强的开源选手约 0.70–0.72,而 Jev 是 0.966。这个生态里没有人拿干净的证据声称相反。

为什么 Von 的 star 数远少于 Laya,评价却更高?

因为 star 衡量的是关注度,不是准确率。独立 49 任务基准上 Von 领跑开源阵营,而 Laya 只有 0.583。Laya 有一万九千多 star,Von 只有几百。理解这个落差,是理解整个品类最有用的第一步。

Von 在哪里会失败?

陌生领域。基准记录它的失败模式是:输入与它被指向的领域不像时塌缩到单一模式;项目自己的数字也从干净 20 桶路由任务约 0.834 掉到杂乱 49 任务套件约 0.715。一定要测你自己的分布。

需要什么特殊硬件吗?

不需要,这正是重点。Von 是 395M 编码器,磁盘约 1.5GB,CPU 上低于 15ms 返回,因此可以跑在笔记本、边缘设备或纯 CPU 容器里——本对比中最便宜的部署方案。

来源

本页所有对比数字均为第三方公开口径或对公开仓库的阅读,不是本站实测。我们没有对 TypeSafe Jev 本体做过实测,且其主客户协议禁止利用其输出开发同类产品。