Jev 101 logo
Jev 101

Guides / 视频转图文攻略

OpenJevs 开源 Jev 模型全景：Semif、Nimble、Decider、DiffusionGemma 与 Laya 实测

最近更新: 2026-10-09

Sam Witteveen 用 21 分钟实测开源 Jev 生态：JevBench 排名、冻结 Qwen3.5-4B 的 Semif logits 读出、Nimble 对比数据 LoRA 配方、Decider 约 33ms 的类型化答案、DiffusionGemma 批量路由，以及在免费 Colab T4 上微调 Laya。

速览结论

Jev 走红后约 24 小时内冒出 20-30 个开源实现。在 JevBench（智力、校准、速度、成本各占 25%）上，Jev 1.13.0 拿 75.3 分，Semif（冻结的 Qwen3.5-4B）以 74.6 紧随其后——简单任务差距很小，困难档差距仍明显。零训练方案：学 Semif 直接读选项 token 的 logits；要窄域高准确率：用 Nimble 的对比数据 LoRA 配方（约 3000 条样本）；追求吞吐：Decider 单次答案约 33ms、DiffusionGemma 每秒 27.4 次决策；最小本地方案：421M 参数的 Laya，免费 T4 就能微调。难样本再级联给推理模型兜底。

视频来源

Sam Witteveen

21:3253wDOI_7x8I
访问频道观看原视频

分步图文攻略

  1. 1

    先看 JevBench 记分板，再挑你的开源 Jev

    JevBench v1.2.2 对每个系统跑 534 次决策，按智力、校准、速度、成本各 25% 取几何平均打分。官方榜上 Jev 1.13.0 以 75.3 领跑，紧随其后的是 Semif（Qwen3.5-4B）74.6，然后是 djev（Maisa 的 diffusion-gemma）74.3 和 Laya 70.1。前沿模型则是另一番景象：GPT-5.6 Luna 的智力子项高达 97，总分却只有 66.0，成本约为 Jev 的六倍、速度也慢得多。把权重切成只看准确率，小开源模型的差距会拉大——顺便一提，Jev 自己的服务条款甚至禁止拿它与其他模型跑基准对比。

    JevBench Score 排行榜显示 Jev 1.13.0 以 75.3 分在开源模型中居首，Semif 74.6、djev 74.3、Laya 70.1 依次排在后面，权重为智力、校准、速度、成本各 25%。
    JevBench 官方榜：Jev 75.3、Semif 74.6、djev 74.3——开源阵营在综合分上咬得很紧。跳转至 4:02
  2. 2

    零训练上手：在已有模型上跑 Semif 读出法

    Semif（原名 OpenJev）就是一个冻结的 Qwen3.5-4B，完全没有训练。把问题和选项写进 prompt，跑一次 prefill，然后不让模型生成文本，直接读选项 token 的 logits 做 softmax。演示里，一张双重扣款的客服工单被打到 billing 86.7%、account_access 9.1%、sales 1.6%、escalate 2.6%——前向 31 毫秒、总耗时 35 毫秒、零输出 token、输入 209 token。Sam 指出这正印证了他对 Jev 本体的猜测：在 prefill 阶段直接做预测；改一句政策措辞，分布立刻跟着变。

    Semif 演示在单次前向中直接从选项 token 的 logits 读出路由概率，对双重扣款工单给出 billing 86.7%，前向仅 31 毫秒、零输出 token。
    单次前向：直接从原始选项 logits 读出 billing 86.7%，无需生成。跳转至 6:16
  3. 3

    用 Bespoke Nimble 的对比样本微调 LoRA

    Bespoke Nimble 在 Qwen3.5-9B 上挂 LoRA，用不到 3000 条样本训练，并明确表示没有从 Jev 蒸馏。诀窍是对比数据策展（contrastive data curation）：写两条几乎一样的记录，只翻转一个事实，让正确答案跟着翻转——退款由 Mira 签字即授权，同一记录换成 Noah 签字就不授权。演示中适配器返回 refund_authorized true、customer_tone CALM，总耗时 141 毫秒（每字段 47 毫秒），点一下 Flip the fact 按钮把 Mira 换成 Noah 就能看到判定翻转。它在自己的保留集上约 90%，基座模型约 66%，Jev 约 93%；但在 JevBench 困难档只有约 44——Priya 预审批那个例子甚至要到措辞对上才判对，所以它的强是窄域的强。

    Bespoke Nimble 演示页中 signed-by-Mira 的退款记录被判为 refund_authorized true（141 毫秒、CALM 情绪），旁边 Flip the fact 按钮可一键换成 signed-by-Noah 验证判定翻转。
    Flip the fact：把 signed-by-Mira 换成 signed-by-Noah，看判定当场翻转。跳转至 9:08
  4. 4

    用 Decider 做约 33 毫秒的类型化速答服务

    Mapika 的 Decider 跑在小得多的 Qwen3.5 base 模型上，读的是每个答案槽位的隐藏态并投影到你的选项上，而不是用输出 logits。它与 Jev 一样支持 choice、score、null 三种问题类型，上下文最长 32K，还直接对外提供与 Type Safe API 相同的 wire format，可以无缝顶到现有客户端后面。ANSWERS 面板把一张双重扣款工单判给 billing 99.8%，urgency 1.78、escalate yes 72.3%、frustration 1.52——连跑十次平均每次约 33 毫秒。Sam 的保留意见是：这个模型爱骑墙，分布常常停在中间，而 Jev 大多数时候给出高置信度的果断判定。

    Decider 的 ANSWERS 实时面板以 35 毫秒平均延迟把双重扣款工单判给 billing（99.8%），urgency 得分 1.78、escalate 概率 72.3%。
    Decider 的 ANSWERS 面板：billing 99.8%、平均约 33 毫秒、escalate 72.3%。跳转至 12:00
  5. 5

    体验 DiffusionGemma 的批量分类吞吐

    DiffusionGemma 是完全不同的物种：一个 26B 的扩散语言模型（本次演示为 RTX Pro 6000 上的 diffusiongemma-26B-A4B NVFP4），每步去噪一整块画布，同时读出所有答案槽位的分布，并通过一个 vLLM PR 接上了 Jev 的 schema 格式。演示里 16 张客服工单以并发 16 一次齐发，「boom——直接跑完」，MEASURED 面板测得约每秒 27.4 次决策。Sam 称这个吞吐 insane，还提到它在技术/账单路由和「客户很恼火」的情绪识别上质量在线，只是相比同尺寸的 Gemma、Qwen 同类，他感觉训练欠火候。如果你要做天量问题分类，就是它了。

    DiffusionGemma 26B 结构化读取控制台以并发 16 排队 16 张支持工单，在 RTX Pro 6000 上按 Jev wire format 单步去噪完成分类。
    16 张工单、每张一次去噪：DiffusionGemma 实测每秒 27.4 次决策。跳转至 14:48
  6. 6

    在免费 Colab T4 上运行并微调 Laya

    Laya 是老路线的新生：一个 421M 参数的非自回归决策模型，基于 ModernBERT-large 加一个 2 层决策头，单次前向约 35 毫秒答完 choice、score、null 三类问题，覆盖约 100 种语言。团队发布了 Google Colab，用 RLCD 策略梯度（log-score + spherical score + ranked probability score）在免费 T4 上微调，FP16 峰值显存约 6.5GB。Sam 的评价：这个体量算得上惊艳，但在只看准确率的 JevBench 权重下它落后于更大的模型——多半因为个人作者在老编码器上做的微调，泛化不过资金充足的实验室。不过在你已有的硬件上，它仍是接触 Jev 式模型最便宜的方式。

    Google Colab 笔记本在免费 NVIDIA T4 上微调 421M 参数、基于 ModernBERT-large 的 Laya 决策模型，FP16 峰值显存约 6.5GB，单次前向推理约 35 毫秒。
    在免费 T4 上微调 Laya（421M 参数）：显存约 6.5GB，推理约 35 毫秒。跳转至 18:22

常见问题（FAQ）

开源 Jev 替代品有哪些比较好？

截至这期视频已经有 20-30 个开源实现。JevBench 上最强的是 Semif（冻结 Qwen3.5-4B 的 logits 读出，74.6 对 Jev 的 75.3）、djev（74.3）和 Laya（70.1）。要处理图片输入可以看 Alex Wartega 的 OpenJev，它能根据画面状态玩 Doom 和 Minecraft；Nano Jev 则是一个 600M 参数的小模型，靠网格选项打 Pac-Man 风格的小游戏。

能不能免费在本地跑一个 Jev 式分类器？

可以。Laya 提供了官方 Google Colab，在免费 T4 GPU 上微调并运行一个 421M 参数的模型（峰值显存约 6.5GB，单次前向约 35 毫秒）。Semif 的读出法在你已有的任何模型上都能用；视频里更是把六套实现跑在同一张 RTX Pro 6000 上。

开源 Jev 模型离官方 Jev 有多远？

看 JevBench 综合分非常接近：Jev 75.3 对 Semif 74.6、djev 74.3。但困难档差距就拉开了——Bespoke Nimble 在自己保留集上约 90%，困难档却只有约 44；多跳推理和日期运算这类任务，仍建议级联给推理模型（低/中推理力度即可）兜底。

怎么在自己的数据上微调开源 Jev 模型？

抄 Bespoke Nimble 的对比数据策展作业：成对撰写几乎相同的记录，只翻转一个事实让正确答案翻转，再训练 LoRA——约 3000 条这样的样本就让他们在自己保留集上拿到约 90%（基座 Qwen3.5-9B 约 66%）。Sam 还点名 MiniCPM 5 2B 是这套配方值得尝试的候选基座。

相关推荐

OpenJev RLCD 实操：开源校准决策模型本地部署

开源版图头部的深潜：OpenJev decider 模式、Mspika/decoder 的 RLCD 家族，以及对阵并行 LLM 的诚实延迟对照。

阅读

Jev 基准测试

智力、校准、速度、成本怎么打分，以及开源模型落在哪个位置。

阅读

Awesome Jev 项目

开源 Jev 实现精选清单，含 Semif、Decider、DiffusionGemma 与 Nano Jev。

阅读

Jev 分类极速上手

自托管开源模型之前，先用托管 Jev API 体验 Choice、Score、Noul。

阅读

Julia-1：一个用 pip 就能装的开源决策模型

开放权重浪潮的最新成员——纯 Python 安装，附 10 条消息对 if 规则的路由对决。

阅读

Clef 27B 多模态实战

长出这个纯文本阵容之外的重量级：Cloudflare 的 27B Clef 用同一个单次前向契约读图读视频。

阅读

Strands Decider 实测指南

AWS Strands Agents 家族加入这份名单：1.9B pointer head 决策模型在 8GB 笔记本上本地安装实测，失败段原样保留。

阅读

Liquid AI d1 攻略：最新的开源决策模型家族

Liquid AI 的多模态 d1-3B 与 d1-omni-600M 在 MacBook 上的实测——含音频输入。

阅读

更多视频攻略