Jev の代替
Kev
公式 SDK をそのまま動かし続ける drop-in
結論
アプリケーションコードを触らずにホスト版 Jev の呼び出しを置き換えたいなら Kev です。同じ `/v1/systemone` ワイヤ形式なので、base URL を変えるだけで公式 TypeSafe SDK が使えます。ただし 5% エラー予算での自動化カバレッジは約 0.45〜0.57(Jev は 0.70)で、知識系の差は基盤モデル由来でありアダプタでは埋まりません。
Kev は Jared Palmer による rank-16 LoRA アダプタとポインタヘッドの一族で、基盤は Qwen3.5 です。Kev-0.5B として始まり、0.8B / 4B / 9B と 27B 版に育ちました。本当の売りは精度ではなく、TypeSafe 自身の POST /v1/systemone 契約を実装している点です。base URL を 1 つ変えるだけで公式 SDK がそのまま動きます。
Adapt a large model
Keep the LLM as the backbone and bolt a decision structure onto it — LoRA adapters or a pointer head — so one prefill answers every question.
検索別名
主要スペック
- Licence
- Apache-2.0
- Author
- Jared Palmer
- Backbone
- Qwen3.5 + rank-16 LoRA + ポインタヘッド · 0.8B / 4B / 9B、ほか 27B 版
- Size
- 4B で約 9GB · 27B で約 55GB
- Latency
- MLX で同一 state 47ms・新規 state 77ms · H100 で 18.1ms · M5 で 721ms
- Wire format
- TypeSafe の POST /v1/systemone をそのまま実装
- Install
- uv sync --extra serve
Kev 対 Jev:Kev 自身が公開した敗因で比べる
第三者またはプロジェクト自身の公開値です。Kev の自己評価は較正について異例なほど率直で、それが本ページを具体的に書ける理由です。
| Kev 対 Jev:Kev 自身が公開した敗因で比べる | Kev | Jev |
|---|---|---|
| 未見のソース | 0.822(9B)· 0.848 / 0.896(27B) | 0.857 |
| 自信過剰な誤り | 4.0% | 3.7% |
| 5% エラー予算での自動化率 | 0.45〜0.57 | 0.70 |
| 知識課題(MMLU-Pro) | 0.515 — 基盤モデルの天井でありアダプタの問題ではない | 0.840 |
| 導入コスト | base URL を 1 つ変えるだけ。SDK は無変更 | ウェイトリストと API キーが必要 |
Kev を選ぶべきとき
Kev はオープン生態系で最も短い移行経路です。すでに TypeSafe SDK を呼んでいて、関心がデータの所在・呼び出し単価・レート制限にあるなら、base URL の差し替えは 1 行の変更で済み、他はすべて動き続けます。中位の GPU なら 4B が実用的なスイートスポットです。MLX バックエンドで Mac も現実的になり、旧 PyTorch MPS 経路の 213ms から同一 state で 47ms まで下がりました。
見送るべきとき
知識依存の判断に Kev を選ばないでください。MMLU-Pro 0.515 対 Jev 0.840 は基盤モデルの天井で、アダプタの訓練では埋まりません。また公開されている精度をそのまま前提にしないこと。それはプロジェクト独自のプロトコルで未見ソースを測った値で、他のプロジェクトはそれぞれ別のプロトコルを使っています。同じ週に 4 つの相容れない「Jev スコア」が生まれたのはそのためです。
Kev 導入の 3 ステップ
# 1. Kev チェックポイントをローカルで配信
git clone https://github.com/jaredpalmer/kev.git && cd kev
uv sync --extra serve
KEV_DTYPE=bf16 uv run --extra serve python -m kev.serve \
--run jaredpalmer/kev-0.8b --port 8009
# 2. Jev と同じリクエスト形状で呼ぶ
curl -s localhost:8009/v1/systemone \
-H 'content-type: application/json' \
-d '{
"model": "kev-latest",
"state": "靴が遅れて届き、しかもサイズが違います。",
"questions": {
"department": {
"type": "choice",
"instructions": "どのチームが対応すべきか?",
"criteria": {
"returns": "交換・返金・破損品",
"shipping": "配送状況・遅延",
"billing": "請求・支払い"
}
}
}}'Kev についてよくある質問
Kev は本当に Jev のそのままの代替ですか?
ワイヤ上はそのとおりです。TypeSafe の POST /v1/systemone を実装し、同じ state と choice / score / noul の形を受け付けるので、base URL を変えれば公式 SDK が動きます。品質は等価ではありません。未見ソースの精度は数ポイント劣り、5% エラー予算での自動化率は 0.45〜0.57 対 0.70、知識課題はさらに大きく劣ります。
どの Kev チェックポイントを使うべきですか?
中位の GPU なら 4B が実用的です。9B は倍のメモリに見合う伸びが小さく、27B は約 55GB 必要です。初期の Kev-0.5B も残っており初期記事が指していたのはそれですが、プロジェクトは 0.8B / 4B / 9B へ移行しているため、古い比較は別のモデルを測っている可能性があります。
なぜ Mac で Kev は遅いのですか?
以前は遅く、旧 PyTorch MPS 経路では同じ要求に約 213ms かかっていました。2026 年 9 月に追加された MLX バックエンドで、新規 state 77ms・同一 state 47ms になりました(初回のみ 3.2 秒の追加コスト)。
自前の判断データで Kev を微調整できますか?
それが想定されたワークフローです。アダプタは小さく、訓練手順も文書化されています。ただしまず自前のホールドアウトで測ってください。公開値は独自プロトコルによるもので、この生態系の横断比較は一貫性が無いことで有名です。
出典
- jaredpalmer/kev — アダプタ・配信・評価
- オープンな Jev 代替の一覧 — MLX レイテンシと drop-in の位置づけ
- HN の議論(438 ポイント)
- JevBench ボード v1.3.0 / v1.4.2
本ページの比較数値はすべて第三者の公開値、または公開リポジトリの読解であり、当サイトの実測ではありません。当サイトは TypeSafe Jev 本体を実測しておらず、同社の契約はその出力を類似製品の開発に用いることを禁じています。