Jev Recipe / 实施步骤

用 Jev 搭建内容审核第一层

把直接通过、人工复核和阻止发布拆成清楚的输出,方便运营人员理解标准和追踪误判。

实现这个决策的 3 个步骤

01criteria 使用审核团队已有的政策语言,并给边界案例留下 review。
02第一层只做粗分流,不让模型替代完整的政策执行流程。
03政策变更时给 schema 和样本集一起做版本记录。
schema / 示例
{
  "moderation": {
    "type": "choice",
    "instructions": "判断内容应该如何处理",
    "criteria": {
      "allow": "可以直接发布",
      "review": "需要人工复核",
      "block": "违反政策,应阻止发布"
    }
  }
}
复制到 Playground 后,先替换成自己的 state 和 criteria。

继续完善这个流程