Jev Recipe / 实施步骤
用 Jev 搭建内容审核第一层
把直接通过、人工复核和阻止发布拆成清楚的输出,方便运营人员理解标准和追踪误判。
实现这个决策的 3 个步骤
01criteria 使用审核团队已有的政策语言,并给边界案例留下 review。
02第一层只做粗分流,不让模型替代完整的政策执行流程。
03政策变更时给 schema 和样本集一起做版本记录。
schema / 示例
{
"moderation": {
"type": "choice",
"instructions": "判断内容应该如何处理",
"criteria": {
"allow": "可以直接发布",
"review": "需要人工复核",
"block": "违反政策,应阻止发布"
}
}
} 复制到 Playground 后,先替换成自己的 state 和 criteria。