Jev recipe / implementation steps

Jev によるコンテンツモデレーション第1次スクリーニング

許可（Allow）、審査（Review）、遮断（Block）の結果を可視化し、規約改定時にも監査可能な状態を維持します。

Build this decision in three steps

01ユーザー生成コンテンツ（UGC）と投稿箇所のコンテキストを監査 State として整理。

02コミュニティガイドラインに即した明確な判定基準（Criteria）を持つ多肢選択スキーマを定義。

03安全な投稿は自動公開、高確信度の明らかな違反は自動遮断、境界サンプルのみを審査トリアージへ。

schema / example

{
  "moderation": {
    "type": "choice",
    "instructions": "コミュニティポリシーに基づきコンテンツを判定",
    "criteria": {
      "allow": "ガイドラインに違反しない健全な投稿",
      "toxic": "誹謗中傷、嫌がらせ、攻撃的な表現",
      "nsfw": "成人向け・不適切な性的コンテンツ",
      "spam": "無関係な宣伝、誘導リンク、詐欺的投稿"
    }
  }
}

Copy this into the Playground, then replace the state and criteria with your own.

Continue building the workflow

Choose an output typeConfirm that Choice, Score, or Noul fits.Build a schemaTurn the business decision into a contract.Run the exampleInspect the provider decision and confidence.