Jev vs JSON Mode：型付き意思決定と制約付き生成の比較

import json
import time
from openai import OpenAI

client = OpenAI()
VALID_QUEUES = {"billing", "technical", "sales", "abuse"}
MAX_RETRIES = 3

def route_ticket(ticket_text: str) -> dict:
    for attempt in range(MAX_RETRIES):
        resp = client.chat.completions.create(
            model="gpt-4o-mini",
            response_format={"type": "json_object"},
            messages=[
                {"role": "system", "content": 'Reply as JSON: {"queue": "...", "urgent": true|false}'},
                {"role": "user", "content": ticket_text},
            ],
        )
        payload = json.loads(resp.choices[0].message.content)  # json_mode: 必ずパースできる
        if payload.get("queue") in VALID_QUEUES:  # 値の検証: json_mode はここに何も言えない
            return payload
        time.sleep(2 ** attempt)  # 幻覚した列挙値 -> 生成全体を再請求
    raise ValueError("queue never converged")

# 典型経路: 試行ごとに 500-1500ms、リトライのたびに 20-60 出力トークンを請求

import requests

JEV_ENDPOINT = "https://api.typesafe.ai/v1/jev/evaluate"
AUTO_ROUTE_CONFIDENCE = 0.85

QUESTIONS = {
    "intent": {
        "type": "choice",
        "instructions": "この受信メッセージの種別を判定する",
        "criteria": {
            "billing": "支払い・請求・返金関連",
            "technical": "製品の不具合やバグ",
            "sales": "購入・アップグレード・価格の相談",
            "abuse": "安全性または悪用の報告",
        },
    },
    "is_actionable": {
        "type": "noul",
        "instructions": "このメッセージはチームの対応が必要か？",
    },
    "priority": {
        "type": "score",
        "instructions": "対応優先度を評価、1（空いたときで）から 5（手持ちを止めて即対応）",
    },
}

resp = requests.post(
    JEV_ENDPOINT,
    json={"state": {"message": "..."}, "questions": QUESTIONS},
    timeout=5,
)
resp.raise_for_status()
data = resp.json()

if data["intent"]["confidence"] >= AUTO_ROUTE_CONFIDENCE:
    lane = f"auto:{data['intent']['answer']}"  # 約70-100ms、入力トークンのみ、ゼロリトライ
else:
    lane = "review"

import OpenAI from "openai";
import { z } from "zod";
import { zodResponseFormat } from "openai/helpers/zod";

const RouteDecision = z.object({
  queue: z.enum(["billing", "technical", "sales", "abuse"]),
  urgent: z.boolean(),
});

const client = new OpenAI();

const resp = await client.chat.completions.create({
  model: "gpt-4o-mini",
  response_format: zodResponseFormat(RouteDecision, "route_decision"),
  messages: [{ role: "user", content: ticketText }],
});

const decision = RouteDecision.parse(
  JSON.parse(resp.choices[0].message.content!),
);
// 形状は保証される。"queue" が正しいキューか——そしてモデルがどれだけ
// 確信しているか——は表現できない。手に入るのは推測であって、較正された判断ではない。

const JEV_ENDPOINT = "https://api.typesafe.ai/v1/jev/evaluate";
const AUTO_ROUTE_CONFIDENCE = 0.85;

const QUESTIONS = {
  intent: {
    type: "choice",
    instructions: "この受信メッセージの種別を判定する",
    criteria: {
      billing: "支払い・請求・返金関連",
      technical: "製品の不具合やバグ",
      sales: "購入・アップグレード・価格の相談",
      abuse: "安全性または悪用の報告",
    },
  },
  is_actionable: {
    type: "noul",
    instructions: "このメッセージはチームの対応が必要か？",
  },
  priority: {
    type: "score",
    instructions: "対応優先度を評価、1（空いたときで）から 5（手持ちを止めて即対応）",
  },
} as const;

const resp = await fetch(JEV_ENDPOINT, {
  method: "POST",
  headers: { "Content-Type": "application/json" },
  body: JSON.stringify({
    state: { message: ticketText },
    questions: QUESTIONS,
  }),
});
const data = await resp.json();

const lane =
  data.intent.confidence >= AUTO_ROUTE_CONFIDENCE
    ? `auto:${data.intent.answer}`
    : "review"; // 低信頼帯・安全フラグ -> 同じレビューキューへ