Clef：Cloudflareの代替オープンウェイト意思決定モデルを公開

{
  "answers": {
    "spam": { "type": "noul", "noul": 0.94 },
    "topic": {
      "type": "choice",
      "choice": "advertising",
      "confidence": 0.9,
      "probabilities": {
        "technical": 0.07,
        "advertising": 0.9,
        "other": 0.03
      }
    }
  }
}

// Next.js 서버 코드에서 사용한다.
export async function classifyBlogComment(commentText: string) {
  const account = process.env.CLOUDFLARE_ACCOUNT_ID;
  const token = process.env.CLOUDFLARE_API_TOKEN;
  if (!account || !token) throw new Error("Cloudflare 환경변수가 필요합니다.");

  const payload = {
    model: "clef-flash",
    state: { comment: commentText },
    questions: {
      spam: {
        type: "noul",
        instructions: "댓글이 글과 무관한 광고 또는 반복 스팸인가?",
      },
      topic: {
        type: "choice",
        instructions: "댓글의 주된 목적을 분류하라.",
        criteria: {
          technical: "기술 질문이나 기술 관련 의견",
          advertising: "상품·서비스·외부 사이트 홍보",
          other: "어느 항목에도 해당하지 않음",
        },
      },
    },
  };

  const endpoint = new URL(
    `https://api.cloudflare.com/client/v4/accounts/${account}/ai/run/@cf/cloudflare/clef-flash`,
  );
  const result = await fetch(endpoint, {
    method: "POST",
    headers: {
      Authorization: `Bearer ${token}`,
      "Content-Type": "application/json",
    },
    body: JSON.stringify(payload),
    signal: AbortSignal.timeout(10_000),
    cache: "no-store",
  });
  if (!result.ok) throw new Error(`Clef HTTP 오류: ${result.status}`);

  const envelope = await result.json();
  if (envelope.success !== true || !envelope.result) {
    throw new Error("Clef 응답을 확인할 수 없습니다.");
  }
  return envelope.result;
}

import importlib.util
import sys
from pathlib import Path
from huggingface_hub import snapshot_download

release_dir = Path(snapshot_download(
    repo_id="Cloudflare/clef-flash",
    revision="17f0b0ad64efb65d273590632833508766b2aae6",
))
module_spec = importlib.util.spec_from_file_location(
    "clef_runtime", release_dir / "joint_schema_model.py"
)
runtime = importlib.util.module_from_spec(module_spec)
sys.modules[module_spec.name] = runtime
module_spec.loader.exec_module(runtime)
decision_model, input_processor = runtime.load_release_model(release_dir)

decision = runtime.systemone(decision_model, input_processor, {
    "model": "clef-flash",
    "state": {"comment": "새 글의 예제 코드를 더 설명해 주세요."},
    "questions": {
        "technical_question": {
            "type": "noul",
            "instructions": "댓글이 기술 설명을 요청하고 있는가?",
        }
    },
})
print(decision["answers"])