让模型做判断题,它总想写小作文。Cloudflare 开源的 Clef 不生成文字,一次前向传播直接给每个选项的概率。我在 RTX 4070 Ti SUPER 上用 llama.cpp 跑了一遍 Q4_K_M,并用一个 .NET 控制台对比了「生成 JSON」和「打分头」两条路。
让模型做判断题,它总想写小作文。Cloudflare 开源的 Clef 不生成文字,一次前向传播直接给每个选项的概率。我在 RTX 4070 Ti SUPER 上用 llama.cpp 跑了一遍 Q4_K_M,并用一个 .NET 控制台对比了「生成 JSON」和「打分头」两条路。
在开发 AI Agent、自动化工作流或深度使用 Claude Code / Cursor / Codex 这类编程助手时,许多开发者常面临两个核心痛点:上下文爆炸导致账单飙升,以及拿昂贵的前沿生成模型去处理简单的“是非题/选择题”既慢又浪费。 近期由 TypeSafe 提出的 Jev(System One 决策模型)及其周边生态正是为了解决这一结构性问题而生。它改变了传统“什么都让大模型输出自然语言”的做法,把纯判断逻辑从庞大的生成模型中剥离。本文全面梳理 Jev 的核心运作机制以及社区中最受关注的 8 个开源项…