StartLux-Decision v1.1 用于分类、是非判断和评分，适合给现有大模型应用增加决策环节。 输入业务状态和预定义问题，接口返回选项概率等结构化字段，业务代码据此分流。Instant 面向快速判断；AutoThink 在把握不足时追加推理，适合包含规则和复杂逻辑的任务。
本文根据冷逸在「沃垠AI」发布的体验文章及项目官方文档整理，重点说明选型、API 接入与结果处理。文中的榜单数据来自官方披露；原作者的演示结果会单独注明，本文没有另行运行模型评测。资料核对日期为 2026 年 10 月 20 日。
StartLux-Decision 是什么，和普通大模型有什么区别？
普通语言模型常用于撰写回复、解释问题和生成代码。决策模型接收一组事先定义好的问题，为业务流程提供判断结果。StartLux-Decision 支持文本、JSON 或图像作为状态输入，问题分为三种类型。
| 问题类型 | 适合解决的问题 | 主要返回信息 |
|---|---|---|
choice | 工单应该交给财务、技术还是物流团队？ | 选项、置信度、各选项概率，以及无合适选项的告警分数 |
noul | 当前情况是否需要当天处理？ | 回答“是”的概率 |
score | 当前问题的影响程度有多高？ | 等级期望值、等级说明和各等级概率 |
例如客服系统可以先由语言模型起草回复，再由决策模型判断回复是否满足业务要求、是否需要转人工。决策结果是流程输入，不能替代退款额度、访问权限等确定性规则的校验。
如果你还不熟悉这类模型，可以先阅读站内的 Jev 决策模型与开源生态介绍，再结合下文理解接口结构。
Instant 与 AutoThink 怎么选？
v1.1 共提供八款模型：Instant 有五档参数规模，AutoThink 有三档。两者的差异在于处理不确定问题的方式。
| 版本 | 参数规模 | 判断方式 | 适用场景 |
|---|---|---|---|
| Instant | 0.8B、2B、4B、9B、27B | 单次前向计算，提示词使用双向注意力 | 高频分类、简单审核、时延敏感的分流 |
| AutoThink | 4B、9B、27B | 先快速判断；低于设定门槛时追加推理 | 多条件规则、需要推理的比较和边界判断 |
官方说明，AutoThink 的快速判断与追加推理使用同一套模型权重。它并非先调用一个 Instant 模型，再转交给另一款语言模型。
选型时应把准确性、延迟和追加推理比例放在一起看。AutoThink 在不确定时生成推理轨迹，耗时会随推理长度增加。因此，不能把 Instant 的延迟直接套用到所有 AutoThink 请求上。
涉及金额比较时，程序仍应使用精确数值计算。原文举过这样一个边界例子：商品价格为 476.80 SEK，规则要求加运费后严格低于 500.84 SEK。运费为 24.03 时合计 500.83，符合条件；运费为 24.05 时合计 500.85，不符合条件。这种硬约束可以先由代码校验，再让模型处理需要语义理解的部分。
如何理解榜单成绩和原文测试？
官方仓库列出了两组容易混淆的数据：
- Decision Index 0.3 公开子集：27B AutoThink 为 73.37，27B Instant 为 72.83。这组成绩使用公开评测工具，不能与其他榜单版本直接混比。
- Decision Index 0.3.2 榜单：官方 2026 年 10 月 16 日发布记录称，27B Instant 以 Full 分数 69.12 在当时的 174 个条目中排名第一。这里的模型版本和统计口径都与上一组不同。
公众号作者还报告了自建的 138 个用例全部通过，以及视频演示中的约 62ms 请求延迟。这些属于原作者特定测试条件下的结果。没有同一测试集、硬件、并发量和网络条件，不能据此保证其他业务也能达到相同表现。
官方另有单张 H200、vLLM、仅一个请求在途的延迟数据：不同尺寸 Instant 的中位延迟为 25—52ms。部署容量规划时，应在自己的输入长度和并发条件下重新测量，至少记录准确率、P50/P95 延迟、失败率与人工接管比例。
使用 BambooNode API 接入 StartLux-Decision
官方提供的托管体验入口是 BambooNode。核对时，仓库将它标为免费、无使用量限制；这属于服务方当前说明，接入前仍应查看平台最新规则与可用性。
在平台注册并创建 API Key 后，使用以下地址和模型 ID：
接口：https://api.bamboonode.dev/v1/decisions
模型：startlux-decision-27b-autothink下面是一个工单分类请求，使用 Bash 语法，可在 Linux、macOS 或 Windows 的 WSL 环境执行。示例使用占位 Key；请在自己的环境中替换。
export BAMBOO_API_KEY="YOUR_BAMBOO_API_KEY"
curl --fail-with-body --silent --show-error \
https://api.bamboonode.dev/v1/decisions \
-H "Authorization: Bearer $BAMBOO_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "startlux-decision-27b-autothink",
"state": "A customer was charged twice for an order and wants a refund.",
"questions": {
"team": {
"type": "choice",
"instructions": "Which team should handle this ticket?",
"criteria": {
"billing": "Payments and refunds",
"tech": "Technical errors"
}
},
"urgent": {
"type": "noul",
"instructions": "Is there an immediate safety emergency?"
},
"severity": {
"type": "score",
"instructions": "Rate the impact of the duplicate charge.",
"criteria": ["Low impact", "High impact"]
}
},
"think_mode": "auto"
}'state 放本次判断需要的上下文，questions 放固定问题和候选项。尽量让问题具体、选项含义明确，并在发送前移除与判断无关的敏感信息。API Key 应保存在服务端环境变量中，避免写进网页前端、截图或公开代码仓库。
这个示例只展示接入格式，本文未使用真实 Key 调用托管服务，也没有将业务数据上传到该接口。
如何读取概率字段，设置决策阈值？
接入后，不能只读取一个选项名称就直接执行操作。官方接口有几个需要分别理解的字段：
noul表示“是”的概率，不是已经转好的布尔值。应用需要按自己的误判成本设置判断阈值。score是等级的期望值，可能带小数，不应默认当作整数下标使用。choice中的confidence是按选项数量归一化的置信度指标，不等于最高选项概率。none_probability是列出的选项都不合适的告警分数；官方 API 文档明确说明，它不是经过校准的概率。默认情况下，choice仍可能返回某个候选项；若业务允许“以上皆非”，应核对allow_none的配置与返回值。
AutoThink 的主要控制项如下，托管平台是否完整开放这些字段，以其当前接口实现为准。
| 字段 | 官方文档默认值 | 含义 |
|---|---|---|
think_mode | auto | auto 按门槛决定是否推理；never 只做快速判断；always 先推理 |
gate | 0.6 | 快速判断的最高概率低于该值时，触发追加推理 |
think_budget | 4096 | 追加推理的最大 token 数 |
none_check | true | 为选择题报告无合适选项的告警分数 |
gate 控制是否追加推理，不是业务最终放行的阈值。官方公开评测使用过 0.9 的门槛，默认服务配置为 0.6，两者不能混为相同条件。
这些推理控制项针对 AutoThink。Instant 只做一次判断，不能把示例改成 Instant 模型后仍保留 think_mode: "auto"；官方接口文档列明，这种组合会返回 422 错误。
例如客服流程可以把高把握、低风险的结果交给规则继续处理；对把握不足、候选项不匹配或出现超时的请求，进入人工队列。阈值应使用带标签的业务样本校准，不能直接把模型给出的 0.9 当作现实中必然有 90% 的正确率。
本地部署支持哪些方式，商用需要什么授权？
官方仓库列出了 vLLM、llama.cpp、MLX 和 transformers 等推理后端，以及 GGUF、MLX 等模型格式。Instant 在部分后端需要配套的双向注意力支持；量化精度也可能影响决策质量。部署前请按所选模型和后端阅读官方兼容性说明。
站内的 Clef 决策模型本地部署文章 可帮助理解本地决策服务的应用方式，但其部署命令不能直接套用到 StartLux。
代码许可与模型权重许可需要分开看。 官方 README 当前说明：仓库代码采用 Apache License 2.0；模型权重采用 CC BY-NC 4.0，仅供非商业使用，商业授权需要联系 StartLux。不能把“代码采用 Apache-2.0”理解为“模型权重也可直接商用”。托管 API 的使用还需遵守服务方规则。
文章评论