决策模型术语表

这些词在官方文档里都是英文。本站统一译法,并保留英文原名便于对照原文。

System OneSystem One 模型

一类专为「做出软件可直接消费的快速结构化决策」而训练的模型。与生成式大模型的关键差别在于:它不产生文本,所以没有需要解析的内容,也没有可以幻觉的余地 —— 输出直接就是类型化的值和概率分布,代码可以拿它分支、排序和路由。Jev 是第一个 System One 模型,Laya 属于同一类。

See also state · question

原文 System One

state状态

发送给模型、供它评估的材料:一封邮件、一张工单、一份 JSON 文档、一段合同文本。一次请求里所有问题都对同一个 state 求值,而且相互独立。这带来一个实用性质:增加问题几乎不改变响应时间,也不会因为问题多而产生上下文腐化。

See also question · choice

原文 状态

question问题(原语)

对 state 提出的一个类型化问题。只有三种:choice、score、noul。「原语」这个叫法是相对软件原语而言 —— 它们模块化、可组合、结构化。一次请求里可以混用三种并同时提出多个。

See also choice · score · noul

原文 原语(问题)

choice选择(choice)

从一组给定的选项里选一个。Jev 的 Choice 最多支持 255 个选项。回答里除了选中的那一项,还会给出每个选项各自的可能性以及整体置信度。适合分类、路由、从候选集里挑一个这类任务。

See also score · noul · confidence

原文 Choice

score评分(score)

把 state 放在一条有序的、有描述的量规上。回答是落在某一档上的分值、各档的可能性、以及置信度。与 choice 的区别在于选项之间是否有序。常见的坑是「一次问一个复合判断」—— 正确做法是拆成多个原子 score,再在代码里用自己的权重合成。

See also choice · noul · confidence

原文 Score

noulnoul(是非判断)

问一个是非题,返回「答案为是」的概率(0–1)。它和 confidence 不是一回事:noul 给出的是关于世界的概率,confidence 给出的是关于模型自己的判断可靠程度。这个区别是初学者最容易混淆的地方。

See also confidence · choice

原文 Noul

confidence置信度(confidence)

模型对自己这次判断有多确定的度量。这就是 System One 模型最有用的输出:答案告诉你「是什么」,置信度告诉你「该不该据此行动」。典型用法是做门控 —— 高置信度自动处理,低置信度转人工。注意并不是所有问题类型都返回它:choice 和 score 有,noul 没有(noul 本身就是一个概率)。

See also noul · score

原文 置信度

calibration校准

概率输出是否「说到做到」的性质:模型说 70% 的那些样本里,真的约 70% 是正例。两个模型都用强化学习配合严格适当的评分规则(Jev 叫 RLCD)来训练校准,这正是置信度能用来做门控的前提 —— 未经校准的置信度只是数字,不能拿它设阈值。

⚠️ 但「训练时用了校准目标」不等于「输出的概率已经校准」。 这一点目前有公开的反面证据:有独立实验让 Jev 猜一颗公平骰子 400 次,它 400 次选同一个面、平均自报 82.9%,而实际正确率是 19.0%;也有预注册的分布外测试测出不同原语的偏差方向相反。落地时请把置信度当作待校准的先验,并在自己的数据上量出可信区间 —— 见指南里的实测与阈值选择。

相关项目 SemIf4,162★ · NanoJev2,159★ →

See also confidence · noul

原文 置信度

escalation升级(转人工)

置信度落在中间带时,把决策交给人的做法。它不是「失败分支」,而是设计出来的一档 —— 高置信度自动处理、低置信度丢弃,中间那一带交给人。两个容易漏掉的点:中间带是人力成本(带宽越宽,人处理的越多);升级必须有兜底,否则没人来看时这件事就永远停在那里,而面板上看起来和「一切正常」一模一样。

相关项目 fast-jev-compaction6,653★ · foreman540★ →

See also confidence · calibration

原文 置信度门控路由

cascade级联

先让便宜的一档做判断,只把它不确定的部分交给更贵的模型。省下来的比例等于高置信区间的覆盖率(有实测:在 ≥90% 确信的那 37% 上定案,就省掉 37% 的大模型调用),而不是某个固定的百分比。前提是小模型的错误是随机噪声 —— 如果它系统性地在某一类输入上过度自信,那一类就永远不会被升级。

相关项目 jev-review (devagrawal09)586★ · jev-search446★ →

See also escalation · fan-out

原文 SDE 级联

fan-out并发提问

一次请求里问很多问题,让代码挑出有用的答案。省下来的主要是输入:同一份 state 只发一次,所以问题越多,每个请求那份固定开销被摊得越薄(有实测:8 个问题并行时输入 token 中位数省 76–86%)。⚠️ 它适合彼此独立的判断(分类、打分、过滤),不适合需要互相比较的排序 —— 有基准测出按批处理会过不了排序质量门。

相关项目 jev-review (devagrawal09)586★ · jev-search446★ →

See also cascade · question

原文 推测性扇出

guardrail护栏(门控)

在内容进入或离开一个系统之前,用一次结构化的判断决定「放行 / 复核 / 阻断 / 改道」。它的关键取舍不在阈值,而在出错时往哪边倒:挡风险的护栏(权限、密钥、危险操作)应当 fail-closed(出错就拦),挡效率的护栏(收尾检查、格式检查)应当 fail-open(出错就放)。另一个反复出现的做法是确定性规则先跑,只把规则判不了的灰区交给模型。

相关项目 fast-jev-compaction6,653★ · foreman540★ →

See also escalation · noul

原文 LLM 的防护栏

abstention弃答

模型对自己的答案不够确定时,不丢弃它、只做标记的机制。请求里给一个 min_confidence 阈值,低于它的答案会被标上 low_confidence,而答案本身照常返回 —— 决定权留给调用方。门控状态有三种:passed(过线)、abstained(低于阈值)、unevaluated(答案没有可用的置信度,门控无从判断)。没有设阈值就一个状态也不写:「没有这三个键」本身就是「这一轮没开门」的报告,而不是第四种状态。

See also confidence · calibration · guardrail

原文 HTTP API

local deployment本地部署

把开源决策模型跑在自己机器上的做法,Ollaya 是其中一套现成方案。要点:权重拉到本地磁盘、服务监听在本机地址(如 127.0.0.1:11435)、没有按量计费、数据不出自己的环境。它与模型是两层:同一套部署可以装多个模型,而准确率是模型的,不是部署方式的。

See also System One

原文 Ollaya · Quickstart