我们不做模型。我们决定你用哪个。
一层夹在你和所有你要付钱的供应商之间的东西，必须把边界说得很无聊。下面是我们不做的事、我们会劝你别买的情况，以及本站每个造词的可核验定义。
我们不做的五件事
- 01不训练、不托管模型权重。
- 一个例外，写在明处：一个自用的 8B 小模型，负责指纹打分，同时当最后一级兜底档。它存在的目的是让你的请求正文不出门就能被打分，不是为了让我们能说自己有模型。
- 02不做公开评测榜。
- 不做点名厂商的质量对比，不做排行表，不做「我们比 X 强」的图。本站档位一律是供应商中立代号，以后也是——一个有偏爱的调度层，不值得信。
- 03不保留你的提示与输出。
- 默认只留指纹、路由决策和指标；正文只有你自己打开才留，按端点开，窗口你定。
- 04不替你决定质量下限。
- 下限是产品决定。我们会告诉你某个下限要花多少钱、下面那些档能打到几分——但不会替你挑一个数，然后叫它默认值。
- 05不做锁定。
- 阶梯是纯文本。导出那个文件它就能在没有我们的情况下跑，阈值、等待、提示版本都在里面。你会丢的是影子历史，那是这里唯一需要时间重建的东西。
什么时候别用我们
四种情况下，诚实的答案是：这东西赚不回自己的成本。
- 只有一个端点、一个模型，而且跑得好
- 流量混着的时候调度才有价值。一个难度分布很窄的端点，没有什么可调度的。
- 月支出低于大约 3,000 美元
- 在这个量级上，声明下限、调阶梯的人力成本比阶梯省下来的多。等账单开始烦你了再来。
- 下限贴着档位天花板
- 当下限就卡在顶档够得着的位置下面一点点，上面根本没有可以拿去省钱的余量。这个示意部署里就是 /review，它只省了 20%。
- 尾延迟预算很死
- 升级意味着两跳。如果你的 P99 一点富余都没有，你会被迫并行跑两级、两份都付钱——这是个真选项，但它不是便宜的那个。
我们怎么收钱
按调度决策数收。不抽你 token 的差价——抽差价会让我们有理由把你往贵档推，一个有理由选贵档的路由器就不是路由器了。本页不写具体价格：这是示意站点，编一份价目表是这上面最没用的东西。
术语表
十一个造词。本站其余部分说的都是普通话，能用普通词的地方我们都用了普通词。
机制
| 词 | 量纲 | 定义 |
|---|---|---|
| 难度指纹 | 5 × [0,100] → D ∈ [0,100] | 请求离开应用前，用一个自托管小分类器在 10 毫秒内算出的五维向量——推理深度、上下文跨度、格式严格度、事实敏感度、拒答风险，各 0–100。合成一个难度分 D，D 是路由器唯一的输入。 |
| 路由预算 | 美元 / 千次调用 | 按端点声明的上限，在做决定那一刻作为硬约束生效，而不是事后看的报表。余量不够时，整条阶梯下压一级，而不是超支。 |
| 降级阶梯 | 3–5 级 | 一条有序候选链，每级是「模型档 × 参数 × 提示版本」，带触发条件和最大等待。超时、报错、结构校验不过、裁判分低于下限，都会把请求推到下一级。同一条阶梯两个方向都能走。 |
| 质量下限 | 裁判分 p10，或结构通过率 % | 每个端点自己声明的最低可接受质量。它不可交易：省钱只能在下限之上做。 |
| 影子重放 | 3% 流量 | 把真实流量复制给候选档离线跑。结果不返回给用户，只用来更新质量分与置信区间。 |
| 切换窗口 | 5,000 样本 · 7 天 · −0.5 分 | 候选档变成默认档前必须穿过的观察期：同端点 ≥5,000 条影子样本、连续 ≥7 天、95% 置信区间下界不低于现任档 0.5 分以上。之后按 5% → 25% → 100% 放量。 |
| 有损可用 | 状态 | 上游限流或宕机时，端点压到低配阶梯、砍掉输出上限、关掉顶档，继续出答案而不是返回 5xx。名字取自电网：宁可灯光变暗，不要全城断电。 |
| 单位答案成本 | 美元 / 千次已采纳调用 | 一次真正被采纳的回答的全成本。分母是被采纳的调用数，分子含重试、升级中被丢弃的低档调用、裁判评分、分类器摊销和影子重放。按 token 的账单会把这些藏起来。 |
我们盯的三个指标
| 词 | 量纲 | 定义 |
|---|---|---|
| 欠路由 | 流量占比 % | 指纹把请求判得比实际难度低一档以上的那部分。它是升级的主要来源，由阶梯接住。 |
| 过路由 | 流量占比 % | 判得比实际高一档以上的那部分。没人接住它——这就是多花的钱。 |
| 升级抖动 | 流量占比 % | 同一请求在同一条阶梯上反复上下跳的占比。健康的部署应低于 2%；高于 2% 说明下限和阈值在互相打架。 |
我们对自己的几条要求
- 每个百分比都带口径：分母是什么、哪一段流量、哪个时间窗。没有口径的百分比是装饰。
- 每张图都带编号，并且写明自己是模型。说不清数字从哪来的图，不上线。
- 不出现真实厂商名、真实客户名、logo 墙、客户评价。档位是代号，参考部署是编造的，并且标明是编造的。
- 本站不出现任何第三方审计或合规资格字样——因为没有。
- 不写无法核验的最高级，也不写任何关于别人的排名说法。
我们不做模型。我们决定你用哪个。