Jeva:从决策问题结构出发,重做 System One 模型
导语
System One 通常被理解为快速、直接的决策系统:给定一个请求和若干候选项,模型应尽快返回选择结果。然而,许多现有方案仍把问题改写成“阅读一段序列化文本并预测答案”。这种做法便于沿用语言模型接口,却未必符合决策任务本身的结构。
论文《Jeva: System One Models from First Principles》提出 Jeva,试图从决策问题的基本约束出发,构建一种 decision-native 架构。它关注的不是让模型输出更多文本,而是让模型在候选集合变化时仍保持合理、稳定且高效的行为。
四个被写入架构的要求
- 能够识别空答案:没有任何候选项正确,不应被误判为候选项之间的不确定性。Jeva 引入独立的 coverage estimate,用于判断请求是否被候选集合覆盖,并支持显式的 null 结果。
- 对候选顺序不敏感:交换候选项排列不应改变决策。模型通过对称聚合,使输出概率具备排列等变性质;换言之,候选的身份会影响结果,但它在列表中的位置不应影响结果。
- 支持可变规模候选集:新增或减少候选项时,不必重新定义固定的输出空间。共享评分机制让同一模型能够处理不同数量的候选。
- 允许缓存重复计算:候选项往往跨请求重复出现,例如长文档检索或知识库匹配。Jeva 将请求无关的候选表示与部分层投影独立出来,从而支持预先计算和复用。
架构思路
Jeva 使用共享编码器分别表示请求和每个候选项。随后,一个紧凑的决策堆栈只更新请求状态,并与保持不变的候选记忆进行交互。这样的设计把“候选是什么”和“当前请求要什么”分开处理,避免将整个候选列表粗暴拼接成一条文本序列。
在输出层面,Jeva 统一支持 Choice、Noul 和 Score 等决策形式。根据论文提供的信息,其 4B 模型可处理最多 2048 个候选,在测试过的候选排列中没有出现决策翻转;对于长文档候选完全复用缓存的场景,作者报告了超过 20 倍的中位延迟加速。
意义与待验证之处
Jeva 的价值不只在于某一项准确率提升,而在于把 null awareness、排列不变性、候选规模扩展和缓存机制同时纳入模型设计。这些性质如果依赖提示词、后处理或测试时约束,往往难以稳定复现;若由架构直接保证,则更适合部署到检索、路由、排序和实时推荐等候选集持续变化的系统中。
当然,当前素材主要给出架构主张和概括性结果,尚未提供完整的任务划分、基线细节与真实业务测试。因此,Jeva 是否能在复杂语义判断、候选质量波动及超大规模集合中保持优势,还需要结合完整论文、代码和更多独立评测进一步确认。它真正值得关注的地方,是将“如何做决定”从语言生成接口中拆出来,重新作为一种结构化推理与推理服务问题来设计。
评论
正在确认登录状态……
正在加载评论……