返回文章列表
推理与部署

Jeva:从决策问题结构出发,重做 System One 模型

阅读约 3 分钟

导语

System One 通常被理解为快速、直接的决策系统:给定一个请求和若干候选项,模型应尽快返回选择结果。然而,许多现有方案仍把问题改写成“阅读一段序列化文本并预测答案”。这种做法便于沿用语言模型接口,却未必符合决策任务本身的结构。

论文《Jeva: System One Models from First Principles》提出 Jeva,试图从决策问题的基本约束出发,构建一种 decision-native 架构。它关注的不是让模型输出更多文本,而是让模型在候选集合变化时仍保持合理、稳定且高效的行为。

四个被写入架构的要求

  • 能够识别空答案:没有任何候选项正确,不应被误判为候选项之间的不确定性。Jeva 引入独立的 coverage estimate,用于判断请求是否被候选集合覆盖,并支持显式的 null 结果。
  • 对候选顺序不敏感:交换候选项排列不应改变决策。模型通过对称聚合,使输出概率具备排列等变性质;换言之,候选的身份会影响结果,但它在列表中的位置不应影响结果。
  • 支持可变规模候选集:新增或减少候选项时,不必重新定义固定的输出空间。共享评分机制让同一模型能够处理不同数量的候选。
  • 允许缓存重复计算:候选项往往跨请求重复出现,例如长文档检索或知识库匹配。Jeva 将请求无关的候选表示与部分层投影独立出来,从而支持预先计算和复用。

架构思路

Jeva 使用共享编码器分别表示请求和每个候选项。随后,一个紧凑的决策堆栈只更新请求状态,并与保持不变的候选记忆进行交互。这样的设计把“候选是什么”和“当前请求要什么”分开处理,避免将整个候选列表粗暴拼接成一条文本序列。

在输出层面,Jeva 统一支持 Choice、Noul 和 Score 等决策形式。根据论文提供的信息,其 4B 模型可处理最多 2048 个候选,在测试过的候选排列中没有出现决策翻转;对于长文档候选完全复用缓存的场景,作者报告了超过 20 倍的中位延迟加速。

意义与待验证之处

Jeva 的价值不只在于某一项准确率提升,而在于把 null awareness、排列不变性、候选规模扩展和缓存机制同时纳入模型设计。这些性质如果依赖提示词、后处理或测试时约束,往往难以稳定复现;若由架构直接保证,则更适合部署到检索、路由、排序和实时推荐等候选集持续变化的系统中。

当然,当前素材主要给出架构主张和概括性结果,尚未提供完整的任务划分、基线细节与真实业务测试。因此,Jeva 是否能在复杂语义判断、候选质量波动及超大规模集合中保持优势,还需要结合完整论文、代码和更多独立评测进一步确认。它真正值得关注的地方,是将“如何做决定”从语言生成接口中拆出来,重新作为一种结构化推理与推理服务问题来设计。

来源:Hugging Face Daily Papers

评论

正在确认登录状态……

正在加载评论……

相关文章

CCTest · Blog
让一个模型按需“多想几遍”:ELR消除循环语言模型的一次循环税
推理与部署
cctest.ai
推理与部署

让一个模型按需“多想几遍”:ELR消除循环语言模型的一次循环税

Elastic Latent Recurrence(ELR)试图让同一个语言模型在不同推理预算下运行:一次循环接近普通模型的效果,增加循环次数则换取更低损失和更高准确率。该方法还兼顾了KV缓存与MoE推理成本。

阅读全文