JEPA-Anything：用正交预测因子统一不同世界的建模方式

导语

世界模型的核心目标，是让智能系统不只识别当前状态，还能预测行动之后会发生什么。现实中的“世界”却高度多样：图像包含空间与外观信息，临床数据记录病程变化，分子系统遵循物理规律，天气和物理场则具有连续、长时程的动力学。传统预测模型通常针对单一领域设计，跨域复用能力有限。

Hugging Face Daily Papers 收录的 JEPA-Anything，尝试用一种更通用的学习原则处理这些差异。论文提出“正交预测因子分解”（Orthogonal Predictive Factorization，OPF），并将其嵌入联合嵌入预测架构（JEPA）中，目标是学习可预测、可组合的潜在世界状态。

核心方法

JEPA类模型并不一定直接生成像素、文本或完整物理状态，而是先把观测编码到潜在空间，再预测未来的潜在表示。JEPA-Anything进一步认为，一个未来状态可能由多个相互补充、但应尽量区分的因素构成。

• 拆分潜在目标：OPF将目标表示分解为互补的潜在因子，减少不同动力学因素之间的混杂。
• 专门路径学习：不同因子通过各自的预测路径建模，使模型能够分别捕捉可能对应的变化模式。
• 共享式重组：完成因子预测后，再在统一的预测设计中重组结果，从而兼顾模块化与整体建模能力。
• 面向多种任务：框架不仅用于表征学习，也用于干预结果预测、分布外泛化和长时程动力学滚动。

实验观察

论文覆盖视觉、生物学、临床轨迹、控制、分子动力学、物理场和天气七个领域，并设置了十项匹配的动力学任务。根据摘要，JEPA-Anything在这十项任务的报告指标上均优于对应的JEPA基线；在Interventional Pong的单次干预预测中，误差降低34.8%。在四个分子系统上，方法还取得了对比方法中最低的一步预测误差和100步滚动误差。

研究的另一条线索，是利用潜在因子辅助科学分析。论文摘要称，一个由模型因子提名的生物干预在细胞共培养、患者来源类器官、肿瘤组织片段和小鼠实验中获得支持；此外，潜在轨道模式还恢复了开普勒标度关系中的指数。由于当前素材未提供论文全文、实验配置和统计显著性细节，这些结果仍应以正式论文中的完整描述为准。

意义与局限

JEPA-Anything的价值不在于宣称所有领域共享同一个具体模型，而在于尝试抽象出一套跨领域的预测组织方式：先发现相对独立的变化因素，再将它们组合成对未来状态的估计。如果这种分解能够稳定对应可干预或可解释的规律，世界模型就可能从“预测得像”进一步走向“知道哪些因素在起作用”。

不过，跨域指标提升并不自动意味着模型真正学到了通用物理规律。不同领域的数据规模、评价指标和因子含义可能差异很大，分解是否具有唯一性、能否迁移到未见系统、以及长时程误差如何累积，都需要更多公开细节和独立复现来验证。当前来看，JEPA-Anything更像是一次重要的框架化尝试：它把JEPA从特定感知或控制任务，推向了涵盖科学与现实系统的通用世界建模问题。

来源：Hugging Face Daily Papers