がん細胞から惑星軌道まで：一つの予測コアは異なる世界を学べるか

導入

気象、分子、細胞、惑星軌道は、それぞれ異なる法則に従うように見えます。しかし、現在の状態から次の変化を予測するという課題は共通しています。PhAI Labsと複数の大学によるJEPA-Anythingは、このような異なる領域で同じ予測原理を再利用できるかを検討する研究です。すべてのデータを同じ入力形式に変換する試みではありません。

変化を分けて学ぶ仕組み

JEPAは、元の観測を細部まで再構成するのではなく、潜在空間で目標状態を予測します。JEPA-AnythingはここにOPF、すなわちOrthogonal Predictive Factorizationを加えました。目標状態を複数の補完的な部分空間に分け、それぞれを別の予測ブランチで学習した後、全体の状態に戻します。

直交制約は、複数のブランチが同じ情報を重複して学ぶことを抑えるためのものです。さらに、因子の活動性とエンコーダーの分散に関する制約によって、因子の停止や表現の崩壊を防ぎます。各因子が速度や温度などにあらかじめ割り当てられるわけではなく、データ中の予測可能な構造から学習される点も重要です。入力形式とエンコーダーは分野ごとに維持し、予測コアと潜在状態のインターフェースを共有します。

七つの領域での検証

報告では、視覚、生物、臨床、制御、分子、物理場、気象のシステムが評価されました。制御された介入実験では、単一因子だけでなく、訓練時に現れなかった複数因子の組み合わせでも予測誤差が低下しました。条件をそろえた力学ベンチマークでは、十のタスクのうち九つで標準JEPAを上回ったとされています。Burgers方程式、浅水方程式、WeatherBench 2でも改善が報告されました。

分子系では、水、α-石英、パラセタモール、ベンゼンの長期ロールアウトを評価し、報告上はJEPA-Anythingの誤差が最も低くなりました。ただし、すべての課題で優位だったわけではありません。連続制御のHopperでは標準JEPAが上回り、予測を長く続けるほど優位性も縮小しました。したがって、示されたのは汎用世界モデルの完成ではなく、再利用可能な予測原理です。

潜在因子を科学へつなぐ

研究者は予測精度だけでなく、モデル内部の因子も分析しました。肝がん研究では、潜在空間からIL-18とNT5E/CD73阻害を組み合わせる候補を選び、細胞系、患者由来オルガノイド、腫瘍組織片、免疫健全マウスで検証しました。報告では、対象サンプルで腫瘍細胞の殺傷と免疫活性化が強く見られたとされていますが、今後の独立検証が必要です。

惑星軌道の実験では、モデルに位置と速度のシミュレーション軌跡だけを与えました。潜在モードを分析すると、軌道周波数と長半径の関係から得た傾きは-1.4991で、ケプラー第三法則の理論値-1.5に近い結果でした。潜在表現を既知の物理法則と照合できる可能性を示す例です。

意義と限界

JEPA-Anythingは、AIが「万物を理解した」と証明するものではありません。各科学分野のデータ形式を保ったまま、予測可能な変化を学ぶ仕組みを共有するという、より限定された提案です。潜在因子が仮説の形成や実験設計の手掛かりになり得る一方、分野横断の頑健性、長期予測の安定性、独立再現性は今後の課題として残ります。

出典：量子位