心臓は見ているが、時点を見ていない：心エコー EF モデルの説明性監査

導入

医用画像 AI では、ヒートマップが「正しい場所」を示しているかどうかが、モデルの信頼性を判断する材料として使われることが多い。心エコー動画から左室駆出率（EF）を推定する深層動画モデルでも、Grad-CAM や Transformer 向けの relevance map が、モデルが左心室を見ていることを示す根拠として利用されている。

しかし、この arXiv 論文は、その見方に重要な不足があると指摘する。EF は単に左心室の形を見るだけで決まるものではない。臨床的には、拡張末期（ED）と収縮末期（ES）という心周期上の決定的な時点が重要である。したがって、忠実な説明は空間だけでなく時間にも正しくなければならない。

主要ポイント

• 研究では、EchoNet-Dynamic 上で微調整した 2 種類の EF 回帰モデルを比較した。1 つは自己教師あり VideoMAE Transformer、もう 1 つは Kinetics で事前学習した R(2+1)D CNN である。
• 説明手法はモデル構造に合わせ、Transformer には Chefer relevance、CNN には Grad-CAM を用いた。
• 評価軸は、左室マスクとの重なり、削除実験 AUC、ES/ED フレームに対する時間的局在の 3 つである。
• 空間的には、両モデルは妥当に見える。VideoMAE の IoR はチャンスの 2.91 倍、R(2+1)D は 1.98 倍だった。
• 一方、時間的局在はチャンスとほぼ同等で、指標は 0.97〜1.00 にとどまり、ランダムな帰属より優れていなかった。
• tubelet 遮蔽プローブの結果から、この問題は単なる説明手法の失敗ではなく、モデル自体が ES/ED を優先的に使っていないことを示唆している。

意義と影響

この研究の重要なメッセージは、空間的に正しい説明が時間的にも正しいとは限らないという点にある。静止画像の診断では、ヒートマップが病変や臓器に重なることが大きな意味を持つ。しかし動画診断では、「どこを見るか」と同じくらい「いつ見るか」が重要になる。

EF 推定では、モデルが左心室を見ていたとしても、臨床的に決定的な ED/ES フレームに基づいて判断しているとは限らない。これは、説明可能 AI による検証に過信が生じるリスクを示している。見た目に納得しやすい可視化が、時間的には不十分な推論を覆い隠す可能性がある。

論文は Grad-CAM や Transformer の帰属手法を否定しているわけではない。むしろ、医療動画 AI の評価では、解剖学的な妥当性だけでなく時間的忠実性も監査すべきだと示している。今後は、時間を考慮した評価指標、遮蔽テスト、臨床的に意味のあるフレームを利用する学習設計が求められる。

出典：arXiv