臨床現場のLLM利用と評価ベンチマークに大きなずれ

導入

医療向け大規模言語モデルは、試験問題や選別された症例、専門的な質疑応答データセットで評価されることが多い。こうしたテストは知識や推論能力を測るうえで有用だが、医療従事者が実際にAIへ何を依頼しているかを十分に表しているとは限らない。Hugging Face Daily Papersで紹介された研究は、実際の臨床利用と公開ベンチマークを比較し、そのずれを定量的に示した。

実際の用途は診断中心ではない

研究チームは、ある医療機関で8か月間にわたって展開された院内アシスタントへの問い合わせ127,833件を分析した。利用者は医師、上級実践医療従事者、看護師など6,342人で、35の診療科にまたがる。各問い合わせは、臨床従事者が検証したRCQ-Mapによって、タスク、意図、回答可能性、不足情報、潜在的な危害の観点から分類された。

最も大きなカテゴリーは文書作成と事務処理で、全体の36.2%を占めた。知識検索は28.9%で、この2つだけで利用のほぼ3分の2に達した。一方、診断に関する問い合わせは3.7%だった。

この結果は、臨床AIに対する一般的なイメージを修正する。現場のアシスタントは、診断を直接行うよりも、記録の整理、定型業務、情報検索、日常的な作業の支援に使われることが多い。診断問題で高得点を取るモデルでも、実際に大量に処理する文書や検索タスクについては、十分な評価を受けていない可能性がある。

また、3分の1を超える問い合わせは、提示された形のままでは適切に回答できなかった。これは、必ずしも医学知識が不足していたことを意味しない。背景情報が足りない、目的が曖昧である、院内記録など外部情報が必要である、といった理由も考えられる。医療AIの評価では、最終回答の正しさだけでなく、不足情報を認識して確認を求められるか、安全性を優先して過剰に断定しないかも重要になる。

ベンチマークとの不一致

研究者はRCQ-Mapを58の公開ベンチマークにも適用し、Clinical AI Benchmark Atlasとして整理した。中央値のベンチマークには文書作成の依頼が一つも含まれておらず、実際の利用におけるタスク構成との一致率は31%だった。

臨床実践に近いことを意図して設計された評価セットも、個別に見ると、最先端モデルの報告で使われたベンチマークより現実の利用に近いとは限らなかった。これは既存の症例問題や試験問題が無価値だという意味ではない。それらは特定の知識や推論能力を測定できる。ただし、導入後の性能全体を示す代理指標として扱うには限界がある。

評価をワークフローに合わせる

この研究が示すのは、医療AIの評価をモデル中心から業務中心へ移す必要性である。病院や開発者は、誰がどの作業にシステムを使うのか、必要な情報が利用可能か、誤りがどの程度の損害につながるかを先に把握すべきだろう。

標準化ベンチマークは今後も重要だが、単一の総合点を「臨床対応力」と解釈するのではなく、知識、症例推論、文書作成、検索、確認質問、追跡可能性、安全性といった能力ごとに評価する必要がある。実際の利用分布を反映したテストが増えれば、モデル比較も導入判断も、より現実に即したものになる。

出典：Hugging Face Daily Papers