[論文レビュー] MEDIC: Comprehensive Evaluation of Leading Indicators for LLM Safety and Utility in Clinical Applications

Praveen K Kanithi, Christophe Clément+9 more|arXiv (Cornell University)|Sep 11, 2024

Scientific Computing and Data Management被引用数 6

ひとこと要約

MEDIC は、臨床 LLM を五つの次元で評価するモジュラー・フレームワークと、情報忠実度を評価する Cross-Examination Framework を導入し、知識と実行のギャップと安全性の乖離を明らかにし、1モデルの支配を抑制することを示す。

ABSTRACT

While Large Language Models (LLMs) achieve superhuman performance on standardized medical licensing exams, these static benchmarks have become saturated and increasingly disconnected from the functional requirements of clinical workflows. To bridge the gap between theoretical capability and verified utility, we introduce MEDIC, a comprehensive evaluation framework establishing leading indicators across various clinical dimensions. Beyond standard question-answering, we assess operational capabilities using deterministic execution protocols and a novel Cross-Examination Framework (CEF), which quantifies information fidelity and hallucination rates without reliance on reference texts. Our evaluation across a heterogeneous task suite exposes critical performance trade-offs: we identify a significant knowledge-execution gap, where proficiency in static retrieval does not predict success in operational tasks such as clinical calculation or SQL generation. Furthermore, we observe a divergence between passive safety (refusal) and active safety (error detection), revealing that models fine-tuned for high refusal rates often fail to reliably audit clinical documentation for factual accuracy. These findings demonstrate that no single architecture dominates across all dimensions, highlighting the necessity of a portfolio approach to clinical model deployment. As part of this investigation, we released a public leaderboard on Hugging Face.\footnote{https://huggingface.co/spaces/m42-health/MEDIC-Benchmark}

研究の動機と目的

• 静的な医学試験を超えたリアルワールドの臨床有用性に向けた先行指標の必要性を動機づける。
• LLM の性能を評価する五つの臨床次元を網羅するモジュラー・フレームワーク（MEDIC）を定義する。
• 適用タスクベンチマーク（例：EHRSQL、MedCalc、MEDEC）と参照なしの Cross-Examination Framework を組み込み、忠実性をストレステストする。
• どのモデルも各次元で優位性を持たないことを実証し、ポートフォリオ的アプローチを提唱する。

提案手法

• five clinical dimensions を定義する：Medical reasoning、Ethical and bias concerns、Data and language understanding、In-context learning、そして Clinical safety。
• 構造化タスクに対して決定論的指標（例：execution accuracy、exact match）を用い、Cross-Examination Framework をオープンエンドなタスク用に適用して、カバレージ、コンフォーマンス、一貫性、簡潔さを定量化する。
• MedCalc、EHRSQL、DischargeMe、ACI-Bench、MEDEC、MedQA、MedMCQA、PubMedQA などを含む異種タスク群を横断的に評価する。
• LLM-as-a-judge の対比較を Elo 評価で行い、オープンエンドな回答をランク付けし、複数モデルに対するジャッジの合意を確保する。
• 静的知識ベンチマークと運用タスク性能を対比して知識と実行のギャップを分析する。

実験結果

リサーチクエスチョン

• RQ1 より多くのパラメータ数やドメイン特化のファインチューニングは MEDIC の各次元で普遍的な臨床能力へと結びつくのか？
• RQ2 モデルは臨床計算やSQL生成などの運用タスクと、USMLE風の静的知識問題のような静的知識タスクのどちらで優れているのか？
• RQ3 受動的拒否のための安全性整合性が臨床テキスト監査における効果的な能動的安全性（誤り検出）へどの程度翻訳されるのか？
• RQ4 参照なしの Cross-Examination Framework は、オープンエンドの臨床出力における事実的一致性とカバレージを信頼性高く評価できるのか？

主な発見

• モデルの能力はヘテロゲニアスでタスク依存的であり、全ての MEDIC タスクを通じて一つのアーキテクチャが支配しているわけではない。
• 静的知識の習熟度は、MedCalc や EHRSQL のような運用タスクの機能的実行を必ずしも予測しない。
• より大きなモデルは出典文書への適合性が低下し、流暢さが増す一方で幻覚が増える可能性がある。
• 受動的な安全性（拒否）はモデル間で飽和するが、能動的な安全性（誤り検出）は著しい性能低下とばらつきを示す。
• オープンエンドの問い合わせランキングはジャッジ選択に対して頑健で、対になるモデル比較におけるジャッジ間の高い一致が得られる。