[論文レビュー] Foundation Model for Advancing Healthcare: Challenges, Opportunities, and Future Directions

Yuting He, Fuxiang Huang+5 more|arXiv (Cornell University)|Apr 4, 2024

Primary Care and Health Outcomes被引用数 5

ひとこと要約

言語、視覚、生物情報学、マルチモーダルのサブ分野にまたがる医療系ファウンデーションモデル（HFM）の包括的な調査で、手法、データ資源、応用、課題、今後の方向性を詳述する。

ABSTRACT

Foundation model, which is pre-trained on broad data and is able to adapt to a wide range of tasks, is advancing healthcare. It promotes the development of healthcare artificial intelligence (AI) models, breaking the contradiction between limited AI models and diverse healthcare practices. Much more widespread healthcare scenarios will benefit from the development of a healthcare foundation model (HFM), improving their advanced intelligent healthcare services. Despite the impending widespread deployment of HFMs, there is currently a lack of clear understanding about how they work in the healthcare field, their current challenges, and where they are headed in the future. To answer these questions, a comprehensive and deep survey of the challenges, opportunities, and future directions of HFMs is presented in this survey. It first conducted a comprehensive overview of the HFM including the methods, data, and applications for a quick grasp of the current progress. Then, it made an in-depth exploration of the challenges present in data, algorithms, and computing infrastructures for constructing and widespread application of foundation models in healthcare. This survey also identifies emerging and promising directions in this field for future development. We believe that this survey will enhance the community's comprehension of the current progress of HFM and serve as a valuable source of guidance for future development in this field. The latest HFM papers and related resources are maintained on our website: https://github.com/YutingHe-list/Awesome-Foundation-Models-for-Advancing-Healthcare.

研究の動機と目的

• 言語、視覚、生物情報学、マルチモーダルの4つのサブ分野にわたる医療系ファウンデーションモデル（HFM）の現在の進展を要約する。
• HFMの展開を妨げるデータ、アルゴリズム、計算インフラの課題を分析する。
• HFMで使用される事前学習と適応法の分類体系を提供する。
• 将来の研究を指針とするデータセット、応用、および新たな方向性を特定する。

提案手法

• サブ分野別（LFM、VFM、BFM、MFM）および事前学習パラダイム（生成的、対照的、ハイブリッド、教師あり）によるHFMの体系的分類を提供する。
• 適応戦略（ファインチューニング、アダプタ調整、プロンプトエンジニアリング）をレビューし、それらがHFMを医療タスクへ移行させる際の役割を説明する。
• 4つのサブ分野にわたるデータセットと資源を要約し、データの入手可能性と制約を評価する。
• 応用を調査し、最新のHFMを臨床文脈にマッピングして実践的影響を示す。
• データ品質/多様性、アルゴリズムの信頼性、計算インフラにおける主要な課題について論じる。

実験結果

リサーチクエスチョン

• RQ1 言語、視覚、生物情報学、マルチモーダル領域における医療系HFMの現在の進展はどのようになっているか？
• RQ2 医療分野のHFMが直面する主なデータ、アルゴリズム、インフラの課題は何か？
• RQ3 臨床実践におけるHFMを前進させるうえで、将来の方向性と機会として最も有望なものは何か？

主な発見

• 4つのサブ分野にまたがるHFMは、さまざまなタスクに適用可能な汎用的能力を実現することで医療AIを加速させている。
• データ倫理、多様性、異質性、コストに関連する重大な課題が、大規模なHFMの訓練と導入を妨げている。
• 高次元の医療データに対応する計算インフラの要件は大きく、環境への影響も大きい。
• 事前学習と適応法の広範な分類体系は、事前学習において生成的・対照的学習が広く使用され、下流タスクにはファインチューニングまたはプロンプトベースの適応が普及していることを示している。
• この調査は広範なデータセット、応用、将来を見据えた方向性を提供し、HFMの今後の発展を導く。