[論文レビュー] A Survey on Medical Large Language Models: Technology, Application, Trustworthiness, and Future Directions

Lei Liu, Xiaoyan Yang+7 more|arXiv (Cornell University)|Jun 6, 2024

Machine Learning in Healthcare被引用数 20

ひとこと要約

この調査は、一般的な LLM から医療特化型の Med-LLMs への進化をたどり、技術、応用、信頼、将来の方向性を詳述する。データ、アルゴリズム、評価、医療における Med-LLMs の倫理/規制上の考慮事項を含む。

ABSTRACT

With the advent of Large Language Models (LLMs), medical artificial intelligence (AI) has experienced substantial technological progress and paradigm shifts, highlighting the potential of LLMs to streamline healthcare delivery and improve patient outcomes. Considering this rapid technical progress, in this survey, we trace the recent advances of Medical Large Language Models (Med-LLMs), including the background, key findings, and mainstream techniques, especially for the evolution from general-purpose models to medical-specialized applications. Firstly, we delve into the foundational technology of Med-LLMs, indicating how general models can be progressively adapted and refined for the complicated medical tasks. Secondly, the wide-ranging applications of Med-LLMs are investigated across various healthcare domains, as well as an up-to-date review of existing Med-LLMs. The transformative impact of these models on daily medical practice is evident through their ability to assist clinicians, educators, and patients. Recognizing the importance of responsible innovation, we discuss the challenges associated with ensuring fairness, accountability, privacy, and robustness. Ethical considerations, rigorous evaluation methodologies, and the establishment of regulatory frameworks are crucial for building trustworthiness in the real-world system. We emphasize the need for ongoing scrutiny and development to maintain high standards of safety and reliability. Finally, we anticipate possible future trajectories for Med-LLMs, identifying key avenues for prudent expansion. By consolidating these insights, our review aims to provide professionals and researchers with a thorough understanding of the strengths and limitations of Med-LLMs, fostering a balanced and ethical approach to their integration into the healthcare ecosystem.

研究の動機と目的

• 一般的な LLM から医療特化型の Med-LLMs への歴史的発展と、この変化を可能にする技術を説明する。
• Med-LLMs に用いられる主要な医療 NLP タスク、データ資源、評価方法を要約する。
• 臨床意思決定支援、レポート作成、教育を含む Med-LLMs の医療応用を概説する。
• 公正性、説明責任、プライバシー、頑健性、規制上の考慮事項と、それらが信頼性の向上に寄与する方法を議論する。
• 臨床実践および政策文脈における Med-LLMs の潜在的な将来方向性を概説する。

提案手法

• LLMの開発とアーキテクチャにおける歴史的マイルストーンをレビューする（Transformer、自己注意、事前学習、ファインチューニング）。
• 医療ドメインへの適応を説明する（医療コーパス、知識グラフ、検索強化生成、ヒューマンアラインメントを含む）。
• トレーニング/ファインチューニング手法（SFT、IFT/IPT、PEFT、RLHF、ICL）とそれらの医療系変種を要約する。
• 主要な Med-LLM タスク（Med-IE、Med-QA、Med-NLI、Med-Gen）と代表的なデータセットを整理する。
• 倫理、安全、プライバシー、規制上の考慮事項を論じ、将来の方向性を提案する。

実験結果

リサーチクエスチョン

• RQ1 Med-LLMs が医療文脈で機能するための主要な技術的進歩は何か。
• RQ2 Med-LLMs は医療タスクと安全性のためにどのように訓練、ファインチューニング、評価されているか。
• RQ3 どの領域やタスクが最も Med-LLMs の恩恵を受けるか（例: 臨床意思決定支援、教育、レポート作成）？
• RQ4 Med-LLMs における主要な倫理、プライバシー、説明責任、頑健性の課題は何であり、どのように対処できるか？
• RQ5 医療分野で Med-LLMs を責任を持って進展させるために、将来の方向性と政策上の考慮事項は何が必要か？

主な発見

• Med-LLMs は、医療コーパスと知識グラフを活用して臨床的推論を改善する、領域特異的適応を伴う一般的な LLM から進化する。
• ファインチューニング戦略（SFT、IFT/IPT、PEFT）と人間のフィードバックを用いた RLHF は、医療ニーズと安全性に Med-LLMs を整合させるうえで中心的である。
• Med-LLMs は臨床意思決定支援、レポート作成、医療教育において強い潜在能力を持ち、多様な言語とタスクにまたがるデータセットを活用する。
• 倫理、プライバシー、規制上の考慮事項（GDPR、HIPAA）は、頑健性と解釈性の要件とともに、信頼できる展開には重要である。
• 将来の方向性には解釈性の向上、政策の策定、臨床ワークフローへの統合を含み、Med-LLMs の責任ある拡大を確保する。