[論文レビュー] Large AI Models in Health Informatics: Applications, Challenges, and the Future

Jianing Qiu, Lin Li+12 more|arXiv (Cornell University)|Mar 21, 2023

Artificial Intelligence in Healthcare and Education被引用数 8

ひとこと要約

論文は大規模AIモデル（LAMs）とヘルスインフォマティクスへの応用を包括的にレビューし、部門、利点、課題、今後の方向性を概説する。

ABSTRACT

Large AI models, or foundation models, are models recently emerging with massive scales both parameter-wise and data-wise, the magnitudes of which can reach beyond billions. Once pretrained, large AI models demonstrate impressive performance in various downstream tasks. A prime example is ChatGPT, whose capability has compelled people's imagination about the far-reaching influence that large AI models can have and their potential to transform different domains of our lives. In health informatics, the advent of large AI models has brought new paradigms for the design of methodologies. The scale of multi-modal data in the biomedical and health domain has been ever-expanding especially since the community embraced the era of deep learning, which provides the ground to develop, validate, and advance large AI models for breakthroughs in health-related areas. This article presents a comprehensive review of large AI models, from background to their applications. We identify seven key sectors in which large AI models are applicable and might have substantial influence, including 1) bioinformatics; 2) medical diagnosis; 3) medical imaging; 4) medical informatics; 5) medical education; 6) public health; and 7) medical robotics. We examine their challenges, followed by a critical discussion about potential future directions and pitfalls of large AI models in transforming the field of health informatics.

研究の動機と目的

• 大規模AIモデルが実務と研究に影響を与えられる7つのヘルスインフォマティクス分野を特定する。
• 複数のモダリティにわたるヘルス関連タスクにおけるLAMsの現状の進展とベンチマークを要約する。
• 生物医学設定でのLAMsの導入に伴う課題、リスク、制限を論じる。
• 研究者と実務家を導く将来の方向性と潜在的な落とし穴を概説する。

提案手法

• LLMs、LVMs、LMMsを含むLAMsの最新文献を統合し、訓練データモダリティとアーキテクチャ別に分類する。
• LAMsの特徴的な要素を説明する：大規模、広範な事前訓練、跨ドメイン一般化。
• 定性的な議論と引用事例を通じて、LAMsを以前のSOTA手法と生物医療タスクで比較する。
• ヘルスケア領域におけるRLHFや prompting技法など、領域特化の応用と適応戦略を要約する。
• データの入手可能性、アノテーション負荷、モダリティ統合などの実務上の考慮事項を強調する。

実験結果

リサーチクエスチョン

• RQ1 LAMsが実務と研究に影響を与える可能性を持つ7つのヘルスインフォマティクス分野とは何か？
• RQ2 LAMsは生物科学、診断画像、情報学、教育、公共衛生、ロボティクスのタスクで、従来の手法と比較してどのように性能を発揮し適応するのか？
• RQ3 ヘルスインフォマティクスにLAMsを導入する際の主要な課題、制限、リスクは何か？
• RQ4 今後10年間の医療におけるLAM開発を形作るであろう方向性、方法論、予防策は何か？

主な発見

• LAMsはクロスモーダル学習とゼロショット／少数ショット機能を可能にし、診断、画像診断、情報学タスクを変革できる。
• バイオインフォマティクス領域では大規模なタンパク質/RNA言語モデルと構造予測手法が高い性能と速度の利点を示すが、評価にはデータ品質とベンチマークが依然として重要。
• 医療画像領域ではLVMsとLVLMsがゼロショットのセグメンテーションと分類能力を示し、モダリティ特有のデータ（例：MRI、OCT）への適応が必要。
• Biomedical LLMs（例：Med-PaLM、Med-PaLM 2、GatorTron）は医療QA、推論、退院要約生成の改善を示し、臨床サポートと文書作成の潜在性を示唆。
• LMMsと多モーダル整合戦略は画像とテキストの理解を強化し、医療文脈での検索と生成タスクを可能にする。
• 課題にはデータ入手性、アノテーションコスト、校正、事実的根拠づけ、安全性、自動出力への過度の依存リスクが含まれる。