[論文レビュー] FUTURE-AI: Guiding Principles and Consensus Recommendations for Trustworthy Artificial Intelligence in Medical Imaging

Karim Lekadir, Richard Osuala+14 more|arXiv (Cornell University)|Sep 20, 2021

Artificial Intelligence in Healthcare and Education参考文献 168被引用数 12

ひとこと要約

FUTURE-AI は、医療分野、特に画像診断分野における信頼性があり実用可能なAIの包括的で国際的合意に立脚した指針を提示する。100人を超える専門家が参加したこの指針は、透明性、公平性、臨床的妥当性といった10の根幹的原則を確立し、倫理的で安全かつ効果的なAI統合を実現するための実行可能な推奨事項を支援する。

ABSTRACT

The recent advancements in artificial intelligence (AI) combined with the extensive amount of data generated by today's clinical systems, has led to the development of imaging AI solutions across the whole value chain of medical imaging, including image reconstruction, medical image segmentation, image-based diagnosis and treatment planning. Notwithstanding the successes and future potential of AI in medical imaging, many stakeholders are concerned of the potential risks and ethical implications of imaging AI solutions, which are perceived as complex, opaque, and difficult to comprehend, utilise, and trust in critical clinical applications. Addressing these concerns and risks, the FUTURE-AI framework has been proposed, which, sourced from a global multi-domain expert consensus, comprises guiding principles for increased trust, safety, and adoption for AI in healthcare. In this paper, we transform the general FUTURE-AI healthcare principles to a concise and specific AI implementation guide tailored to the needs of the medical imaging community. To this end, we carefully assess each building block of the FUTURE-AI framework consisting of (i) Fairness, (ii) Universality, (iii) Traceability, (iv) Usability, (v) Robustness and (vi) Explainability, and respectively define concrete best practices based on accumulated AI implementation experiences from five large European projects on AI in Health Imaging. We accompany our concrete step-by-step medical imaging development guide with a practical AI solution maturity checklist, thus enabling AI development teams to design, evaluate, maintain, and deploy technically, clinically and ethically trustworthy imaging AI solutions into clinical practice.

研究の動機と目的

• 医療画像分野におけるAIの導入リスクが増加する中、標準化され信頼できるAIの必要性に対応するため。
• 導入前後を問わず、AIシステムが安全で公平かつ臨床的に有効であることを保証する、コンセンサスに基づくフレームワークを確立するため。
• 開発者、臨床医、規制当局、医療機関に対して、実証に基づいた実行可能な推奨事項を提供するため。
• 医療画像分野にとどまらず、一般の医療分野におけるAIアプリケーションへも拡張し、広範な適用可能性とスケーラビリティを確保するため。
• 科学的・医学的分野を横断する国際的専門家による協働を通じて、グローバルな整合性を促進するため。

提案手法

• FUTURE-AI指針は、医学的・技術的背景に多様性を持つ100人を超える国際的専門家が参加した、構造的で段階的なコンセンサス形成プロセスを通じて開発された。
• 根幹的原則は、既存の倫理的フレームワークや臨床的セーフティ基準をもとに、医療分野におけるAI特有の課題に適合させた。
• 監査可能性と信頼性を支援するため、データ、モデル開発、意思決定プロセスにおける透明性を強調する。
• 臨床的妥当性要件を組み込み、実世界での性能評価および導入後の継続的モニタリングを含む。
• 責任体制を確保するため、ステークホルダー参加、リスク低減、ガバナンス構造に関する推奨事項を含む。
• 最終的な指針は、最新の専門家からのフィードバックと拡大された範囲を反映した、更新版のarXivプレプリント（arXiv:2309.12325）として公開された。

実験結果

リサーチクエスチョン

• RQ1 医療画像分野におけるAIシステムは、どのように設計・導入すれば、臨床的セーフティ、公平性、透明性を確保できるか？
• RQ2 多様な医療現場において信頼性があり実用可能なAIを構築するために、どのような根幹的原則が不可欠か？
• RQ3 医療分野におけるAIの倫理的・技術的基準について、国際的コンセンサスをどのように達成できるか？
• RQ4 臨床的導入後、AIシステムの継続的モニタリングと責任体制を確保するためのメカニズムは何か？
• RQ5 AI開発は、臨床ワークフローと患者中心のアウトカムにどのように整合できるか？

主な発見

• FUTURE-AI指針は、責任、説明可能性、臨床的妥当性といった、信頼性のある医療分野におけるAIのための10の基盤的原則を確立している。
• 本指針は、医学、倫理、工学、規制分野の専門家100人を超える国際的専門家が参加した、きめ細やかで包括的なプロセスを通じて開発された。
• 本フレームワークは医療画像分野にとどまらず、医療分野におけるすべてのAIアプリケーションに適用可能であり、一般化可能性と影響力が高まっている。
• 更新版（arXiv:2309.12325）には、リスク管理、データ品質、導入後モニタリングに関する拡充された推奨事項が含まれている。
• 本指針は、開発者、規制当局、医療提供者にとって、倫理的かつ安全なAI導入を保証する標準化された参照基準を提供する。
• コンセンサス形成プロセスにより、グローバルな関連性が保証され、異なる医療制度における規制の整合性を支援する。