[論文レビュー] FUTURE-AI: International consensus guideline for trustworthy and deployable artificial intelligence in healthcare

Karim Lekadir, Aasa Feragen+118 more|arXiv (Cornell University)|Aug 11, 2023

Artificial Intelligence in Healthcare and Education被引用数 38

ひとこと要約

FUTURE-AIは、全ライフサイクルにわたって信頼できる医療AIを開発・展開・監視するための、六つの指針と28の推奨事項を含む、国際的なコンセンサスベースの枠組みを提示します。

ABSTRACT

Despite major advances in artificial intelligence (AI) for medicine and healthcare, the deployment and adoption of AI technologies remain limited in real-world clinical practice. In recent years, concerns have been raised about the technical, clinical, ethical and legal risks associated with medical AI. To increase real world adoption, it is essential that medical AI tools are trusted and accepted by patients, clinicians, health organisations and authorities. This work describes the FUTURE-AI guideline as the first international consensus framework for guiding the development and deployment of trustworthy AI tools in healthcare. The FUTURE-AI consortium was founded in 2021 and currently comprises 118 inter-disciplinary experts from 51 countries representing all continents, including AI scientists, clinicians, ethicists, and social scientists. Over a two-year period, the consortium defined guiding principles and best practices for trustworthy AI through an iterative process comprising an in-depth literature review, a modified Delphi survey, and online consensus meetings. The FUTURE-AI framework was established based on 6 guiding principles for trustworthy AI in healthcare, i.e. Fairness, Universality, Traceability, Usability, Robustness and Explainability. Through consensus, a set of 28 best practices were defined, addressing technical, clinical, legal and socio-ethical dimensions. The recommendations cover the entire lifecycle of medical AI, from design, development and validation to regulation, deployment, and monitoring. FUTURE-AI is a risk-informed, assumption-free guideline which provides a structured approach for constructing medical AI tools that will be trusted, deployed and adopted in real-world practice. Researchers are encouraged to take the recommendations into account in proof-of-concept stages to facilitate future translation towards clinical practice of medical AI.

研究の動機と目的

• 医療分野における信頼できるAIに関する formally international consensusを確立し、実世界での医療AIの採用を促進する。
• 設計・開発から展開・監視まで、AIライフサイクル全体をカバーする総合的な枠組みを定義する。
• 六つの指針（Fairness, Universality, Traceability, Usability, Robustness, Explainability）と実行可能なベストプラクティスを確立する。
• 医療AIを臨床実践へ翻訳する際のリスク情報に基づく、前提条件のないガイドラインを提供する。

提案手法

• 51か国からなる118人の学際的・国際的コンソーシアムを編成した。
• 24か月にわたる多段階のDelphiプロセスとオンライン合意会議を実施した。
• 医療における信頼できるAIに関連する次元を特定するために、系統的な文献レビューを実施した。
• Fairデータ原則に触発された六つの指針を作成した。
• 推奨事項のセットを生成し、反復的に精査した（54 → 22 → 30 → 最終的に28）。
• 証拠概念と展開可能なAIを区別するために、機械学習技術成熟度レベル（ML-TRL）レンズを適用した。

実験結果

リサーチクエスチョン

• RQ1 医療における信頼できるAIにとって必要な指針は何か。
• RQ2 AIライフサイクル全体（設計・開発から展開・監視まで）を通じて、公平性、普遍性、トレーサビリティ、使いやすさ、頑健性、説明可能性を確保する具体的なベストプラクティスとは何か。
• RQ3 初期段階の研究と臨床展開（ML-TRLの区分）で推奨事項はどのように異なるべきか。
• RQ4 国際的なコンセンサスを、医療の多様な設定と分野に跨ってどのように達成・運用するか。

主な発見

• 医療AIの信頼性に関する六つの指針を確立した：Fairness, Universality, Traceability, Usability, Robustness, Explainability。
• 技術的・臨床的・法的・社会倫理的側面を横断する28の具体的推奨事項を定義した。
• 推奨事項は設計・開発・検証・規制・展開・監視というAIライフサイクル全体に適用可能であることを示した。
• 概念実証と展開可能なツールを調整するためのML-TRLベースの区分を導入した。
• 反復調査、専門家のフィードバックラウンド、および4回の合意オンライン会議を通じて、広範な国際的コンセンサスを達成した。