[論文レビュー] Applying Artificial Intelligence to Clinical Decision Support in Mental Health: What Have We Learned?

Grace Golden, Christina Popescu+6 more|arXiv (Cornell University)|Mar 6, 2023

Artificial Intelligence in Healthcare and Education被引用数 7

ひとこと要約

本論文は、うつ病の治療意思決定を支援するAIを活用した臨床意思決定支援システム（AI-CDSS）Aifred Healthの事例研究を提示し、機械学習モデルが治療選択と管理をどのように支援できるかを示している。開発および実装における主な課題を特定し、信頼性があり臨床的に有用なAI-CDSSを構築し、精神保健のワークフローにスムーズに統合するための根拠に基づいた推奨事項を提示している。

ABSTRACT

Clinical decision support systems (CDSS) augmented with artificial intelligence (AI) models are emerging as potentially valuable tools in healthcare. Despite their promise, the development and implementation of these systems typically encounter several barriers, hindering the potential for widespread adoption. Here we present a case study of a recently developed AI-CDSS, Aifred Health, aimed at supporting the selection and management of treatment in major depressive disorder. We consider both the principles espoused during development and testing of this AI-CDSS, as well as the practical solutions developed to facilitate implementation. We also propose recommendations to consider throughout the building, validation, training, and implementation process of an AI-CDSS. These recommendations include: identifying the key problem, selecting the type of machine learning approach based on this problem, determining the type of data required, determining the format required for a CDSS to provide clinical utility, gathering physician and patient feedback, and validating the tool across multiple settings. Finally, we explore the potential benefits of widespread adoption of these systems, while balancing these against implementation challenges such as ensuring systems do not disrupt the clinical workflow, and designing systems in a manner that engenders trust on the part of end users.

研究の動機と目的

• 現実の臨床現場におけるうつ病に対するAI-CDSSの開発と実装を評価すること。
• 精神保健分野におけるAI-CDSSの導入における障壁、特にワークフローの混乱とユーザーの信頼の欠如を特定すること。
• 精神保健分野におけるAI-CDSSの設計・検証・実装に向けた実行可能な推奨事項を提供すること。
• 多職種からのフィードバックと複数の環境での検証を通じて、AI-CDSSの臨床的有用性を評価すること。
• 臨床現場における透明性、使いやすさ、倫理的な統合の必要性とAI補助の利点のバランスをとること。

提案手法

• 本研究は、うつ病治療意思決定を目的としたAI-CDSS、Aifred Healthの設計と展開を分析している。
• システムは、臨床データおよび患者が報告するデータを用いて訓練された機械学習モデルを活用し、治療法の提案と結果のモニタリングを実施している。
• 開発プロセスは、反復的テストの過程で医療従事者および患者からのフィードバックを統合したユーザー中心の設計原則に従った。
• 一般化可能性と頑健性を確保するため、多様な臨床現場で検証が行われた。
• 実装戦略は、説明可能なAIの要素を活用してワークフローの混乱を最小限に抑え、医療従事者の信頼を高めることに焦点を当てた。
• フレームワークは、データタイプの選定、モデルの解釈可能性、CDSSインターフェース設計に重点を置き、最適な臨床的有用性を実現することを強調している。

実験結果

リサーチクエスチョン

• RQ1 精神保健分野におけるAI-CDSSの開発および実装における主な課題は何か？
• RQ2 AI-CDSSはどのように設計することで、臨床ワークフロー統合と医療従事者の信頼を維持できるか？
• RQ3 医療従事者および患者からのフィードバックは、効果的なAI-CDSS設計にどのように寄与するか？
• RQ4 AI-CDSSは、複数の臨床環境でどのように検証されるべきか。その結果、信頼性と一般化可能性が保証されるか？
• RQ5 精神保健分野における臨床的に有用で信頼性がありスケーラブルなAI-CDSSを構築するための設計原則は何か？

主な発見

• 精神保健分野におけるAI-CDSSの開発には、医療提供者への負担を避けるために、臨床ワークフロー統合に強い焦点を当てる必要がある。
• 開発段階で医療従事者および患者からのフィードバックを収集することは、ツールの使いやすさと受容性を著しく向上させる。
• 複数の臨床現場での検証は、AI-CDSSの性能の信頼性と一般化可能性を高める。
• AIツールに対する信頼は、予測精度だけでなく、透明性、説明可能性、一貫性のあるパフォーマンスに依存する。
• 最も効果的なAI-CDSSは、エンドユーザーからの反復的入力を通じて設計されたものであり、現実の臨床ニーズと整合している。
• 技術的ポentialは高いが、システムの複雑さや相互運用性の欠如といった実装上の障壁により、広範な採用は妨げられている。