[論文レビュー] Unremarkable AI: Fitting Intelligent Decision Support into Critical, Clinical Decision-Making Processes

Qian Yang, Aaron Steinfeld+1 more|arXiv (Cornell University)|Apr 21, 2019

Artificial Intelligence in Healthcare and Education参考文献 24被引用数 69

ひとこと要約

論文は、臨床医の意思決定会議に静かに統合される予後決定支援ツールを設計・現場評価し、埋め込み機械予後情報を含むスライドを生成することで、 critical care における介入を妨げずにワークフローに適合するAI を目指す。三つのVADセンターでの現場評価と、採用と一般化可能性を評価するための分野横断的な医師へのインタビューを報告する。

ABSTRACT

Clinical decision support tools (DST) promise improved healthcare outcomes by offering data-driven insights. While effective in lab settings, almost all DSTs have failed in practice. Empirical research diagnosed poor contextual fit as the cause. This paper describes the design and field evaluation of a radically new form of DST. It automatically generates slides for clinicians' decision meetings with subtly embedded machine prognostics. This design took inspiration from the notion of "Unremarkable Computing", that by augmenting the users' routines technology/AI can have significant importance for the users yet remain unobtrusive. Our field evaluation suggests clinicians are more likely to encounter and embrace such a DST. Drawing on their responses, we discuss the importance and intricacies of finding the right level of unremarkableness in DST design, and share lessons learned in prototyping critical AI systems as a situated experience.

研究の動機と目的

• 予後決定支援ツールが臨床現場で採用されにくい理由を調査する。
• 臨床医の既存の意思決定ワークフローにシームレスに統合されるDSTを設計する。
• 会議中に公開される予測情報が控えめに埋め込まれている場合、受け入れられ効果的であるかを評価する。
• 控えめなDST設計の他の重篤な医療決定会議への一般化可能性を評価する。

提案手法

• DST予測をEMRデータから自動生成された意思決定会議スライドの右上隅に埋め込む。
• ツールを routine ワークフローに従属させ続けるため、Unremarkable Computing に基づく現場主導の設計プロセスを用いる。
• 3つのVADインプラントセンターでの多施設現場研究を実施し、個別インタビューと観察された意思決定会議を行う。
• プロトタイピングのために合成患者ケースを使用し、臨床医の反応と議論を評価する。
• アフィニティ・ダイアグラムと主題分析を用いて、受容性、実用性、一般化可能性に関する洞察を抽出する。

実験結果

リサーチクエスチョン

• RQ1 DST は臨床医の現在の意思決定ワークフロー内で自然に遭遇するだろうか。
• RQ2 会議中に公に可視化された場合、臨床医は計算的意思決定支援を受け入れるだろうか。
• RQ3 予測を隅に置くことで、合意が得られない場合のみ意思決定を遅らせる適切な「控えめさ」のレベルを提供できるだろうか。
• RQ4 控えめなDST設計は他の重篤な医療決定会議へ一般化可能だろうか。

主な発見

• 臨床医は、意思決定会議のスライドにDST出力が組み込まれていることで各サイトで遭遇する可能性が高い。
• 会議の文脈における予後DSTには広い受容性があり、追加の文脈提供や別の視点という価値が認識される。
• 適切な控えめさのレベルはニュアンスがあり、DST の遅延効果は保証されず、会議のダイナミクスとデータの現実性に依存する。
• 臨床医は検証済みで局所適用可能、信頼できるエビデンスにリンクされたモデルを好む。合成データは解釈の難しさを生む。
• 中堅の臨床医は明確で視覚的な会議スライドによって自信を得る一方、上級医は意思決定アジェンダの支配を維持する；階層構造がDSTの使用と影響を形作る。
• 設計は学際的な意思決定会議を行う他分野への一般化可能性を示すが、採用には実患者による検証と信頼が決定的に重要である。