[論文レビュー] Factors that influence the adoption of human-AI collaboration in clinical decision-making

Patrick Hemmer, Max Schemmer+4 more|arXiv (Cornell University)|Apr 19, 2022

Artificial Intelligence in Healthcare and Education被引用数 14

ひとこと要約

本研究では、専門家へのインタビューを通じて、臨床意思決定における人間とAIの協働の採用に影響を与える6つの主要要因を同定した。これらの要因—たとえば信頼、透明性、作業負荷—の間には対立が生じており、医療現場におけるAIを協働メンバーとして同等の立場に据えるためには、人間中心の設計が不可欠であることが示された。

ABSTRACT

Recent developments in Artificial Intelligence (AI) have fueled the emergence of human-AI collaboration, a setting where AI is a coequal partner. Especially in clinical decision-making, it has the potential to improve treatment quality by assisting overworked medical professionals. Even though research has started to investigate the utilization of AI for clinical decision-making, its potential benefits do not imply its adoption by medical professionals. While several studies have started to analyze adoption criteria from a technical perspective, research providing a human-centered perspective with a focus on AI's potential for becoming a coequal team member in the decision-making process remains limited. Therefore, in this work, we identify factors for the adoption of human-AI collaboration by conducting a series of semi-structured interviews with experts in the healthcare domain. We identify six relevant adoption factors and highlight existing tensions between them and effective human-AI collaboration.

研究の動機と目的

• 技術的パフォーマンスを超えて、AIの臨床意思決定における採用に影響を与える人間中心の要因を理解すること。
• AIが単なるツールではなく、医療チームにおける同等のパートナーとして機能する方法を探ること。
• 医療現場における効果的な人間-AI協働を阻害する可能性のある、採用要因間の対立を特定すること。
• 臨床ワークフローとチームダイナミクスにスムーズに統合されるように、AIシステムの設計を支援すること。

提案手法

• 臨床分野の専門家を対象に、半構造化インタビューを実施し、採用要因を調査した。
• 定性的分析を用いて、人間-AI協働に影響を与える繰り返し現れるテーマや要因を同定した。
• 人間-コンピュータインタラクションおよびAI採用分野の既存理論枠組みに、同定された要因をマッピングした。
• テーマ的分析を通じて、要因間の対立を検討し、臨床現場におけるトレードオフに焦点を当てた。
• 実際の臨床現場の文脈に注目することで、臨床職員およびシステム設計者にとっての関連性を保証した。
• 反復的分析による検証を通じて、洞察の堅牢性と深さを確保した。

実験結果

リサーチクエスチョン

• RQ1 どのような要因が、医療従事者がAIを臨床意思決定における同等のパートナーとして採用しようとする意思に影響を与えるか？
• RQ2 臨床現場におけるAIの採用を形作る、認識された信頼、透明性、作業負荷の関係はどのように作用するか？
• RQ3 異なる採用要因の間に存在する対立は、どのようにして効果的な人間-AI協働を阻害する可能性があるか？
• RQ4 臨床医は、AIを意思決定プロセスにおけるチームメンバーと見なすか、それとも単なるツールと見なすか？
• RQ5 AIシステムの設計は、人間中心の課題に対応することで、臨床ワークフローへのスムーズな統合をどのように支援できるか？

主な発見

• 信頼、透明性、作業負荷、役割の明確さ、責任、システムの信頼性の6つの主要な採用要因が同定された。
• 透明性と作業負荷の間には対立が存在し、説明可能性の向上が認知的負荷を増加させる可能性がある。
• 臨床医は技術的パフォーマンスよりも、信頼とシステムの信頼性を優先してAIツールを採用する傾向がある。
• 人間-AIチームにおける役割の明確さと責任の欠如は、AIの提言に依存することへのためらいを生じさせる。
• 専門家は、特に意思決定責任が医療従事者に残っている場合に、AIへの過剰依存を懸念している。
• 効果的な協働には、臨床的判断を補完するが置き換えるのではなく、認知的負担を最小限に抑えるAIシステムが必要である。