[論文レビュー] Organizational Governance of Emerging Technologies: AI Adoption in Healthcare

Jee Young Kim, William Boag+14 more|arXiv (Cornell University)|Apr 25, 2023

Electronic Health Records Systems被引用数 5

ひとこと要約

本論文は、米国医療システムにおけるAIの組織的ガバナンスに関する8つの主要意思決定ポイントを、89名の専門家を対象とした定性的分析および医療システムのリーダーを対象とした使いやすさテストを通じて同定した。本研究は、臨床的・倫理的・運用的現実と一致するように制度的プロセスを整えることで、安全で公平かつ効果的なAI導入を促進する構造化されたフレームワークを提言する。

ABSTRACT

Private and public sector structures and norms refine how emerging technology is used in practice. In healthcare, despite a proliferation of AI adoption, the organizational governance surrounding its use and integration is often poorly understood. What the Health AI Partnership (HAIP) aims to do in this research is to better define the requirements for adequate organizational governance of AI systems in healthcare settings and support health system leaders to make more informed decisions around AI adoption. To work towards this understanding, we first identify how the standards for the AI adoption in healthcare may be designed to be used easily and efficiently. Then, we map out the precise decision points involved in the practical institutional adoption of AI technology within specific health systems. Practically, we achieve this through a multi-organizational collaboration with leaders from major health systems across the United States and key informants from related fields. Working with the consultancy IDEO [dot] org, we were able to conduct usability-testing sessions with healthcare and AI ethics professionals. Usability analysis revealed a prototype structured around mock key decision points that align with how organizational leaders approach technology adoption. Concurrently, we conducted semi-structured interviews with 89 professionals in healthcare and other relevant fields. Using a modified grounded theory approach, we were able to identify 8 key decision points and comprehensive procedures throughout the AI adoption lifecycle. This is one of the most detailed qualitative analyses to date of the current governance structures and processes involved in AI adoption by health systems in the United States. We hope these findings can inform future efforts to build capabilities to promote the safe, effective, and responsible adoption of emerging technologies in healthcare.

研究の動機と目的

• 規範的な規制枠組みが整備されていない状況においても、医療分野におけるAIの明確な組織的ガバナンス構造の欠如に取り組むこと。
• 現在の医療機関が臨床現場におけるAIの導入・統合に関してどのように意思決定しているかを理解すること。
• 責任あるAIの展開を妨げる、制度的能⼒・専門知識・意思決定プロセスのギャップを特定すること。
• 医療機関のリーダー、AI開発者、政策立案者に実行可能なガバナンスリソースと共有基準を提供すること。
• 臨床医の主体性、多職種連携、制度的責任を核とした、公平で信頼できるAI統合を促進すること。

提案手法

• 医療、AI倫理、関連分野の専門家89名を対象に、修正版グラウンド理論アプローチを用いた半構造的インタビューを実施した。
• AI導入における主要意思決定ポイントを軸にしたプロトタイプを用い、医療およびAI倫理専門家を対象に使いやすさテストを実施した。
• 米国主要医療機関および外部専門家とのマルチ組織的連携を通じて、制度的意思決定プロセスをマッピングした。
• 繰り返し現れるガバナンスの課題およびアルゴリズムのキュレーター、ブローカー、アーティキュレーターなどの制度的役割を同定した。
• 組織的ワークフロー、政策環境、臨床統合のニーズを分析し、実務的ガバナンス手順を定義した。
• 研究結果を統合し、現実の制度的導入プロセスを反映する8つの意思決定ポイントからなるフレームワークを構築した。

実験結果

リサーチクエスチョン

• RQ1 医療機関が臨床ケアにおけるAIの導入の際に直面する核心的な意思決定ポイントは何か？
• RQ2 組織的ガバナンス構造は、現在、医療分野におけるAIの安全かつ公平な統合をどのように支援しているか、あるいは妨げているか？
• RQ3 技術的評価を超えて、AI導入を効果的にガバナンスするために必要な制度的役割と能力は何か？
• RQ4 多職種連携は、臨床現場におけるAI統合の質と信頼性をどのように向上させ得るか？
• RQ5 医療機関に存在する、一貫性、公平性、責任あるAIガバナンスを阻害するシステム的障壁は何か？

主な発見

• 医療機関全体にわたって同定された8つの主要意思決定ポイントは、AI導入の組織的ガバナンスを構造づけるものであり、制度的意思決定の繰り返し可能なフレームワークを形成している。
• 臨床医のAIへの信頼は、透明性、説明可能性、およびモデル行動とデータのルートに関する継続的ドキュメンテーションに依存する。
• アルゴリズムのキュレーター、ブローカー、アーティキュレーターといった新しい制度的役割は不可欠であるが、現在の医療機関ではしばしば欠落しているか、リソースが不足している。
• 臨床医、データサイエンティスト、技術専門家からなる多職種チームは、実現可能性の評価、バイアスの低減、臨床的安全性の確保において不可欠である。
• AIガバナンスは、アルゴリズム的ではなく、制度的であるべきであり、個別のモデル性能ではなく、社会的・技術的システムとその成果に焦点を当てるべきである。
• 医療機関内およびその間での専門知識とリソースの不均等な分配は、AI導入およびその結果における不平等を悪化させるリスクをはらんでいる。