[論文レビュー] Role of Artificial Intelligence, Clinicians & Policymakers in Clinical Decision Making: A Systems Viewpoint

Avishek Choudhury, Onur Asan+1 more|arXiv (Cornell University)|Aug 30, 2019

Complex Systems and Decision Making被引用数 2

ひとこと要約

この論文は、臨床意思決定における人工知能（AI）、臨床医、政策立案者という3者の相互依存的役割を分析するためにシステム思考を適用している。医療は、AI、医療提供者、規制機関が動的かつ相互に作用することで結果を形成する複雑で相互依存的なシステムであると主張しており、患者ケアや意思決定の質を向上させるには統合的でシステムレベルの取り組みが不可欠であると強調している。

ABSTRACT

“What is a system?” Is one of those questions that is yet not clear to most individuals in this world. A system is an assemblage of interacting, interrelated and interdependent components forming a complex and integrated whole with an unambiguous and common goal. This paper emphasizes on the fact that all components of a complex system are inter-related and interdependent in some way and the behavior of that system depends on these interdependencies. A health care system as portrayed in this article is widespread and complex. This encompasses not only “hospitals” but also governing bodies like the FDA, technologies such as AI, biomedical devices, Cloud computing and many more. The interactions between all these components govern the behavior and existence of the overall healthcare system. In this paper, we focus on the interaction of artificial intelligence, care providers and policymakers and analyze using systems thinking approach, their impact on clinical decision making.

研究の動機と目的

• 人工知能（AI）、臨床医、政策立案者が臨床意思決定においてどのように相互依存しているかを検討すること。
• 医療業務へのAI統合におけるシステム的理解の不足を是正すること。
• システムの各構成要素の相互依存関係が臨床意思決定の結果にどのように影響するかを強調すること。
• AI統合型医療システムを設計するにあたり、システム的視点を提唱すること。
• システム全体のパフォーマンスと患者の安全性を向上させるための主要な変化のタイミング（リーバッジポイント）を特定すること。

提案手法

• 医療を相互に接続されたコンポONENTのネットワークとしてモデル化するため、システム思考の枠組みを採用すること。
• AI技術、臨床医、規制機関（例：FDA）の間の相互作用を分析すること。
• 医療システム内におけるフィードバックループ、依存関係、そして出現的行動に焦点を当てる。
• 概念的モデリングを用いて、あるコンポONENTの変化が全体のシステムに与える影響を説明すること。
• 個々のコンポONENTのパフォーマンスではなく、非線形的関係とシステム全体の成果に重点を置く。
• 健康情報学、政策科学、臨床実務からの知見を統合し、統一的なシステム的視点を構築すること。

実験結果

リサーチクエスチョン

• RQ1 人工知能（AI）、臨床医、政策立案者が、広義の医療システム内でどのように相互作用しているか。
• RQ2 AI統合型環境における臨床意思決定を形作る主要な相互依存関係は何か。
• RQ3 システムレベルのダイナミクスが、臨床意思決定の有効性と安全性にどのように影響するか。
• RQ4 フィードバックループと相互依存関係が、医療の成果にどのように寄与しているか。
• RQ5 臨床意思決定におけるシステムパフォーマンスを改善するための、重要なリーバッジポイントはどこか。

主な発見

• 医療システムは、AI、臨床医、政策立案者が動的に結びついた複雑で相互依存的なネットワークである。
• 臨床意思決定は、個々のコンポONENTを孤立して最適化するだけでは最適化できない。
• システム全体の相互依存関係が、臨床意思決定プロセスの行動と結果に顕著に影響を与える。
• FDAのような規制機関は、AIの展開とシステムの安定性を形作る上で極めて重要な役割を果たす。
• システム内の出現的行動は、個々のコンポONENTのパフォーマンスではなく、相互作用から生じる。
• システム的視点により、意思決定の質を向上させるには技術的進歩だけではなく、システム全体の連携が不可欠であることが明らかになった。