[論文レビュー] From Military to Healthcare: Adopting and Expanding Ethical Principles for Generative Artificial Intelligence

David Oniani, Jordan Hilsman+6 more|arXiv (Cornell University)|Aug 4, 2023

Artificial Intelligence in Healthcare and Education被引用数 5

ひとこと要約

本論文は、医療分野における生成的AIの倫理的導入を目的として、ガバナンス、信頼性、公平性、責任、トレーサビリティ、プライバシー、法的妥当性、共感、自律性の9つの原則（GREAT PLEA）を提唱する。軍事的AI倫理を基盤とし、バイアス、誤情報、人的制御の喪失といったリスクに対応するため、適応的かつ拡張的な枠組みを提供することで、臨床現場における安全で公平かつ患者中心のAI統合を実現する。

ABSTRACT

In 2020, the U.S. Department of Defense officially disclosed a set of ethical principles to guide the use of Artificial Intelligence (AI) technologies on future battlefields. Despite stark differences, there are core similarities between the military and medical service. Warriors on battlefields often face life-altering circumstances that require quick decision-making. Medical providers experience similar challenges in a rapidly changing healthcare environment, such as in the emergency department or during surgery treating a life-threatening condition. Generative AI, an emerging technology designed to efficiently generate valuable information, holds great promise. As computing power becomes more accessible and the abundance of health data, such as electronic health records, electrocardiograms, and medical images, increases, it is inevitable that healthcare will be revolutionized by this technology. Recently, generative AI has captivated the research community, leading to debates about its application in healthcare, mainly due to concerns about transparency and related issues. Meanwhile, concerns about the potential exacerbation of health disparities due to modeling biases have raised notable ethical concerns regarding the use of this technology in healthcare. However, the ethical principles for generative AI in healthcare have been understudied, and decision-makers often fail to consider the significance of generative AI. In this paper, we propose GREAT PLEA ethical principles, encompassing governance, reliability, equity, accountability, traceability, privacy, lawfulness, empathy, and autonomy, for generative AI in healthcare. We aim to proactively address the ethical dilemmas and challenges posed by the integration of generative AI in healthcare.

研究の動機と目的

• 生成的AIが医療分野に及ぼす増大する倫理的リスク（バイアス、透明性の欠如、臨床医の自律性の低下など）に対処すること。
• 軍事的AIに最初に開発された倫理的原則を、同様に高リスクの意思決定が求められる医療分野に適応・拡張すること。
• 臨床環境における生成的AIの責任ある開発・導入を支援する包括的かつ実行可能な倫理的フレームワークを提言すること。
• 大規模言語モデルのような現在のAIシステムの感情知能の欠如に反して、AI駆動の医療対話における共感と人的自律性の重要性を強調すること。
• 政策立案者、開発者、医療機関が倫理的AI利用のための基準とガバナンスメカニズムを確立する基盤を提供すること。

提案手法

• 米国国防総省の5大AI原則（責任、公平性、トレーサビリティ、信頼性、ガバナンス）を医療分野に特化したフレームワークに適応した。
• これらの原則を、ガバナンス、信頼性、公平性、責任、トレーサビリティ、プライバシー、法的妥当性、共感、自律性（GREAT PLEA）の9つの独立した倫理的カテゴリーに拡張した。
• 軍事的文脈と医療的文脈の間で比較分析を実施し、高圧力下での意思決定やシステム障害のリスクといった共通の倫理的課題を同定した。
• 倫理的原則が規制機関（例：WHO、AMA）との協働、基準策定、法的枠組みを通じて実施されることを提言した。
• 臨床医の自律性と患者の共感を維持するため、人間を含む制御システム（human-in-the-loop）の必要性を強調した。特に、現在の生成的モデルが感情知能に欠けるという点を踏まえた。
• バイアス、誤情報、パフォーマンスのずれを検出するため、分野特化型の指標を用いたAIシステムの継続的評価を提唱した。

実験結果

リサーチクエスチョン

• RQ1 軍事的AIに開発された倫理的原則を、医療分野に意味的に適応する方法は何か？
• RQ2 生成的AIが臨床現場に及ぼす、既存のAI倫理フレームワークでは十分にカバーされていない、独自の倫理的リスクは何か？
• RQ3 大規模言語モデルが感情知能に欠ける以上に、AI支援医療において共感と患者の自律性をどのように維持できるか？
• RQ4 ガバナンス、トレーサビリティ、責任が、臨床意思決定における生成的AIの責任ある使用を確保するために果たす役割は何か？
• RQ5 倫理的原則を、政策、基準、機関連携を通じて医療分野でどのように実務化できるか？

主な発見

• GREAT PLEAフレームワークは、バイアス、誤情報、人的制御の喪失といったリスクに対応する、生成的AIに特化した9原則の倫理的基盤を提供する。
• 生成的AIは医療分野でも軍事的応用と同様に、責任、信頼性、透明性の面で課題を抱えており、特に高圧力下での意思決定において顕著である。
• ChatGPTのような現在の大規模言語モデルは共感や感情知能に欠けるため、臨床的AIシステムに共感を専任の倫理的原則として設ける必要がある。
• 自律性の原則は、AIが臨床医の判断や患者の希望を上書きするのを防ぎ、人的監視を核とする仕組みを保証するために極めて重要である。
• トレーサビリティと説明可能性は、電子歴史記録（EHR）や診断レポートにおけるAI生成コンテンツの誤りやバイアスを検出・是正するために不可欠である。
• このフレームワークは、リスクの事前緩和を支援でき、政策立案者、開発者、医療機関が倫理的基準とコンプライアンスメカニズムを確立するのを導く基盤となる。