[論文レビュー] Readying Medical Students for Medical AI: The Need to Embed AI Ethics Education

Thomas P. Quinn, Simon Coghlan|arXiv (Cornell University)|Sep 7, 2021

Artificial Intelligence in Healthcare and Education被引用数 13

ひとこと要約

本論文は、医療AI倫理に関する倫理的問題を既存の生物医学倫理学または医療倫理学の授業に統合することで、医学生に臨床的AI倫理の実務的習得を段階的かつカリキュラム統合的に教えるための『埋め込み型AI倫理教育フレームワーク』を提唱する。このフレームワークにより、医学部は既存のカリキュラムを大幅に見直さずに、将来の医師がAIのリスクと利益を理解し、識別し、適切に説明する知識を的確に習得できるようになる。これは、AIの誤用、不使用、悪用による倫理的被害を防ぐものである。

ABSTRACT

Medical students will almost inevitably encounter powerful medical AI systems early in their careers. Yet, contemporary medical education does not adequately equip students with the basic clinical proficiency in medical AI needed to use these tools safely and effectively. Education reform is urgently needed, but not easily implemented, largely due to an already jam-packed medical curricula. In this article, we propose an education reform framework as an effective and efficient solution, which we call the Embedded AI Ethics Education Framework. Unlike other calls for education reform to accommodate AI teaching that are more radical in scope, our framework is modest and incremental. It leverages existing bioethics or medical ethics curricula to develop and deliver content on the ethical issues associated with medical AI, especially the harms of technology misuse, disuse, and abuse that affect the risk-benefit analyses at the heart of healthcare. In doing so, the framework provides a simple tool for going beyond the "What?" and the "Why?" of medical AI ethics education, to answer the "How?", giving universities, course directors, and/or professors a broad road-map for equipping their students with the necessary clinical proficiency in medical AI.

研究の動機と目的

• 医療分野におけるAIの統合が進む中で、医学生が医療AIの臨床的習得能力を身に付ける必要が高まっていることを踏まえ、そのニーズに対応すること。
• 医療分野におけるAIの広範な導入にもかかわらず、AI倫理に関する体系的で実践的な教育が不足している現状のギャップを特定すること。
• カリキュラムの根本的見直しを提唱するのではなく、既存の生物医学倫理学または医療倫理学のカリキュラムにAI倫理を統合する現実的で効率的な解決策を提示すること。
• 医学教育者が、臨床現場におけるAIのリスクと利益をどのように倫理的に評価し、説明するかを学生に教えること。
• 特に高リスクの医療応用分野におけるAIのような新技術に対して、医学生が批判的で倫理的な思考力を発展させることを支援すること。

提案手法

• 4段階のフレームワークを提唱する：(1) 医療AIにおける倫理的問題に基づいた新しいAI倫理の授業を策定し、(2) それらの授業を既存の生物医学倫理学または医療倫理学の授業と整合させ、(3) 新たな内容を教えるために前提となる技術的知識を持つ教員を訓練し、(4) 基礎的な技術的・医学的知識とともに学生に授業を提供する。
• AI倫理教育を確立された医学倫理モジュール内に統合し、単独のAI教育課程やカリキュラムの大規模な再構築を回避する。
• AIの誤用（過剰な信頼）、不使用（信頼不足）、悪用（機関による不適切な実装）といった事例を、現実の事例研究を通じて文脈づけて提示する。
• 臨床的AI応用における倫理的リスク・ベネフィット分析に焦点を当て、技術の誤用、不使用、悪用に起因する被害に直接対処する。
• ドグマティズム、功利主義、徳目倫理、ケア倫理といった古典的倫理的枠組みを用いて、医療分野におけるAIのジレンマを分析する。
• 学生が臨床現場におけるAIツールを理解し、倫理的に評価するには、深いプログラミングや機械学習の専門知識を必要とせず、限定的かつ必要な技術的知識で十分であることを強調する。

実験結果

リサーチクエスチョン

• RQ1 医学部は、カリキュラムの大幅な変更なしに、どのようにして既存のカリキュラムに臨床的AI倫理の習得を効果的かつ効率的に統合できるか？
• RQ2 医療AIにおける誤用、不使用、悪用といった倫理的問題の中で、患者の安全や臨床的意思決定に最も深刻な影響を与えるものは何か？
• RQ3 既存の生物医学倫理学または医療倫理学の授業を、大幅な教員の再訓練やカリキュラム再設計を要せず、どのようにAI倫理教育に適応できるか？
• RQ4 医学生が臨床現場におけるAIのリスクと利益を倫理的に評価し、説明するにあたり、どの程度の技術的・医学的知識が十分とされるか？
• RQ5 AI倫理教育は、未知の高リスク技術的イノベーションに直面する医学生の批判的思考力と倫理的判断力を、どのような形で育成できるか？

主な発見

• 埋め込み型AI倫理教育フレームワークは、既存の生物医学倫理学カリキュラムを活用することで、医療教育におけるAI倫理教育の統合を現実的かつ段階的に実現する道筋を提供する。
• このフレームワークにより、医学生は深層的な技術的トレーニングを経ることなく、リスクと利益の理解に焦点を当てた的確な倫理的思考力と、医療AIの臨床的習得能力を習得できる。
• 誤用、不使用、悪用に起因する倫理的被害に焦点を当てることで、医療実践の中心的であるリスク・ベネフィット分析の核心的懸念に直接対処する。
• このアプローチは、カリキュラムの大規模な見直しを回避し、既存の教育構造と内容を活用するため、効率的である。
• 教員は、AI倫理教育を教えるために必要な技術的・医学的知識に特化した訓練を受けることで、的確に準備できる。これにより教育の質が保証される。
• このフレームワークは他の健康職に応用可能であり、医療分野におけるAIの複雑さを的確に理解し、倫理的に対応できる実務者を育成する支援も行う。