[論文レビュー] The promise and perils of AI in medicine

Robert Sparrow, Joshua Hatherley|Monash University Research Portal (Monash University)|May 11, 2025

Artificial Intelligence in Healthcare and Education被引用数 9

ひとこと要約

AI in medicine の期待とリスクの調査と批評。研究、診断、行政、ケアの人間性、プライバシー、偏り、ガバナンスを包含。

ABSTRACT

What does Artificial Intelligence (AI) have to contribute to health care? And what should we be looking out for if we are worried about its risks? In this paper we offer a survey, and initial evaluation, of hopes and fears about the applications of artificial intelligence in medicine. AI clearly has enormous potential as a research tool, in genomics and public health especially, as well as a diagnostic aid. It's also highly likely to impact on the organisational and business practices of healthcare systems in ways that are perhaps under-appreciated. Enthusiasts for AI have held out the prospect that it will free physicians up to spend more time attending to what really matters to them and their patients. We will argue that this claim depends upon implausible assumptions about the institutional and economic imperatives operating in contemporary healthcare settings. We will also highlight important concerns about privacy, surveillance, and bias in big data, as well as the risks of over trust in machines, the challenges of transparency, the deskilling of healthcare practitioners, the way AI reframes healthcare, and the implications of AI for the distribution of power in healthcare institutions. We will suggest that two questions, in particular, are deserving of further attention from philosophers and bioethicists. What does care look like when one is dealing with data as much as people? And, what weight should we give to the advice of machines in our own deliberations about medical decisions?

研究の動機と目的

• 医療研究、診断、行政におけるAIの潜在的な利益を評価する。
• 医療におけるAIに関連する倫理的・政治的・社会的リスクを特定する。
• AIが患者ケア、医師の役割、医療機関へ及ぼす影響を検討する。
• データ中心のケアと医療意思決定における機械的ガイダンスに関して、哲学者・生物倫理学者が対処すべき問題を論じる。

提案手法

• 医療におけるAIの研究・診断・行政分野に関する既存文献を批判的に概観する。
• ヘルスケアにおけるAIシステムに関連する倫理的・プライバシー・偏り・説明性の課題を分析する。
• 医療機関内の信頼・責任・権力分配への影響を論じる。
• 医療にAIを統合する際には、慎重で哲学的に情報を得たアプローチを主張する。

実験結果

リサーチクエスチョン

• RQ1 医療研究、診断、行政におけるAIの主な約束は何か？
• RQ2 AI対応医療におけるプライバシー・監視・偏り・説明責任の課題と倫理的懸念は何か？
• RQ3 AIは医療における信頼、医師の deskilling、システムの脆弱性、権力分配にどのように影響する可能性があるか？
• RQ4 データ中心のケアと機械が影響を与える医療決定に関して、哲学者・生物倫理学者が優先すべき問題は何か？

主な発見

• AIはゲノム学、創薬、EHRのデータマイニングを通じて医療研究を前進させる可能性がある。
• AIは特に医用画像で診断支援に有望だが、臨床的検証は限られており、方法論的に弱いことが多い。
• AIは医療行政と資源配分を改善できる可能性がある一方で、統制を中央集権化し、患者体験に影響を及ぼす可能性がある。
• 大規模データ収集と再識別リスクの可能性により、プライバシーと監視の懸念が強まる。
• トレーニングデータの偏りは、人種・性別・階級を横断する健康格差を助長または悪化させうる。
• 説明責任・同意・正当な医療意思決定に関する課題が説明可能性の問題を引き起こす。