[論文レビュー] Addressing Intersectionality, Explainability, and Ethics in AI-Driven Diagnostics: A Rebuttal and Call for Transdiciplinary Action

Myles Joshua Toledo Tan, Panayiotis V. Benos|ArXiv.org|Jan 15, 2025

Artificial Intelligence in Healthcare and Education被引用数 7

ひとこと要約

この論文はAI診断の純粋な精度志向の見解を退け、倫理的で公平なAI主導の医療を実現するための交差性、プライバシー、説明可能性、および学際横断的協力を提唱します。

ABSTRACT

The increasing integration of artificial intelligence (AI) into medical diagnostics necessitates a critical examination of its ethical and practical implications. While the prioritization of diagnostic accuracy, as advocated by Sabuncu et al. (2025), is essential, this approach risks oversimplifying complex socio-ethical issues, including fairness, privacy, and intersectionality. This rebuttal emphasizes the dangers of reducing multifaceted health disparities to quantifiable metrics and advocates for a more transdisciplinary approach. By incorporating insights from social sciences, ethics, and public health, AI systems can address the compounded effects of intersecting identities and safeguard sensitive data. Additionally, explainability and interpretability must be central to AI design, fostering trust and accountability. This paper calls for a framework that balances accuracy with fairness, privacy, and inclusivity to ensure AI-driven diagnostics serve diverse populations equitably and ethically.

研究の動機と目的

• AI主導の医療診断において診断の正確さのみに焦点を当てることの倫理的限界を強調する。
• インターセクショナリティ、健康の社会的決定要因（SDoH）、およびより広い決定要因をAIシステムに組み込むことを論じる。
• 機微属性の使用による害を防ぐためのプライバシー、データセキュリティ、ガバナンスを強調する。
• 説明可能性、透明性、および参加型・学際横断的な開発を提唱する。

提案手法

• AI診断において正確さを公平性より優先する立場を批判的に分析する。
• 社会科学、倫理学、公共衛生の洞察を統合した学際横断的枠組みを提案する。
• インターセクショナル・フェアネス、健康決定要因の統合、プライバシーとセキュリティ、学際横断的協働の4つの柱を備えた枠組みを概説する。
• 差分プライバシー、フェデレーテッドラーニングなど、プライバシーを保護するAIの方法論的アプローチを推奨する。
• インターセクショナリティと実世界の健康決定要因を反映する指標と評価を提唱する。

Descriptio 1: Framework for an Equity-Centered and AI-Driven Diagnostics. This framework illustrates the four pillars essential for achieving equitable and inclusive AI-driven diagnostics. These include Intersectional Fairness, Determinants of Health Integration (social; environmental; behavioral an

実験結果

リサーチクエスチョン

• RQ1 インターセクショナリティと健康の社会的決定要因は、AI主導の診断の公平さにどのような影響を与えるか。
• RQ2 AI医療ツールにおいて正確さと公平性、プライバシー、包摂性のバランスを取るために、どのような枠組みとガバナンス構造が必要か。
• RQ3 説明可能性と学際横断的協働をAI開発ライフサイクルに統合して信頼と公平性を向上させるにはどうすればよいか。

主な発見

• 健康格差を離散的なサブ集団や指標へ還元することは、不平等を永続化させるリスクがあると主張する。
• 人種は一貫した生物学的根拠を欠く社会的構成概念であり、診断の代理として人種を使用することに慎重であるべきだと警告する。
• AIの性能最適化のために機微属性を使用する際のプライバシーとデータセキュリティのリスクを強調する。
• 実世界の複雑性を反映するために、生活習慣、環境、構造的健康決定要因をAIシステムに組み込むことを提唱する。
• AI主導の診断に対する説明可能性、解釈可能性、ガバナンスを求め、説明責任と信頼性を確保する。
• 公正なAI診断を導く4つの柱を備えた統合的な枠組みを提案する。