[論文レビュー] Generative Artificial Intelligence in Healthcare: Ethical Considerations and Assessment Checklist

Yilin Ning, Salinelat Teixayavong+15 more|arXiv (Cornell University)|Nov 2, 2023

Artificial Intelligence in Healthcare and Education被引用数 7

ひとこと要約

本論文は、生成AI（GenAI）の医療分野への応用に関する既存の倫理的議論を体系的レビューを通じて整理し、包括的な倫理的アセスメントチェックリストを提案する。このチェックリストは、透明性のある文書作成と、ピアレビューおよび製品開発への統合を可能にし、テキスト生成から合成データ作成に至るまでのGenAI応用分野における倫理的監視の不足を補う。

ABSTRACT

The widespread use of ChatGPT and other emerging technology powered by generative artificial intelligence (GenAI) has drawn much attention to potential ethical issues, especially in high-stakes applications such as healthcare, but ethical discussions are yet to translate into operationalisable solutions. Furthermore, ongoing ethical discussions often neglect other types of GenAI that have been used to synthesise data (e.g., images) for research and practical purposes, which resolved some ethical issues and exposed others. We conduct a scoping review of ethical discussions on GenAI in healthcare to comprehensively analyse gaps in the current research, and further propose to reduce the gaps by developing a checklist for comprehensive assessment and transparent documentation of ethical discussions in GenAI research. The checklist can be readily integrated into the current peer review and publication system to enhance GenAI research, and may be used for ethics-related disclosures for GenAI-powered products, healthcare applications of such products and beyond.

研究の動機と目的

• 生成AIの医療分野への応用に関連する倫理的課題を特定・体系化すること。これには、大規模言語モデルのような新興分野から、合成データ生成のような既存の応用まで含む。
• 理論的な倫理的議論と実務的・運用可能な解決策との間のギャップを是正すること。
• GenAI研究および応用における倫理的考慮事項を文書化するための標準的かつ実用的なチェックリストを開発すること。
• ピアレビューおよび規制プロセスへの統合を支援し、責任性と透明性を向上させること。
• テキストベースのGenAIにとどまらず、研究および臨床用途における画像生成を含むデータ合成応用への倫理的監視を拡大すること。

提案手法

• 生成AIの医療分野における倫理的議論を体系的レビューし、既存の懸念をマッピングし、テーマ的ギャップを同定する。
• 異なるGenAI応用分野において、プライバシー、バイアス、透明性、責任、データ整合性などの分野にわたり、倫理的問題を分類する。
• 同定された倫理的分野に基づき、研究報告および製品開発に使用可能な構造化されたチェックリストを設計する。
• ピアレビューおよび規制基準と整合性を持つように、既存の研究および臨床レビュー枠組みと一致させる。
• 大規模言語モデルや合成データ生成を含む多様なGenAIユースケースを、チェックリストの範囲に組み込む。
• チェックリストを、出版における義務的な倫理的開示および医療製品評価のツールとして提案する。

実験結果

リサーチクエスチョン

• RQ1 異なる種類のGenAI応用において、生成AIの医療分野への応用に関連する主な倫理的課題は何か？
• RQ2 現在のGenAI研究における倫理的議論は、なぜ実務的・運用可能な実践にまで到達しないのか？
• RQ3 合成医療データの生成にGenAIを用いる場合の倫理的含意は何か。テキストベースのGenAIとはどのように異なるのか？
• RQ4 標準化されたアセスメントツールは、GenAI研究および臨床展開における透明性と責任性をどのように向上させるか？
• RQ5 提案されたチェックリストは、医療AIの既存のピアレビューおよび規制システムに、どのような形で統合可能か？

主な発見

• 体系的レビューにより、合成データ生成に関する倫理的議論の著しいギャップが明らかになった。これは一部の問題（例：データ不足）を解決するが、新たなリスク（例：バイアスの拡散）をもたらす。
• GenAIにおける倫理的課題は、データプライバシー、アルゴリズムバイアス、モデルの解釈可能性、意思決定の責任など、複数の分野にわたる。
• 提案されたチェックリストは、GenAI研究および応用の全段階における倫理的考慮事項の文書化のための構造化されたフレームワークを提供する。
• チェックリストは、ピアレビューおよび出版プロセスに統合可能であり、学術的研究における体系的な倫理的開示を可能にする。
• このツールは、研究における透明性に加え、GenAIを活用する医療製品の開発および展開における透明性も支援する。
• チェックリストは、新興のGenAI応用（例：LLM）と既存の応用（例：合成画像生成）の両方をカバーしており、広範な適用可能性を確保している。