[論文レビュー] HiTZ@Antidote: Argumentation-driven Explainable Artificial Intelligence for Digital Medicine

Rodrigo Agerri, Iñigo Alonso+10 more|arXiv (Cornell University)|Jun 9, 2023

Explainable Artificial Intelligence (XAI)被引用数 4

ひとこと要約

本論文は、深層学習と人間らしい議論的手法を統合して、臨床診断のための高品質でインタラクティブな説明を生成する、議論駆動型の説明可能なAIフレームワークであるHiTZ@Antidoteを紹介する。また、正しいおよび誤った医療回答の両方の議論的構造を持つ説明を含む多言語対応のCasiMedicosデータセットを提案し、医療分野における説明可能なAIの発展を図る。

ABSTRACT

Providing high quality explanations for AI predictions based on machine learning is a challenging and complex task. To work well it requires, among other factors: selecting a proper level of generality/specificity of the explanation; considering assumptions about the familiarity of the explanation beneficiary with the AI task under consideration; referring to specific elements that have contributed to the decision; making use of additional knowledge (e.g. expert evidence) which might not be part of the prediction process; and providing evidence supporting negative hypothesis. Finally, the system needs to formulate the explanation in a clearly interpretable, and possibly convincing, way. Given these considerations, ANTIDOTE fosters an integrated vision of explainable AI, where low-level characteristics of the deep learning process are combined with higher level schemes proper of the human argumentation capacity. ANTIDOTE will exploit cross-disciplinary competences in deep learning and argumentation to support a broader and innovative view of explainable AI, where the need for high-quality explanations for clinical cases deliberation is critical. As a first result of the project, we publish the Antidote CasiMedicos dataset to facilitate research on explainable AI in general, and argumentation in the medical domain in particular.

研究の動機と目的

• 学生臨床医の教育を支援する高品質で解釈可能な説明のニーズに対応すること。
• 臨床意思決定における低レベルの深層学習表現と高レベルの人間の議論パターンの間のギャップを埋めること。
• 正しい診断を支持する根拠に加え、代替仮説を排除する反論も提供するシステムの開発。
• ユーザー主導の明確化やより深い推論を支援する対話型の説明生成を可能にすること。
• 医療分野における説明可能なAIおよび議論抽出研究を促進するため、多言語対応で議論的構造がアノテートされたデータセット（CasiMedicos）の作成と公開。

提案手法

• 医学的根拠と推論に基づいた説明を生成するために、深層学習モデルと議論スキームを統合する。
• 抽出型と生成型の質問応答を統合するハイブリッドアプローチを採用し、正しいおよび誤った回答の両方の説明を生成する。
• 多言語大規模言語モデル（例：mBERT, mT5）を用いて、議論抽出および説明生成における多言語間転送を実現する。
• 構造的な議論的ディスcourseのアノテーションを実施：説明を特定の回答に関連付け、階層的議論構造をラベル付けし、ディスコースマーカーを同定する。
• 臨床医が動的に質問し、挑戦し、説明を探索できる対話型XAIのシナリオを設計する。
• スペイン語の医療試験データ（SAEIおよびCasiMedicos）を英語に翻訳・再アノテートし、多言語研究およびモデル学習を支援する。

Figure 1: ANTIDOTE use-case scenario.

実験結果

リサーチクエスチョン

• RQ1 議論理論を深層学習と効果的に統合することで、医療AI分野における高品質で人間が理解可能な説明を生成できるか？
• RQ2 臨床意思決定支援に有効な議論的説明の主な構造的・言語的特徴は何か？
• RQ3 多言語大規模言語モデルは、医療分野において英語からスペイン語、フランス語、イタリア語への議論的推論をどの程度効果的に転送できるか？
• RQ4 説明は、正しい診断を支持する根拠に加え、代替仮説を排除する証拠を含めるようにどのように設計できるか？
• RQ5 医療QAデータセットにおける信頼性が高く再現可能で言語的に豊かな議論的構造を可能にするアノテーションスキーマは何か？

主な発見

• CasiMedicosデータセットは、正しいおよび誤った回答の両方の説明を含む議論的構造がアノテートされた、医療分野で初の多言語コーパスである。
• このデータセットにより、医療診断のための議論的説明の特定および生成に焦点を当てた、抽出型および生成型の新規QAタスクが可能になる。
• 多言語間転送実験の結果、多言語大規模言語モデルを微調整することで、スペイン語、フランス語、イタリア語においても議論抽出および説明生成が効果的に実行可能であることが示された。
• 議論スキームと深層学習の統合により、AIが生成する医療説明の解釈可能性と説得力が向上した。
• システムは対話型ダイアログを効果的にサポートし、ユーザーがフォローアップ質問を投げかけ、一貫性があり文脈に即した説明を受け取ることができる。
• CC BY 4.0ライセンスの下で無料でオープンアクセスとして公開されたデータセットのおかげで、今後の議論駆動型XAI研究の基盤が確立された。これにより、再現性とコミュニティの採用が保証された。

Figure 2: Explainable AI with Human in the Loop.