[論文レビュー] XAI-MeD: Explainable Knowledge Guided Neuro-Symbolic Framework for Domain Generalization and Rare Class Detection in Medical Imaging

Mohd Urooj, Ayan Banerjee+1 more|arXiv (Cornell University)|Jan 5, 2026

Domain Adaptation and Few-Shot Learning被引用数 0

ひとこと要約

XAI-MeDは神経ネットワークと象徴的臨床知識を組み合わせ、分野一般化と希少クラス検出を改善しつつ、解釈可能な説明をLLMを通じて提供します。象徴的出力と深層出力を融合する際、Huntに触発された適応ルーティングとEntropy Imbalance GainおよびRare-Class Giniを用います。

ABSTRACT

Explainability domain generalization and rare class reliability are critical challenges in medical AI where deep models often fail under real world distribution shifts and exhibit bias against infrequent clinical conditions This paper introduces XAIMeD an explainable medical AI framework that integrates clinically accurate expert knowledge into deep learning through a unified neuro symbolic architecture XAIMeD is designed to improve robustness under distribution shift enhance rare class sensitivity and deliver transparent clinically aligned interpretations The framework encodes clinical expertise as logical connectives over atomic medical propositions transforming them into machine checkable class specific rules Their diagnostic utility is quantified through weighted feature satisfaction scores enabling a symbolic reasoning branch that complements neural predictions A confidence weighted fusion integrates symbolic and deep outputs while a Hunt inspired adaptive routing mechanism guided by Entropy Imbalance Gain EIG and Rare Class Gini mitigates class imbalance high intra class variability and uncertainty We evaluate XAIMeD across diverse modalities on four challenging tasks i Seizure Onset Zone SOZ localization from rs fMRI ii Diabetic Retinopathy grading across 6 multicenter datasets demonstrate substantial performance improvements including 6 percent gains in cross domain generalization and a 10 percent improved rare class F1 score far outperforming state of the art deep learning baselines Ablation studies confirm that the clinically grounded symbolic components act as effective regularizers ensuring robustness to distribution shifts XAIMeD thus provides a principled clinically faithful and interpretable approach to multimodal medical AI.

研究の動機と目的

• 分布シフトと希少クラスバイアスの下でも信頼性を保つ堅牢な医用AIを動機づける。
• 臨床知識を論理規則としてエンコードし、ニューラル予測を導く。
• 専門家選択メカニズムを開発し、入力を専門分類器へルーティングする。
• 象徴とニューラル出力を融合し、LLMを介して臨床的に解釈可能な説明を生成する。

提案手法

• 特徴抽出用のDeep Learningブランチと、原子命題上の論理規則として臨床知識をエンコードするExpert Knowledge Processorの二つの分岐アーキテクチャ。
• EKSAIIアルゴリズム（Expert Knowledge and Supervised AI Integration）は、Entropy Imbalance Gainを用いて分類器を選択・カスケードさせ、希少クラスの分離性を向上させ、クラス内ばらつきを管理する。
• Huntに触発された適応ルーティング機構を用いて、ニューラルと象徴的専門家を統合するクラス特化型意思決定ツリーを形成する。
• 象徴的出力を知識特徴へ変換し、それをニューラル予測と融合させ、LLM（GPT-4）へ入力して説明と局在化を生成する。
• 専門知識を命題論理として形式化；命題はドメイン特有の特徴へ写像される；全体のクラス満足度S_ClassXは命題満足度の加重和として表されるS_ClassX = sum w_i s_i。
• アルゴリズムEKSAIIは局所密度とクラスエントロピーに基づいてEIG(M_d)を計算し、分類器を選択し、クラス内のばらつきが大きい場合には分割とカスケードをGini指数で決定する。

Figure 1: Conceptual overview of the XAI-MeD framework.

実験結果

リサーチクエスチョン

• RQ1 神経-symbolicフレームワークは、純粋な深層学習ベースラインと比較して医用画像における分野間一般化を改善できるか？
• RQ2 専門知識の組み込みにより希少な臨床状態へのバイアスを低減し、希少クラス検出を強化できるか？
• RQ3 適応ルーティング機構は、ニューラルと象徴的専門家を効果的に組み合わせ、分布シフト下での頑健性を向上させられるか？
• RQ4 フレームワークは象徴的推論に忠実な臨床的に整合した説明をLLMで生成できるか？
• RQ5 SOZ局在化や糖尿病性網膜症分類など、多様なモダリティとタスクでの性能はどうなるか？

主な発見

• XAI-MeDは希少クラスF1スコアと分野間一般化の点で最先端ベースラインを上回る notable gainsを達成。
• SOZ局在化では84.6%の精度と89.7%の感度を達成し、専門家のレビュー負担を110個体から18個体へ削減。
• 糖尿病性網膜症分類では、フレームワークがGrade 3およびGrade 4のF1スコアを約10ポイント改善（45–52%レンジから高い値へ）、DR分類の全体精度は84%を達成。
• アブレーション研究により、神経-象徴的融合はニューラルのみまたは象徴のみモデルを上回り、非加重融合がドメイン横断で最良の平均一般化を得る。
• EKSAIIルーティング機構はEntropy Imbalance GainとGiniベースの分割により分野シフトに対して頑健性を示す。

Figure 2: Overview of the XAI-MeD framework. The system integrates medical knowledge with multimodal imaging to enhance disease classification and provide clinically aligned, interpretable explanations with spatial localization.