[论文解读] XAI-MeD: Explainable Knowledge Guided Neuro-Symbolic Framework for Domain Generalization and Rare Class Detection in Medical Imaging

Mohd Urooj, Ayan Banerjee+1 more|arXiv (Cornell University)|Jan 5, 2026

Domain Adaptation and Few-Shot Learning被引用 0

一句话总结

XAI-MeD 将神经网络与符号临床知识相结合，以改善医学影像中的领域泛化和罕见类别检测，同时通过一个大语言模型提供可解释的解释。它使用受 Hunt 启发的自适应路由，结合熵不平衡增益和罕见类别吉尼来融合符号与深度输出。

ABSTRACT

Explainability domain generalization and rare class reliability are critical challenges in medical AI where deep models often fail under real world distribution shifts and exhibit bias against infrequent clinical conditions This paper introduces XAIMeD an explainable medical AI framework that integrates clinically accurate expert knowledge into deep learning through a unified neuro symbolic architecture XAIMeD is designed to improve robustness under distribution shift enhance rare class sensitivity and deliver transparent clinically aligned interpretations The framework encodes clinical expertise as logical connectives over atomic medical propositions transforming them into machine checkable class specific rules Their diagnostic utility is quantified through weighted feature satisfaction scores enabling a symbolic reasoning branch that complements neural predictions A confidence weighted fusion integrates symbolic and deep outputs while a Hunt inspired adaptive routing mechanism guided by Entropy Imbalance Gain EIG and Rare Class Gini mitigates class imbalance high intra class variability and uncertainty We evaluate XAIMeD across diverse modalities on four challenging tasks i Seizure Onset Zone SOZ localization from rs fMRI ii Diabetic Retinopathy grading across 6 multicenter datasets demonstrate substantial performance improvements including 6 percent gains in cross domain generalization and a 10 percent improved rare class F1 score far outperforming state of the art deep learning baselines Ablation studies confirm that the clinically grounded symbolic components act as effective regularizers ensuring robustness to distribution shifts XAIMeD thus provides a principled clinically faithful and interpretable approach to multimodal medical AI.

研究动机与目标

• 在分布转变和罕见类别偏差下仍保持可靠性的鲁棒医学 AI 的动机。
• 将临床专业知识编码为基于逻辑的规则以引导神经预测。
• 开发知识引导的专家选择机制，将输入路由到专门分类器。
• 融合符号与神经输出，并通过大语言模型生成临床可解释的解释。

提出的方法

• 两分支架构：一个用于特征提取的深度学习分支；一个将临床知识编码为原子命题上的逻辑规则的专家知识处理器。
• EKSAII 算法（Expert Knowledge and Supervised AI Integration）使用熵不平衡增益选择并级联分类器，以改善罕见类别的可分离性并管理组内变异性。
• 使用受 Hunt 启发的自适应路由机制，形成一个将神经与符号专家整合在一起的类别专门化决策树。
• 符号输出被转化为知识特征，与神经预测融合后输入到大语言模型（GPT-4）以生成解释和定位。
• 将专家知识形式化为命题逻辑；命题映射到领域特征；整体类别满足度 S_ClassX 由命题满足度的加权和表示，S_ClassX = ∑ w_i s_i。
• EKSAII 算法基于局部密度计算 EIG(M_d) 以选择分类器，并使用基尼指数在组内变异性较高时决定分区和级联。

Figure 1: Conceptual overview of the XAI-MeD framework.

实验结果

研究问题

• RQ1 相比纯深度学习基线，神经-符号框架是否能改善医学影像的跨域泛化？
• RQ2 纳入专家知识是否能减少对罕见临床条件的偏见并提升罕见类别检测？
• RQ3 自适应路由机制是否能有效结合神经与符号专家以在分布转移下提升鲁棒性？
• RQ4 框架是否能够通过一个大语言模型产出临床对齐、且对符号推理忠实的解释？
• RQ5 在多样化的模态与任务（如 SOZ 定位和糖尿病性视网膜病变分级）中，该方法的表现如何？

主要发现

• XAI-MeD 相较于最先进基线在罕见类别 F1 分数和跨域泛化方面在多任务与数据集上取得显著提升。
• 在 SOZ 定位中，XAI-MeD 达到 84.6% 的准确率和 89.7% 的灵敏度，将专家复核工作量从 110 IC 降至 18。
• 在糖尿病性视网膜病变分级中，该框架在 Grade 3 与 Grade 4 的 F1 分数上提升约 10 个百分点（从 45–52% 区间提升到报道的更高值），DR 分级总体准确率达到 84%。
• 消融研究表明神经-符号融合优于仅神经或仅符号的模型，且非加权融合在跨域的一般化上达到最佳均值。
• EKSAII 路由机制通过利用熵不平衡增益和基尼分割对域转移表现出鲁棒性。

Figure 2: Overview of the XAI-MeD framework. The system integrates medical knowledge with multimodal imaging to enhance disease classification and provide clinically aligned, interpretable explanations with spatial localization.