[论文解读] GAMI-Net: An Explainable Neural Network based on Generalized Additive Models with Structured Interactions

Zebin Yang, Aijun Zhang+1 more|arXiv (Cornell University)|Mar 16, 2020

Explainable Artificial Intelligence (XAI)参考文献 37被引用 16

一句话总结

GAMI-Net 是一种内在可解释的神经网络，通过解耦的子网络建模主效应和结构化的成对交互作用，扩展了广义加法模型。它通过施加稀疏性、继承性和边际清晰性约束来确保可解释性，同时实现具有竞争力的预测准确率，在真实世界数据集上的表现优于或匹配 EBM 等模型，且模型透明度更优。

ABSTRACT

The lack of interpretability is an inevitable problem when using neural network models in real applications. In this paper, an explainable neural network based on generalized additive models with structured interactions (GAMI-Net) is proposed to pursue a good balance between prediction accuracy and model interpretability. GAMI-Net is a disentangled feedforward network with multiple additive subnetworks; each subnetwork consists of multiple hidden layers and is designed for capturing one main effect or one pairwise interaction. Three interpretability aspects are further considered, including a) sparsity, to select the most significant effects for parsimonious representations; b) heredity, a pairwise interaction could only be included when at least one of its parent main effects exists; and c) marginal clarity, to make main effects and pairwise interactions mutually distinguishable. An adaptive training algorithm is developed, where main effects are first trained and then pairwise interactions are fitted to the residuals. Numerical experiments on both synthetic functions and real-world datasets show that the proposed model enjoys superior interpretability and it maintains competitive prediction accuracy in comparison to the explainable boosting machine and other classic machine learning models.

研究动机与目标

• 为解决深度神经网络中可解释性不足的问题，开发一种内在可解释的模型。
• 通过结构化交互作用和可强制执行的可解释性约束，在预测准确率与模型透明度之间取得平衡。
• 通过在神经网络框架中引入稀疏性、继承性和边际清晰性，改进现有可解释模型（如 EBM）的性能。
• 通过一维和二维图可视化主效应与成对交互作用，实现实际可解释性。

提出的方法

• GAMI-Net 是一种解耦的前馈神经网络，由多个加法子网络组成，每个子网络分别建模单一主效应或成对交互作用。
• 每个子网络使用多层感知机来表示输入特征或其交互作用的非线性形状函数。
• 通过 L1 正则化施加稀疏性，仅选择显著效应，促进模型简洁性。
• 继承性约束确保仅当至少一个主效应存在时，才包含成对交互作用，以保持结构可解释性。
• 通过强制实施边际清晰性，防止主效应与交互作用之间发生重叠，确保贡献的独立性和可解释性。
• 采用自适应训练算法，先训练主效应，再在残差上拟合成对交互作用，从而提升收敛性和可解释性。

实验结果

研究问题

• RQ1 是否可以设计一种内在可解释的神经网络，在保持具有竞争力的预测性能的同时实现可解释性？
• RQ2 如何将结构化交互作用整合到神经网络框架中，以确保模型透明性？
• RQ3 稀疏性、继承性和边际清晰性约束在多大程度上提升了可解释性，而不会牺牲准确性？
• RQ4 GAMI-Net 在预测性能和可解释性方面与最先进的可解释模型（如 EBM）相比如何？

主要发现

• GAMI-Net 在 16 个真实世界数据集上实现了具有竞争力的预测性能，平均测试均方根误差（RMSE）值与 EBM 或其他基准模型相当或更优。
• 在加州房价数据集上，GAMI-Net 的测试 RMSE 为 4.708 ± 0.087，优于 EBM（5.777 ± 0.169）及其他模型。
• 在电网数据集上，GAMI-Net 的测试 RMSE 为 0.658 ± 0.019，显著优于 EBM（1.448 ± 0.028）。
• 该模型在包括鲍鱼、风能和电梯在内的多样化数据集上均保持了较低的 RMSE，表现出强大的泛化能力。
• 通过主效应的一维图（1D plots）和成对交互作用的二维热图（2D heatmaps）清晰可视化，显著增强了 GAMI-Net 的可解释性，使领域专家能够验证模型行为。
• 自适应训练流程（先训练主效应，再拟合交互作用）实现了稳定的收敛，并提升了模型保真度。