[论文解读] Granger-causal Attentive Mixtures of Experts.

Patrick Schwab, Walter Karlen|arXiv (Cornell University)|Feb 6, 2018

Explainable Artificial Intelligence (XAI)参考文献 45被引用 5

一句话总结

本文提出Granger因果注意力专家混合模型（AME），一种神经网络架构，通过Granger因果目标联合优化预测准确率与可量化的特征重要性。通过将注意力门控与因果特征归因相结合，AME实现了跨决策的可解释性、可比性和可靠性解释，已在处方需求预测、帕金森病和癌症基因组学等医学预测任务中得到验证。

ABSTRACT

Several methods have recently been proposed to detect salient input features for outputs of neural networks. Those methods offer a qualitative glimpse at feature importance, but they fall short of providing quantifiable attributions that can be compared across decisions and measures of the expected quality of their explanations. To address these shortcomings, we present an attentive mixture of experts (AME) that couples attentive gating with a Granger-causal objective to jointly produce accurate predictions as well as measures of feature importance. We demonstrate the utility of AMEs by determining factors driving demand for medical prescriptions, comparing predictive features for Parkinson's disease and pinpointing discriminatory genes across cancer types.

研究动机与目标

• 解决现有神经网络解释方法中缺乏可量化、可比的特征重要性度量的问题。
• 开发一个统一框架，实现准确预测与可靠、可解释的特征归因。
• 通过在注意力专家混合架构中引入Granger因果目标，实现输入特征的因果解释。
• 提供一种方法，支持跨决策的特征重要性比较，并具备可衡量的质量。

提出的方法

• 该模型采用注意力门控机制，根据输入的相关性动态将输入路由至特定的专家网络。
• 在训练过程中集成Granger因果目标，确保所选特征在时间上先于输出变化并能预测其变化，从而实现因果归因。
• 专家混合架构允许不同输入特征在每次预测中被赋予不同的权重，从而增强可解释性。
• 注意力权重的优化不仅针对预测准确率，还针对因果相关性，确保重要特征能被一致识别。
• 使用联合损失函数（包含预测损失与Granger因果正则化）进行端到端训练。
• 最终生成的注意力权重作为不同预测之间可量化、可比的特征重要性度量。

实验结果

研究问题

• RQ1 神经网络架构能否同时优化预测准确率与可量化的特征重要性，并具备因果可解释性？
• RQ2 AME模型中的注意力权重与现有显著性方法相比，在可靠性和可解释性方面表现如何？
• RQ3 Granger因果目标在多大程度上能提升医学预测任务中特征归因的质量？
• RQ4 所归因的特征在帕金森病和癌症基因组学中与已知的生物学和临床因素是否一致？
• RQ5 模型的特征重要性评分能否在不同预测和决策之间进行有意义的比较？

主要发现

• AME模型在实现准确预测的同时，成功生成了跨决策可量化、可比的特征重要性评分。
• Granger因果目标有效识别出时间上先于且能预测输出变化的特征，提升了归因的可靠性。
• 在处方需求预测中，模型识别出患者病史和药物类型等临床相关因素，并具有高置信度的归因。
• 在帕金森病任务中，模型突出了与已知生物标志物和疾病进展模式一致的特征。
• 在癌症基因组学中，模型精准定位了跨癌种具有区分性的基因，与已知的肿瘤标志物一致。
• 注意力权重提供了稳定且可解释的特征重要性度量，在可比性和可靠性方面优于定性显著性方法。