[论文解读] Detecting Statistical Interactions from Neural Network Weights

Michael Tsang, Dehua Cheng+1 more|arXiv (Cornell University)|May 14, 2017

Anomaly Detection Techniques and Applications参考文献 54被引用 34

一句话总结

本文提出神经交互检测（NID），一种新颖的框架，通过分析学习到的权重矩阵来检测前馈神经网络中的统计交互作用，避免对交互候选进行指数级搜索。通过利用非线性激活函数的影响和隐藏单元重要性的近似，NID 在实现最先进交互检测精度的同时，运行速度比先前的方法（如 Additive Groves）快几个数量级。

ABSTRACT

Interpreting neural networks is a crucial and challenging task in machine learning. In this paper, we develop a novel framework for detecting statistical interactions captured by a feedforward multilayer neural network by directly interpreting its learned weights. Depending on the desired interactions, our method can achieve significantly better or similar interaction detection performance compared to the state-of-the-art without searching an exponential solution space of possible interactions. We obtain this accuracy and efficiency by observing that interactions between input features are created by the non-additive effect of nonlinear activation functions, and that interacting paths are encoded in weight matrices. We demonstrate the performance of our method and the importance of discovered interactions via experimental results on both synthetic datasets and real-world application datasets.

研究动机与目标

• 开发一种高效且准确的前馈神经网络统计交互作用检测方法。
• 克服对可能交互组合的指数级空间进行搜索所带来的计算不可行性。
• 直接解释神经网络权重以揭示特征交互作用，无需依赖事后解释或模型蒸馏。
• 实现对任意阶次或形式的交互作用（包括高阶和非线性交互）的发现，适用于科学和临床应用。

提出的方法

• NID 通过分析非线性激活函数对权重矩阵产生的非加性效应来识别交互作用。
• 通过使用每个隐藏单元上方的所有权重来近似隐藏单元的重要性，从而实现对输入权重矩阵的高效二维遍历。
• 该方法使用具有可变阶次交互项的广义加法模型，对交互作用进行排序并选择前 K 个真实交互。
• 通过一种特殊的加法模型形式计算交互作用重要性，可处理任意阶次的交互。
• 采用最高排名召回率指标评估交互作用排序质量，仅关注超集交互作用以避免冗余。
• 该框架采用截断策略，在保持高检测精度的同时减少计算量。

实验结果

研究问题

• RQ1 我们能否在不穷举所有可能交互组合的情况下，检测神经网络中的统计交互作用？
• RQ2 基于权重解释的方法在检测交互作用方面，与最先进方法相比，其准确性如何？
• RQ3 该框架能否有效检测高阶和非线性交互作用，尤其是在存在复杂特征依赖关系的情况下？
• RQ4 与计算成本高昂的替代方法（如 Additive Groves）相比，该方法在运行时间上的可扩展性如何？
• RQ5 特征相关性或相互关联的交互作用在多大程度上影响所检测交互作用的可靠性？

主要发现

• NID 的最高排名召回率与最先进方法 Additive Groves（AG）相当，尤其在低至中等噪声水平下表现优异。
• NID 的运行速度比 AG 快几个数量级，相同任务下运行时间以秒计，而 AG 需要数小时。
• 在合成数据集上，NID 在成对交互作用检测中 AUC 达到 1.0，表明对真实与虚假交互作用的完美区分能力。
• 在真实世界数据集（包括医疗保健和金融领域）中，NID 检测到少量高阶交互作用，显著提升了预测性能。
• 该框架表明，少量检测到的交互作用即可带来显著的预测增益，如相对于基线模型的性能提升所显示的那样。
• 尽管在检测相互关联的成对交互作用时可能将其误判为高阶交互作用，NID 仍保持强劲性能，表明对常见混淆因素具有鲁棒性。