[论文解读] Shapley Values of Reconstruction Errors of PCA for Explaining Anomaly Detection

Naoya Takeishi|arXiv (Cornell University)|Sep 8, 2019

Anomaly Detection Techniques and Applications参考文献 29被引用 5

一句话总结

该论文提出了一种方法，用于计算基于PCA的异常检测中重构误差的Shapley值，利用PCA的概率模型准确考虑特征相关性。该方法相比原始重构误差，能提供更可靠的异常特征解释，实证结果表明在基准数据集上能更准确地定位异常。

ABSTRACT

We present a method to compute the Shapley values of reconstruction errors of principal component analysis (PCA), which is particularly useful in explaining the results of anomaly detection based on PCA. Because features are usually correlated when PCA-based anomaly detection is applied, care must be taken in computing a value function for the Shapley values. We utilize the probabilistic view of PCA, particularly its conditional distribution, to exactly compute a value function for the Shapely values. We also present numerical examples, which imply that the Shapley values are advantageous for explaining detected anomalies than raw reconstruction errors of each feature.

研究动机与目标

• 解决在特征相关时，原始重构误差在解释异常方面的局限性。
• 开发一种方法，利用Shapley值公平地分配重构误差的贡献。
• 利用PCA的概率公式推导，精确计算Shapley值的值函数。
• 通过数值示例证明，Shapley值相比仅使用重构误差，能提供更准确的异常解释。

提出的方法

• 利用PCA的概率视角，推导给定潜在变量时特征的条件分布。
• 基于添加某一特征到联盟时，重构误差减少的期望值，定义Shapley值的值函数。
• 使用推导出的值函数，精确计算每个特征的Shapley值，同时考虑特征依赖性。
• 将该方法应用于基于PCA的异常检测，其中重构误差作为异常得分。
• 在数值实验中，使用kernel SHAP作为对比基线。
• 在具有已知异常的真实世界数据集上验证该方法，将Shapley值与原始重构误差进行比较。

实验结果

研究问题

• RQ1 与原始重构误差相比，Shapley值能否更准确地解释在基于PCA的异常检测中，哪些特征对重构误差贡献最大？
• RQ2 通过使用概率PCA模型考虑特征相关性，能否提升异常解释的可解释性？
• RQ3 在真实世界数据集中，Shapley值与人工识别的异常特征之间的相关性有多大？
• RQ4 在特征依赖的情况下，Shapley值与kernel SHAP在解释重构误差方面有何差异？
• RQ5 该方法是否能在多种数据集中持续优于原始重构误差，实现更优的异常定位？

主要发现

• Shapley值在异常定位方面显著优于原始重构误差，Max情形下Hits@1和Hits@3得分分别从0.316提升至0.484，从0.605提升至0.801。
• 在Min情形下，Hits@1和Hits@3得分分别从0.271和0.471提升至0.484和0.710，表明异常定位能力更强。
• 在所有数据集中，重构误差与Shapley值之间的相关性较高（中位数r_all = 0.866），但在正常（r_good）和异常（r_bad）子集中的相关性差异显著，表明性能具有上下文依赖性。
• 在Mammography数据集中，正常子集的相关性较低（r_good = 0.268），表明当特征相关时，Shapley值能更优地隔离异常。
• 在10个数据集中的7个中，重构误差与Shapley值的相关性达到高值（r_all > 0.9），包括Ionosphere（r_all = 0.984）和Wine（r_all = 0.817）。
• 结果表明，当存在特征依赖时，Shapley值比原始重构误差更可靠，是解释异常的优选方法。