[论文解读] Detection of Anomalies in Large Scale Accounting Data using Deep Autoencoder Networks

Marco Schreyer, Timur Sattarov+3 more|arXiv (Cornell University)|Sep 15, 2017

Anomaly Detection Techniques and Applications参考文献 32被引用 79

一句话总结

本论文使用深度自编码器网络通过将重构误差与属性值概率结合，在大规模会计数据中检测异常的日记账分录，评估于两个真实的 SAP ERP 数据集上。它在精确度方面超过了若干基线，并保持较高的召回。

ABSTRACT

Learning to detect fraud in large-scale accounting data is one of the long-standing challenges in financial statement audits or fraud investigations. Nowadays, the majority of applied techniques refer to handcrafted rules derived from known fraud scenarios. While fairly successful, these rules exhibit the drawback that they often fail to generalize beyond known fraud scenarios and fraudsters gradually find ways to circumvent them. To overcome this disadvantage and inspired by the recent success of deep learning we propose the application of deep autoencoder neural networks to detect anomalous journal entries. We demonstrate that the trained network's reconstruction error obtainable for a journal entry and regularized by the entry's individual attribute probabilities can be interpreted as a highly adaptive anomaly assessment. Experiments on two real-world datasets of journal entries, show the effectiveness of the approach resulting in high f1-scores of 32.93 (dataset A) and 16.95 (dataset B) and less false positive alerts compared to state of the art baseline methods. Initial feedback received by chartered accountants and fraud examiners underpinned the quality of the approach in capturing highly relevant accounting anomalies.

研究动机与目标

• 因红旗规则的局限性和防欺诈适应性，促成对 ERP/日记账数据进行无监督异常检测的需求。
• 提出一种基于深度自编码器的方法来建模日记账的正常模式并检测异常。
• 开发一种新颖的异常评分机制，将重构误差与属性值概率结合。
• 在真实世界的 SAP ERP 数据集上评估该方法，并与基线方法进行比较以评估其有效性和实用性。

提出的方法

• 将日记账条目表示为二进制（单热编码）的属性向量，以捕捉分类会计特征。
• 用瓶颈结构的深度自编码器网络进行训练，以学习正常日记账条目的压缩表示。
• 对每条条目计算重构误差 E，并对其归一化以获得 RE 作为偏离的度量。
• 从单个属性值的出现频率计算属性值概率得分 AP，并对其进行归一化。
• 定义异常分数 AS，将 RE 与 AP 结合，公式为 AS = alpha * RE + (1 - alpha) * AP，当 AS 超过阈值 beta 时标记异常。
• 比较多种架构（AE1–AE9）以研究深度效应，优化合成异常的召回率和精确度。

实验结果

研究问题

• RQ1 深度自编码器基于重构误差并通过属性概率正则化，是否能有效检测大型 ERP 数据集中的异常日记账条目？
• RQ2 模型深度如何影响在真实会计数据上的异常检测性能与误报率？
• RQ3 所提出的基于自编码器的方法与该领域的标准无监督异常检测方法相比有何优劣？
• RQ4 实践人员在使用该方法审查检测到的全局异常与局部异常时能获得哪些定性洞见？

主要发现

• 在两个数据集的合成异常测试中，最深的架构（AE9）实现了最高的召回率（100%），检测到的异常数量相对较少（数据集 A 为 0.16%，数据集 B 为 0.62%）。
• 基于自编码器的方法在与基线比较时展现出强劲的精确度，显著降低了误报（例如在 OC-SVM 比较中，数据集 A 少了 176 个，在数据集 B 少了 97 个）。
• 与 PCA、LOF、OC-SVM 和 DBSCAN 基线相比，AE9 的自编码器在 ROC-AUC 方面具有竞争力，同时异常精确度显著更高。
• 定性分析显示检测到的全局异常往往涉及罕见的属性值或错误的过账，而局部异常捕捉到其他常见属性的异常组合；审计人员发现这些条目对取证审查具有相关性。