[论文解读] Rule Extraction Algorithm for Deep Neural Networks: A Review

Tameru Hailesilassie|arXiv (Cornell University)|Jan 1, 2016

Neural Networks and Applications被引用 20

一句话总结

本文综述了深度神经网络（DNNs）的规则提取算法，将其分类为分解法、教学法和混合方法三类。研究指出一个关键缺口：尽管DNNs具有高精度，但针对从DNNs中提取可解释规则的研究仍十分有限，凸显了在决策系统中发展可解释AI的迫切需求。

ABSTRACT

Despite the highest classification accuracy in wide varieties of application areas, artificial neural network has one disadvantage. The way this Network comes to a decision is not easily comprehensible. The lack of explanation ability reduces the acceptability of neural network in data mining and decision system. This drawback is the reason why researchers have proposed many rule extraction algorithms to solve the problem. Recently, Deep Neural Network (DNN) is achieving a profound result over the standard neural network for classification and recognition problems. It is a hot machine learning area proven both useful and innovative. This paper has thoroughly reviewed various rule extraction algorithms, considering the classification scheme: decompositional, pedagogical, and eclectics. It also presents the evaluation of these algorithms based on the neural network structure with which the algorithm is intended to work. The main contribution of this review is to show that there is a limited study of rule extraction algorithm from DNN.

研究动机与目标

• 基于分类体系，分析并分类现有的深度神经网络（DNNs）规则提取算法。
• 评估规则提取算法在特定DNN架构下的性能与适用性。
• 识别DNNs中规则提取研究的空白，特别是针对深度架构的研究稀缺问题。
• 通过回顾提升模型透明度与决策可解释性的方法，支持可解释AI的发展。

提出的方法

• 本文对规则提取算法进行了系统性综述，将其划分为三大主要类别：分解法、教学法和混合方法。
• 根据算法所针对的底层神经网络结构（包括前馈网络、卷积网络和循环网络）对每种算法进行评估。
• 综述聚焦于算法机制，如权重解释、逐层特征提取，以及从隐藏单元激活中生成规则的方法。
• 比较不同DNN架构下提取规则的可解释性、准确性和泛化能力。
• 分析强调了不同规则提取技术在结构与功能上的差异，及其与深度学习模型的兼容性。

实验结果

研究问题

• RQ1 DNNs的规则提取算法中主要采用哪些分类体系？
• RQ2 规则提取算法在与不同DNN架构的兼容性方面有何差异？
• RQ3 当前关于DNNs中规则提取研究的主要局限性是什么？
• RQ4 现有规则提取方法在多大程度上保持了DNNs的准确性和可解释性？

主要发现

• 尽管DNNs被广泛应用且性能优异，但针对从DNNs中提取规则的研究仍显著不足。
• 大多数规则提取技术针对的是标准前馈网络，而非卷积神经网络（CNNs）或循环神经网络（RNNs）等深度架构。
• 教学法和混合方法虽具潜力，但在DNNs背景下的研究仍显不足。
• 综述指出，亟需开发针对DNNs所学习的分层非线性表征特性而量身定制的新规则提取方法。