[论文解读] Understanding the Feedforward Artificial Neural Network Model From the Perspective of Network Flow

Dawei Dai, Weimin Tan+1 more|arXiv (Cornell University)|Apr 26, 2017

Advanced Decision-Making Techniques被引用 15

一句话总结

本文将前馈人工神经网络（ANN）重新诠释为网络流模型，其中每个类别由跨层激活神经元构成的有向类别路径表示。通过分析路径间的距离以及节点的重要性，作者为ANN决策过程提供了可解释性见解，并在MLP和CNN模型上进行了验证，提升了对网络结构的理解并具备优化潜力。

ABSTRACT

In recent years, deep learning based on artificial neural network (ANN) has achieved great success in pattern recognition. However, there is no clear understanding of such neural computational models. In this paper, we try to unravel "black-box" structure of Ann model from network flow. Specifically, we consider the feed forward Ann as a network flow model, which consists of many directional class-pathways. Each class-pathway encodes one class. The class-pathway of a class is obtained by connecting the activated neural nodes in each layer from input to output, where activation value of neural node (node-value) is defined by the weights of each layer in a trained ANN-classifier. From the perspective of the class-pathway, training an ANN-classifier can be regarded as the formulation process of class-pathways of different classes. By analyzing the the distances of each two class-pathways in a trained ANN-classifiers, we try to answer the questions, why the classifier performs so? At last, from the neural encodes view, we define the importance of each neural node through the class-pathways, which is helpful to optimize the structure of a classifier. Experiments for two types of ANN model including multi-layer MLP and CNN verify that the network flow based on class-pathway is a reasonable explanation for ANN models.

研究动机与目标

• 为解决深度学习模型可解释性不足的问题，提出一种理解人工神经网络的新框架。
• 将前馈ANN建模为具有方向性类别路径的网络流系统，以表示每个输出类别。
• 通过分析类别路径之间的几何关系，解释分类器性能与泛化能力。
• 基于路径结构系统定义神经元重要性，以实现模型优化。
• 在多层感知机（MLP）和卷积神经网络（CNN）上验证网络流视角的有效性。

提出的方法

• 通过连接输入层到输出层的激活神经元，将训练好的ANN中每个类别表示为有向类别路径。
• 将节点值（激活值）定义为来自各层的加权贡献，由训练好的分类器权重推导得出。
• 将训练过程建模为每个类别形成独立且不重叠的类别路径。
• 通过测量类别间路径距离，评估特征空间中的可分性与决策鲁棒性。
• 基于节点在所有类别路径中的频率与中心性，量化其重要性。
• 将该框架应用于多层感知机（MLP）和卷积神经网络（CNN）以进行实证验证。

实验结果

研究问题

• RQ1 如何将前馈神经网络解释为具有结构化类别路径的网络流系统？
• RQ2 路径间距离在决定分类器性能与泛化能力方面起什么作用？
• RQ3 如何从网络流视角系统地定义节点重要性？
• RQ4 类别路径模型在多大程度上能够解释MLP与CNN架构的行为？
• RQ5 网络流框架能否指导有效的模型剪枝或结构优化？

主要发现

• 基于类别路径的网络流模型为理解前馈ANN行为提供了连贯且可解释的框架。
• 路径间距离与分类性能相关，路径间分离度越大，泛化能力越强。
• 基于路径中心性的节点重要性可识别出对分类至关重要的神经元，从而支持有针对性的剪枝或优化。
• 该框架在MLP与CNN模型上均得到实证验证，展现出跨架构的一致可解释性。
• 该方法揭示了ANN如何通过加权、有向路径对类别进行编码与分离的结构洞察。
• 该方法为优化网络架构提供了新视角，聚焦于关键路径组件。