[论文解读] Analysis of Invariance and Robustness via Invertibility of ReLU-Networks

Jens Behrmann, Sören Dittmer+2 more|arXiv (Cornell University)|Jun 25, 2018

Model Reduction and Neural Networks参考文献 26被引用 7

一句话总结

本文提出一个理论框架，通过研究其层的可逆性，分析ReLU神经网络中的不变性和鲁棒性。利用预像分析和线性化层的奇异值分解，推导出单射性、有限预像或无限不变性的可计算条件，揭示了逆稳定性（条件数）与信息损失（零奇异值）之间的权衡，且在CIFAR-10和MNIST网络上进行了实证验证。

ABSTRACT

Studying the invertibility of deep neural networks (DNNs) provides a principled approach to better understand the behavior of these powerful models. Despite being a promising diagnostic tool, a consistent theory on their invertibility is still lacking. We derive a theoretically motivated approach to explore the preimages of ReLU-layers and mechanisms affecting the stability of the inverse. Using the developed theory, we numerically show how this approach uncovers characteristic properties of the network.

研究动机与目标

• 提出一种理论基础扎实的方法，通过研究其层的可逆性，分析ReLU网络中的不变性和鲁棒性。
• 识别出ReLU层输出的预像为单点、有限集或无限集的可计算条件，从而表征不变性。
• 利用线性化层雅可比矩阵的奇异值，研究逆映射的稳定性。
• 揭示深度网络架构中逆稳定性（低条件数）与不变性（零奇异值）之间的权衡。
• 为未来在反问题、对抗鲁棒性以及特征级解释方面的研究提供基础。

提出的方法

• 利用线性代数与多面体几何，推导出ReLU层输出预像为单点、有限集或无限集的充要条件。
• 应用Stiemke定理表征线性化ReLU层零空间中非平凡解的存在性，从而指示不变性。
• 利用线性化层雅可比矩阵的奇异值分解（SVD）量化逆稳定性，其中条件数作为输入扰动敏感度的代理指标。
• 在CNN（WideCIFAR、ThinCIFAR）和MNIST、CIFAR-10上的MLP中，对各层的奇异值衰减进行实证评估，基于50个测试样本计算中位数。
• 将网络层拆分为卷积与ReLU组件，分别分析其对奇异值分布和预像结构的影响。
• 可视化下采样与ReLU激活对奇异值衰减的影响，特别关注步长大卷积后非零奇异值的减少。

实验结果

研究问题

• RQ1 在何种条件下，ReLU层输出的预像为单点、有限集或无限集？
• RQ2 ReLU层线性化映射的奇异值谱如何与逆映射的稳定性相关？
• RQ3 在深度ReLU网络中，逆稳定性（低条件数）与不变性（存在零奇异值）之间存在何种权衡？
• RQ4 架构组件如步长大卷积和ReLU激活如何影响奇异值衰减与预像结构？
• RQ5 能否系统性地分析训练后ReLU网络的逆映射，以检测其不变性与鲁棒性特征？

主要发现

• 当且仅当与该层相关的线性系统具有唯一解时，ReLU层输出的预像为单点，该条件可通过线性代数与Stiemke定理确定。
• ReLU层雅可比矩阵中零奇异值的数量，直接对应于不变性方向的数量——即不影响输出的输入扰动方向。
• 在WideCIFAR的第6层中，由于下采样和ReLU剪枝，非零奇异值数量显著减少。
• 线性化层的条件数随深度增加而上升，表明逆映射的不稳定性逐渐增强，尤其在深层中更为明显。
• 观察到一种权衡：非零奇异值较少的层（如下采样后）具有更低的条件数（更高的稳定性），但表现出更高的不变性（更多零奇异值）。
• 在CIFAR-10和MNIST上的实证结果表明，ReLU激活与步长大卷积共同塑造了奇异值谱，其影响在深层中最为显著。