[论文解读] A Game-Theoretic Taxonomy of Visual Concepts in DNNs

Xu Cheng, Chuntung Chu+3 more|arXiv (Cornell University)|Jun 21, 2021

Cell Image Analysis Techniques参考文献 33被引用 7

一句话总结

本文通过多阶像素交互，采用博弈论方法对深度神经网络（DNNs）中的视觉概念进行分类，提出一种基于复杂度的分类体系，将视觉概念划分为简单（局部）、中等复杂度和复杂（全局）三类。研究发现，DNNs 通过低阶、中阶和高阶交互灵活编码纹理，而形状编码则较不灵活，依赖于各阶间一致且稳健的交互模式，其中高阶交互主要捕捉全局或异常样本特有的特征。

ABSTRACT

In this paper, we rethink how a DNN encodes visual concepts of different complexities from a new perspective, i.e. the game-theoretic multi-order interactions between pixels in an image. Beyond the categorical taxonomy of objects and the cognitive taxonomy of textures and shapes, we provide a new taxonomy of visual concepts, which helps us interpret the encoding of shapes and textures, in terms of concept complexities. In this way, based on multi-order interactions, we find three distinctive signal-processing behaviors of DNNs encoding textures. Besides, we also discover the flexibility for a DNN to encode shapes is lower than the flexibility of encoding textures. Furthermore, we analyze how DNNs encode outlier samples, and explore the impacts of network architectures on interactions. Additionally, we clarify the crucial role of the multi-order interactions in real-world applications. The code will be released when the paper is accepted.

研究动机与目标

• 通过引入基于复杂度的分类体系，利用多阶交互对 DNN 中的视觉概念进行重新分类，超越传统的物体或认知分类体系。
• 分析 DNN 如何通过不同阶次的交互对纹理和形状进行编码，揭示其编码灵活性的差异。
• 研究多阶交互在编码异常样本中的作用，及其对模型泛化能力和鲁棒性的影响。
• 考察网络架构（特别是卷积核大小和层宽）对多阶交互学习的影响。
• 阐明多阶交互在提升分类性能和缓解对抗攻击方面的实际应用价值。

提出的方法

• 本文采用博弈论中的 Shapley 值计算输入像素之间的多阶交互，通过测量像素协作对特征表示的边际贡献，量化其重要性。
• 低阶交互（2–3 个像素）代表简单、局部的视觉概念，如基本纹理；高阶交互（4 个及以上像素）则捕捉复杂、全局的模式，如天空或草原。
• 该方法通过扩展先前工作的技术，可视化显著的交互上下文，从而解释哪些像素组合对特征激活贡献最大。
• 作者训练了具有受控卷积核大小（2×2、7×7、11×11）和宽度（c、2c、4c、8c）的 ResNet 变体，以研究架构对交互强度和解耦程度的影响。
• 通过量化交互强度和解耦程度，评估模型是学习通用共享的交互模式，还是具有类别特异性的判别性交互。
• 该方法被应用于分析对抗样本，揭示其影响与高阶交互破坏之间的关联。

实验结果

研究问题

• RQ1 DNN 中的多阶交互如何反映纹理和形状等视觉概念的复杂度？
• RQ2 DNN 如何通过不同阶次的交互灵活编码纹理与形状？
• RQ3 卷积核大小和层宽等架构选择如何影响多阶交互的学习？
• RQ4 高阶交互在编码图像中的异常样本或全局模式中扮演何种角色？
• RQ5 如何利用多阶交互提升模型的鲁棒性和泛化能力？

主要发现

• DNN 对纹理的编码方式有三种：低阶用于常见局部颜色，中阶用于相似纹理间的细微差异，高阶用于频繁出现的全局纹理（如天空或草原）。
• 纹理编码具有高度灵活性——纹理可表示为大量低阶局部模式的集合，或较少的中阶复杂模式；而形状编码则灵活性较低，依赖于各阶间一致且稳健的交互模式。
• 高阶交互主要负责编码特定的大尺度形状或异常样本，表明其在记忆罕见或复杂实例中的作用。
• 使用更大卷积核和更宽层的 ResNet 展现出更高的解耦程度和更低的交互强度，表明其学习更少、更具判别性且更可靠的交互。
• 较小的卷积核和更窄的宽度导致更多通用、广泛共享但判别性较弱的交互，尤其在低阶交互中表现明显。
• 高阶交互与对抗脆弱性密切相关，因为对抗扰动主要影响这些交互，且移除它们可显著提升模型鲁棒性。