[论文解读] What Knowledge Gets Distilled in Knowledge Distillation?

Utkarsh Ojha, Yuheng Li+3 more|arXiv (Cornell University)|May 31, 2022

Adversarial Robustness in Machine Learning被引用 6

一句话总结

本文研究了知识蒸馏在提升准确率之外还传递了哪些隐性知识，表明学生网络即使在没有显式目标的情况下，也能通过蒸馏继承教师网络决策边界的特性，如对抗脆弱性、对颜色的不变性以及形状/纹理偏差。作者通过几何分析证明，模仿教师特征可使学生与教师的决策边界对齐，从而解释了知识蒸馏为何能超越性能提升而发挥作用。

ABSTRACT

Knowledge distillation aims to transfer useful information from a teacher network to a student network, with the primary goal of improving the student's performance for the task at hand. Over the years, there has a been a deluge of novel techniques and use cases of knowledge distillation. Yet, despite the various improvements, there seems to be a glaring gap in the community's fundamental understanding of the process. Specifically, what is the knowledge that gets distilled in knowledge distillation? In other words, in what ways does the student become similar to the teacher? Does it start to localize objects in the same way? Does it get fooled by the same adversarial samples? Does its data invariance properties become similar? Our work presents a comprehensive study to try to answer these questions. We show that existing methods can indeed indirectly distill these properties beyond improving task performance. We further study why knowledge distillation might work this way, and show that our findings have practical implications as well.

研究动机与目标

• 理解知识蒸馏在提升任务准确率之外还传递了哪些隐性知识。
• 探究学生是否继承了教师的决策边界特性，如对抗鲁棒性、数据不变性及偏差。
• 分析尽管没有显式目标，蒸馏为何能间接传递这些特性。
• 探索实际影响，例如教师到学生的公平性偏差传播。
• 提供几何解释，说明特征蒸馏如何导致教师与学生之间决策边界的对齐。

提出的方法

• 作者评估了三种最先进的蒸馏方法：KL（基于输出）、Hint（基于中间特征）和CRD（对比学习-based）。
• 通过三元组平面交并比（IoU）测量教师与学生网络在不同领域上的决策边界相似性。
• 分析过程包括在多个领域（如MNIST-Orig、MNIST-Color、MNIST-M）上训练教师，然后在单一领域上进行蒸馏，并在所有领域上测量边界相似性。
• 采用几何视角，将特征建模为与决策边界的相对距离，表明模仿这些距离可实现边界对齐。
• 研究包括对形状/纹理偏差传递的消融实验，并评估教师-学生与教师独立-学生预测之间的一致性。
• 实验在MNIST变体上进行，采用受控数据划分以隔离传递效应。

实验结果

研究问题

• RQ1 知识蒸馏是否会在没有显式对抗训练的情况下，也将教师的对抗脆弱性传递给学生？
• RQ2 蒸馏能否将颜色不变性等不变性特性从教师传递给学生？
• RQ3 学生在蒸馏过程中未见过的数据领域上，对教师决策边界行为的继承程度如何？
• RQ4 尽管没有显式目标，为何蒸馏会导致教师与学生之间的边界对齐？
• RQ5 蒸馏是否会将不良偏差（如公平性或形状/纹理偏差）从教师传播给学生？

主要发现

• 使用KL蒸馏的学生继承了教师的对抗脆弱性，表现为对教师专用对抗样本的“欺骗率”更高。
• 蒸馏学生与教师之间的决策边界相似性显著高于教师与独立训练学生之间的相似性，尤其在未见领域中（例如，KL方法在MNIST-Color上分别为0.671与0.416）。
• 在MNIST-Color上，KL蒸馏学生达到0.671的决策边界相似性，而独立训练学生仅为0.416，表明边界传递效果显著。
• Hint方法在MNIST-Color上达到最高相似性（0.798），表明中间特征蒸馏在边界对齐方面尤为有效。
• CRD方法表现出中等传递效果，在MNIST-M上相似性为0.486，表明其边界传递效果弱于KL或Hint。
• 研究发现蒸馏可传递形状/纹理偏差，但传递程度因蒸馏目标而异，部分方法在偏差传递上表现出差异。