[论文解读] Learning to Teach with Deep Interactions.

Fan Yang, Yingce Xia+7 more|arXiv (Cornell University)|Jul 9, 2020

Machine Learning and Data Classification参考文献 47被引用 12

一句话总结

本文提出了一种机器教学中的深度交互框架，其中教师模型通过来自验证集的元梯度，利用学生模型的内部状态（而不仅限于训练迭代次数和损失）与学生模型进行联合元训练。与先前方法相比，该方法在图像分类任务中，无论标签是干净还是含噪声，均显著提升了数据教学性能。

ABSTRACT

Machine teaching uses a meta/teacher model to guide the training of a student model (which will be used in real tasks) through training data selection, loss function design, etc. Previously, the teacher model only takes shallow/surface information as inputs (e.g., training iteration number, loss and accuracy from training/validation sets) while ignoring the internal states of the student model, which limits the potential of learning to teach. In this work, we propose an improved data teaching algorithm, where the teacher model deeply interacts with the student model by accessing its internal states. The teacher model is jointly trained with the student model using meta gradients propagated from a validation set. We conduct experiments on image classification with clean/noisy labels and empirically demonstrate that our algorithm makes significant improvement over previous data teaching methods.

研究动机与目标

• 克服先前机器教学方法仅依赖训练迭代次数和损失等浅层输入的局限性。
• 通过将学生模型的内部状态融入教师的决策过程，提升数据教学效果。
• 在训练中增强泛化能力和鲁棒性，尤其是在标签含噪声的设置下。
• 开发一种联合训练框架，通过基于验证集的元梯度，共同优化教师和学生模型。

提出的方法

• 教师模型与学生模型通过基于验证集计算的元梯度进行联合训练。
• 教师在训练过程中访问学生模型的内部状态（例如隐藏表征或梯度），以指导数据选择和损失设计。
• 元梯度通过学生模型的训练过程和教师的教学策略进行反向传播。
• 该方法通过使教师能够实时响应学生的学习动态，实现动态、自适应的教学。
• 该框架被应用于图像分类任务，涵盖干净标签和含噪声标签，以评估其鲁棒性和性能。

实验结果

研究问题

• RQ1 利用学生模型的内部状态是否能超越仅依赖表面训练信号的方式，提升数据教学效果？
• RQ2 教师与学生模型之间的深度交互如何影响图像分类中的泛化性能？
• RQ3 所提出方法在含噪声标签基准上的表现，相较于现有数据教学方法有多大程度的提升？
• RQ4 基于验证集的元梯度进行联合元训练，如何增强教学的有效性？

主要发现

• 所提方法在图像分类任务中，相较于先前的数据教学方法，实现了显著的性能提升。
• 当训练数据包含含噪声标签时，该模型表现出更强的鲁棒性，优于基线方法。
• 与仅使用迭代次数和损失指标的方法相比，引入学生模型内部状态可实现更有效的数据选择和损失函数设计。
• 通过元梯度进行的联合训练使教师能够动态适应学生的学习轨迹，从而提升收敛速度和准确率。