[论文解读] HYDRA: Hypergradient Data Relevance Analysis for Interpreting Deep Neural Networks

Yuanyuan Chen, Boyang Li+3 more|arXiv (Cornell University)|Feb 4, 2021

Adversarial Robustness in Machine Learning参考文献 3被引用 4

一句话总结

HYDRA 提出了一种基于超梯度的方法，通过追踪整个优化轨迹中训练数据对模型预测的影响，来解释深度神经网络的预测结果，避免依赖 Hessian 矩阵的同时保持有界的近似误差。该方法在数据贡献估计和噪声标签检测方面优于影响函数，并在 GPU 硬件上实现了 971 倍的加速。

ABSTRACT

The behaviors of deep neural networks (DNNs) are notoriously resistant to human interpretations. In this paper, we propose Hypergradient Data Relevance Analysis, or HYDRA, which interprets the predictions made by DNNs as effects of their training data. Existing approaches generally estimate data contributions around the final model parameters and ignore how the training data shape the optimization trajectory. By unrolling the hypergradient of test loss w.r.t. the weights of training data, HYDRA assesses the contribution of training data toward test data points throughout the training trajectory. In order to accelerate computation, we remove the Hessian from the calculation and prove that, under moderate conditions, the approximation error is bounded. Corroborating this theoretical claim, empirical results indicate the error is indeed small. In addition, we quantitatively demonstrate that HYDRA outperforms influence functions in accurately estimating data contribution and detecting noisy data labels. The source code is available at https://github.com/cyyever/aaai_hydra_8686.

研究动机与目标

• 为解决深度神经网络的黑箱特性，将模型预测归因于训练数据。
• 克服影响函数的局限性，后者仅分析模型参数接近最终状态时的数据影响，且依赖计算成本高昂的 Hessian 矩阵。
• 开发一种可扩展的、无需 Hessian 矩阵的方法，以追踪数据在整个完整训练轨迹中的影响。
• 在超梯度计算中去除 Hessian 时，理论上界定近似误差的边界。
• 通过实证验证，Hessian 无关的 HYDRA 方法在数据贡献估计和噪声标签检测方面，相比影响函数具有更高的准确性和效率。

提出的方法

• HYDRA 通过展开整个优化轨迹，计算测试损失相对于训练数据权重的超梯度。
• 它采用递归公式，将测试损失的梯度传播至所有训练步骤，捕捉数据权重变化如何影响模型的收敛路径。
• 该方法用基于利普希茨常数的近似替代 Hessian 矩阵，并证明在温和条件下近似误差是有界的。
• 在学习率衰减和 Hessian 收敛的假设下，推导出误差的理论上限。
• 通过引入小批量指示符并相应调整梯度更新，将该算法适配至小批量训练。
• 实际应用中省略 Hessian 矩阵，且该方法被证明与依赖 Hessian 的测量结果保持高度相关性。

实验结果

研究问题

• RQ1 基于超梯度的数据相关性分析，若能追踪完整的训练轨迹，是否能优于仅关注局部的影响函数，在估计训练数据贡献方面表现更优？
• RQ2 从超梯度计算中去除 Hessian 的理论影响是什么？由此产生的误差是否可被界定？
• RQ3 HYDRA 中的 Hessian 无关近似是否在实现显著加速的同时，仍保持高精度，相比基于 Hessian 的方法？
• RQ4 在检测具有错误标签的数据点方面，HYDRA 与影响函数相比表现如何？
• RQ5 Hessian 无关的 HYDRA 方法在模型规模和追踪样本数量增加时，是否能实现高效的可扩展性？

主要发现

• 在 2 块 Titan X Pascal GPU 上，HYDRA 相较于依赖 Hessian 的方法，将实际运行时间减少了 971 倍。
• Hessian 无关近似引入的误差仅比依赖 Hessian 的测量结果多 11% 至 16%，而影响函数相比 Hessian 依赖基线则多出 11% 至 16% 的误差。
• HYDRA 与依赖 Hessian 的数据影响估计的相关性高于影响函数。
• 在检测标签错误的数据点方面，该方法表现优于影响函数。
• 理论分析表明，近似误差是有界的；在指数衰减学习率条件下，随着训练进行，误差趋近于零。
• 即使省略 Hessian，HYDRA 仍保持优异性能，且在标准优化条件下，误差界可被严格控制。