[论文解读] Agreement-on-the-Line: Predicting the Performance of Neural Networks under Distribution Shift

Christina Baek, Yiding Jiang+2 more|arXiv (Cornell University)|Jun 27, 2022

Adversarial Robustness in Machine Learning被引用 10

一句话总结

本文提出了一种名为'agreement-on-the-line'的新现象：神经网络分类器对之间的分布外（OOD）一致度与分布内（ID）一致度之间存在强烈相关性，这与已知的'accuracy-on-the-line'相关性类似。作者提出ALine-D方法，利用无标签OOD数据通过该一致度相关性来估计OOD准确率，在无需标签OOD数据的情况下实现了最先进性能。

ABSTRACT

Recently, Miller et al. showed that a model's in-distribution (ID) accuracy has a strong linear correlation with its out-of-distribution (OOD) accuracy on several OOD benchmarks -- a phenomenon they dubbed ''accuracy-on-the-line''. While a useful tool for model selection (i.e., the model most likely to perform the best OOD is the one with highest ID accuracy), this fact does not help estimate the actual OOD performance of models without access to a labeled OOD validation set. In this paper, we show a similar but surprising phenomenon also holds for the agreement between pairs of neural network classifiers: whenever accuracy-on-the-line holds, we observe that the OOD agreement between the predictions of any two pairs of neural networks (with potentially different architectures) also observes a strong linear correlation with their ID agreement. Furthermore, we observe that the slope and bias of OOD vs ID agreement closely matches that of OOD vs ID accuracy. This phenomenon, which we call agreement-on-the-line, has important practical applications: without any labeled data, we can predict the OOD accuracy of classifiers}, since OOD agreement can be estimated with just unlabeled data. Our prediction algorithm outperforms previous methods both in shifts where agreement-on-the-line holds and, surprisingly, when accuracy is not on the line. This phenomenon also provides new insights into deep neural networks: unlike accuracy-on-the-line, agreement-on-the-line appears to only hold for neural network classifiers.

研究动机与目标

• 解决在缺乏标签OOD数据时估计神经网络OOD性能的挑战。
• 探究神经网络分类器对之间分布内（ID）与分布外（OOD）一致度是否存在相关性。
• 开发一种实用方法，在仅使用无标签OOD数据和模型集成的情况下，预测OOD准确率，无需标签OOD数据。
• 确定该一致度相关性是否为普遍现象，还是仅限于神经网络。
• 在分布偏移条件下提供一种可靠且数据高效的模型选择代理指标。

提出的方法

• 提出'agreement-on-the-line'作为新现象：神经网络分类器对之间的ID与OOD一致度存在强线性相关性。
• 利用无标签OOD数据计算模型间的成对预测一致度，避免依赖标签OOD数据。
• 仅使用无标签OOD数据和模型预测结果，估计OOD与ID一致度线性拟合的斜率和截距。
• 应用线性校正（公式6）将OOD一致度与OOD准确率对齐，实现OOD性能的高精度预测。
• 开发ALine-D算法，利用至少三个模型求解线性方程组，从ID一致度和无标签OOD数据中预测OOD准确率。
• 在多个基准数据集（包括CIFAR-10.1、CIFAR-10C、ImageNetV2和fMoW）上验证方法，使用多样化模型架构。

实验结果

研究问题

• RQ1 神经网络分类器对之间的分布内与分布外一致度是否存在类似已知'accuracy-on-the-line'现象的线性相关性？
• RQ2 在无标签OOD数据的情况下，能否可靠估计OOD与ID一致度相关性的斜率和截距？
• RQ3 agreement-on-the-line现象是否仅限于神经网络，而不适用于其他模型类型？
• RQ4 当无标签OOD数据不可用时，该一致度相关性能否用于高精度预测OOD准确率？
• RQ5 模型多样性（架构差异）如何影响所提预测方法的性能？

主要发现

• agreement-on-the-line现象在多个数据集和多样化神经网络架构中均表现强烈，OOD一致度与ID一致度呈线性相关。
• OOD与ID一致度相关性的斜率和偏置与OOD与ID准确率相关性的斜率和偏置高度一致，支持高精度预测。
• ALine-D在OOD准确率预测任务中达到最先进性能，CIFAR-10C Fog上的平均绝对误差（MAE）低于1.8%，ImageNetV2上低于2.5%，即使使用小规模模型集合亦表现优异。
• 该方法在仅3–15个模型时表现良好，且估计误差不随模型数量增加而持续降低，表明对模型集合规模具有鲁棒性。
• 在CIFAR-10.1和CIFAR-10C Fog上，模型集合的多样性可提升ALine-D性能；但在fMoW上，统一架构模型表现更优。
• agreement-on-the-line现象具有神经网络特异性，不适用于其他模型类型，表明深度学习中存在独特的归纳偏置。