[논문 리뷰] Agreement-on-the-Line: Predicting the Performance of Neural Networks under Distribution Shift

Christina Baek, Yiding Jiang외 2명|arXiv (Cornell University)|2022. 06. 27.

Adversarial Robustness in Machine Learning인용 수 10

한 줄 요약

이 논문은 'line 상의 일치'(agreement-on-the-line)를 도입한다. 이는 신경망 분류기 쌍 간의 분포 외(out-of-distribution, OOD) 일치도와 분포 내(in-distribution, ID) 일치도 사이에 강한 선형 상관관계가 존재하는 현상으로, 기존에 알려진 '정확도-선 상의 현상'(accuracy-on-the-line)과 유사하다. 저자들은 이 일치 상관관계를 활용해 레이블이 없는 OOD 데이터만을 사용하여 OOD 정확도를 추정하는 ALine-D 방법을 제안하며, 레이블이 없는 OOD 데이터가 있어도 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Recently, Miller et al. showed that a model's in-distribution (ID) accuracy has a strong linear correlation with its out-of-distribution (OOD) accuracy on several OOD benchmarks -- a phenomenon they dubbed ''accuracy-on-the-line''. While a useful tool for model selection (i.e., the model most likely to perform the best OOD is the one with highest ID accuracy), this fact does not help estimate the actual OOD performance of models without access to a labeled OOD validation set. In this paper, we show a similar but surprising phenomenon also holds for the agreement between pairs of neural network classifiers: whenever accuracy-on-the-line holds, we observe that the OOD agreement between the predictions of any two pairs of neural networks (with potentially different architectures) also observes a strong linear correlation with their ID agreement. Furthermore, we observe that the slope and bias of OOD vs ID agreement closely matches that of OOD vs ID accuracy. This phenomenon, which we call agreement-on-the-line, has important practical applications: without any labeled data, we can predict the OOD accuracy of classifiers}, since OOD agreement can be estimated with just unlabeled data. Our prediction algorithm outperforms previous methods both in shifts where agreement-on-the-line holds and, surprisingly, when accuracy is not on the line. This phenomenon also provides new insights into deep neural networks: unlike accuracy-on-the-line, agreement-on-the-line appears to only hold for neural network classifiers.

연구 동기 및 목표

• 레이블이 없는 분포 외(OOD) 데이터가 존재할 때 신경망의 분포 외 성능을 추정하는 문제를 해결하기 위해.
• 신경망 분류기 쌍 간의 분포 내(ID) 및 분포 외(OOD) 일치도 사이에 상관관계가 존재하는지 조사하기 위해.
• 레이블이 없는 OOD 데이터와 모델 앙상블만을 사용하여 레이블이 없는 OOD 데이터가 없는 상황에서 OOD 정확도를 예측할 수 있는 실용적인 방법을 개발하기 위해.
• 이 일치 상관관계가 일반적인 현상인지 아니면 신경망에 특화된 현상인지 확인하기 위해.
• 분포 이동 상황에서 모델 선택을 위한 신뢰할 수 있고 자원 효율적인 대체 지표를 제공하기 위해.

제안 방법

• 신경망 분류기 쌍 간의 ID 및 OOD 일치도 사이에 강한 선형 상관관계가 존재하는 새로운 현상으로 'line 상의 일치'를 제안한다.
• 레이블이 없는 OOD 데이터를 사용하여 모델 간 예측 일치도를 계산함으로써, 레이블이 있는 OOD 데이터에 의존하지 않도록 한다.
• 레이블이 없는 OOD 데이터와 모델 예측 결과만을 사용하여 OOD 대비 ID 일치도 선형 회귀의 기울기와 절편을 추정한다.
• 식 (6)에 제시된 선형 조정을 적용하여 OOD 일치도를 OOD 정확도와 일치시켜, 정확한 OOD 성능 예측을 가능하게 한다.
• 세 개 이상의 모델을 사용하여 선형 방정식의 연립식을 풀고, ID 일치도와 레이블이 없는 OOD 데이터만을 활용하여 OOD 정확도를 예측하는 ALine-D 알고리즘을 개발한다.
• CIFAR-10.1, CIFAR-10C, ImageNetV2, fMoW 등 다양한 벤치마크에서 다양한 모델 아키텍처를 사용하여 방법을 검증한다.

실험 결과

연구 질문

• RQ1 신경망 분류기 쌍의 분포 내(ID) 및 분포 외(OOD) 일치도 사이에 선형 상관관계가 존재하는가? 이는 기존에 알려진 정확도-선 상의 현상과 유사한가?
• RQ2 레이블이 없는 OOD 데이터 없이 OOD 대비 ID 일치도 상관관계의 기울기와 절편을 신뢰성 있게 추정할 수 있는가?
• RQ3 line 상의 일치 현상은 신경망에만 해당되며, 다른 모델 유형에는 적용되지 않는가?
• RQ4 레이블이 없는 OOD 데이터가 전혀 없을 때도 일치 상관관계를 사용하여 OOD 정확도를 고정밀도로 예측할 수 있는가?
• RQ5 모델의 다양성(아키텍처 차이)은 제안된 예측 방법의 성능에 어떤 영향을 미치는가?

주요 결과

• line 상의 일치 현상은 다양한 데이터셋과 다양한 신경망 아키텍처에서 강하게 유지되며, OOD 일치도가 ID 일치도와 선형 상관관계를 보인다.
• OOD 대비 ID 일치도 상관관계의 기울기와 절편이 OOD 대비 ID 정확도 상관관계와 매우 유사하여 정확한 예측이 가능하다.
• ALine-D는 상태 기술 수준의 OOD 정확도 예측 성능을 달성하였으며, CIFAR-10C Fog에서는 평균 절대 오차(MAE)가 1.8% 이하, ImageNetV2에서는 2.5% 이하로 나타났다. 작은 모델 세트로도 성능이 우수하다.
• 3~15개의 모델로도 성능이 양호하며, 모델 수가 많아져도 추정 오차가 반드시 감소하지 않아, 모델 세트 크기에 대해 강건함을 보였다.
• CIFAR-10.1 및 CIFAR-10C Fog에서는 모델 세트의 다양성이 ALine-D 성능을 향상시키지만, fMoW에서는 균일한 아키텍처가 더 우수한 성능을 보여, 모델 다양성의 영향은 데이터셋에 따라 다를 수 있다.
• line 상의 일치 현상은 신경망에 특화된 현상이며, 다른 모델 유형에는 일반화되지 않아, 딥러닝에서 고유한 인덕티브 바이어스가 존재함을 시사한다.