[논문 리뷰] Attributing AUC-ROC to Analyze Binary Classifier Performance

Arya Tafvizi, Besim Avci외 1명|arXiv (Cornell University)|2022. 05. 24.

Imbalanced Data Classification Techniques인용 수 7

한 줄 요약

이 논문은 AUC-ROC를 개별 예시와 예시 쌍의 기여도로 분해하는 새로운 기여도 방법을 제안하여 모델 성능의 해석 가능한 세분화를 가능하게 한다. AUC-ROC를 예시 쌍에 대해 선형으로 간주함으로써, 모델이 양성 및 음성 인스턴스를 분리하는 데 어려움을 겪는 데이터 슬라이스를 특정하여 노출시키며, 특히 분포 이탈이나 상충되는 학습 목표가 존재할 경우의 내성 문제와 향상 잠재력(성능 향상 여유)을 드러낸다.

ABSTRACT

Area Under the Receiver Operating Characteristic Curve (AUC-ROC) is a popular evaluation metric for binary classifiers. In this paper, we discuss techniques to segment the AUC-ROC along human-interpretable dimensions. AUC-ROC is not an additive/linear function over the data samples, therefore such segmenting the overall AUC-ROC is different from tabulating the AUC-ROC of data segments. To segment the overall AUC-ROC, we must first solve an \emph{attribution} problem to identify credit for individual examples. We observe that AUC-ROC, though non-linear over examples, is linear over \emph{pairs} of examples. This observation leads to a simple, efficient attribution technique for examples (example attributions), and for pairs of examples (pair attributions). We automatically slice these attributions using decision trees by making the tree predict the attributions; we use the notion of honest estimates along with a t-test to mitigate false discovery. Our experiments with the method show that an inferior model can outperform a superior model (trained to optimize a different training objective) on the inferior model's own training objective, a manifestation of Goodhart's Law. In contrast, AUC attributions enable a reasonable comparison. Example attributions can be used to slice this comparison. Pair attributions are used to categorize pairs of items -- one positively labeled and one negatively -- that the model has trouble separating. These categories identify the decision boundary of the classifier and the headroom to improve AUC.

연구 동기 및 목표

• 학습 목표와 배포 시나리오가 다를 경우, 특히 분포 이탈 상황에서 이진 분류기 평가의 과제를 해결하기 위해.
• 표준 세그먼트 기반 AUC 보고 방식의 한계를 넘어, 데이터 하위집단에 걸쳐 AUC-ROC 성능을 해석 가능한 방식으로 세분화하기 위해.
• 다른 목표를 최적화하는 모델들을 비교할 수 있는 원칙적인 방법을 제공하여, 굿하트의 법칙(Goodhart’s Law)으로 인한 오해를 방지하기 위해.
• 모델 성능이 열악한 특정 데이터 슬라이스와 예시 쌍을 식별하여, 표적적인 데이터 수집과 모델 개선을 이끌기 위해.

제안 방법

• 양성 및 음성 예시 한 쌍에 대해 AUC-ROC를 선형으로 간주함으로써, 각 쌍에 대한 AUC 기여도를 할당할 수 있도록 한다.
• 예시 기여도를 해당 예시를 포함하는 모든 쌍의 기여도의 합으로 정의함으로써, 슬라이스 수준의 성능 분석이 가능하게 한다.
• 결정 트리로 데이터 특징에 따라 기여도를 자동으로 세분화하며, 정직한 추정과 t-검정을 사용해 잘못된 발견을 줄인다.
• 쌍 기여도를 각 세그먼트 쌍 내에서 잘못 순서가 지정된 쌍의 수(1 - AUC)로 계산하여, 모델 오류의 잠재력(성능 향상 여유)을 포착한다.
• 10,000개의 양성 및 음성 예시에 대해 샘플링과 카티esian 곱셈 쌍 생성을 적용하여 효율적인 확장성을 확보한다.
• 기여도 점수를 예측하기 위해 얕은 결정 트리를 사용하여, 문제 발생 가능성이 높거나 쉬운 데이터 슬라이스를 자동으로 탐지할 수 있도록 한다.

실험 결과

연구 질문

• RQ1 AUC-ROC가 개별 예시에 대해 선형이 아니므로, 하위집단에 걸쳐 AUC-ROC를 의미 있게 세분화할 수 있는 방법은 무엇인가?
• RQ2 개별 예시 및 예시 쌍에 대한 기여도는 표준 세그먼트 기반 AUC로는 포착되지 않는 숨겨진 성능 격차를 드러낼 수 있는가?
• RQ3 다른 목표를 최적화하는 모델들(예: 교차 엔트로피 대비 지니 계수)이 AUC-ROC 평가에서 성능 순위가 잘못 해석될 정도로 얼마나 높은 위험을 가질 수 있는가?
• RQ4 어느 데이터 슬라이스가 AUC 헤드룸(성능 향상 잠재력)에 가장 기여하는가? 이러한 슬라이스는 어떻게 자동으로 탐지할 수 있는가?
• RQ5 쌍 기여도는 결정 경계의 약점을 드러내는 특정으로 분리하기 어려운 예시 쌍을 식별할 수 있는가?

주요 결과

• 이 방법은 교차 엔트로피 손실을 최적화하도록 훈련된 모델이 랜덤 포레스트의 자체 학습 목표에서 평가될 경우, 랜덤 포레스트를 초월할 수 있음을 드러내며, 이는 굿하트의 법칙을 잘 보여준다.
• Census 데이터셋에서 두 배우자가 모두 'Husband'인 슬라이스는 전체 쌍의 2%에 불과하지만 AUC 헤드룸에 비례적으로 기여한다(0.76 AUC 대비 전체 평균 0.88로, 높은 향상 잠재력 존재).
• Lending Club 데이터셋에서 '기타' 36개월 대출과 높은 FICO 점수를 가진 슬라이스는 근접한 AUC(0.56)를 보이며 전체 쌍의 9%를 차지한다. 이는 AUC가 근접한 0.01인 슬라이스보다 4배 더 많은 잘못 순서가 지정된 쌍을 포함한다.
• 이 방법은 모델이 고FICO 점수를 가진 기업 실패자와 저FICO 점수를 가진 상환 완료 대출을 분리하는 데 가장 어려움을 겪고 있음을 성공적으로 드러내며, 특정 실패 유형을 노출시킨다.
• 쌍 기여도는 모델이 대부분의 오류를 음성 예시가 'Husband'인 쌍에서 범하는 것으로 드러내며, 해당 세그먼트에서 체계적인 편향이 있음을 시사한다.
• 정직한 추정과 t-검정을 사용한 결정 트리 기반 자동 세분화는 큰 특징 공간에서도 과적합 없이 영향력 있는 슬라이스를 효과적으로 식별한다.