[논문 리뷰] The Benchmark Lottery

Mostafa Dehghani, Yi Tay외 6명|arXiv (Cornell University)|2021. 07. 14.

Explainable Artificial Intelligence (XAI)참고 문헌 142인용 수 8

한 줄 요약

이 논문은 '벤치마크 로또' 개념을 제안하며, 기계학습에서 알고리즘 성능이 종종 특정 벤치마크 작업과의 일치도에 의해 결정되며, 본질적 슈퍼리어리티보다 더 큰 영향을 받는다고 주장한다. 자연어처리, 비전, 강화학습 분야의 여러 벤치마크에서의 경험적 분석을 통해, 모델 순위가 작업 선택, 집계 방법, 평가 설정에 따라 극적으로 변화함을 보이며, 기계학습 발전 측정의 체계적 취약성과 편향을 드러낸다.

ABSTRACT

The world of empirical machine learning (ML) strongly relies on benchmarks in order to determine the relative effectiveness of different algorithms and methods. This paper proposes the notion of "a benchmark lottery" that describes the overall fragility of the ML benchmarking process. The benchmark lottery postulates that many factors, other than fundamental algorithmic superiority, may lead to a method being perceived as superior. On multiple benchmark setups that are prevalent in the ML community, we show that the relative performance of algorithms may be altered significantly simply by choosing different benchmark tasks, highlighting the fragility of the current paradigms and potential fallacious interpretation derived from benchmarking ML methods. Given that every benchmark makes a statement about what it perceives to be important, we argue that this might lead to biased progress in the community. We discuss the implications of the observed phenomena and provide recommendations on mitigating them using multiple machine learning domains and communities as use cases, including natural language processing, computer vision, information retrieval, recommender systems, and reinforcement learning.

연구 동기 및 목표

• 현재 기계학습 벤치마킹 관행에 내재된 취약성과 편향을 드러내는 것.
• 모델 순위가 벤치마크 구성과 평가 선택에 매우 민감함을 입증하는 것.
• 커뮤니티의 공감대가 특정 모델 유형을 다른 것들보다 우선시함으로써 연구 진전을 왜곡할 수 있음을 주장하는 것.
• 편향을 줄이고 타당성을 높이기 위해 더 철저하고 투명하며 동적인 벤치마킹 관행을 촉진하는 것.
• 과적합과 오해석을 완화하기 위해 생존 벤치마크와 표준화된 평가 프로토콜의 개발을 장려하는 것.

제안 방법

• 다양한 작업 서브셋에서 여러 벤치마크 세트(예: SuperGLUE, VTAB, Long Range Arena, RL Unplugged)를 대상으로 모델 성능 분석.
• 개별 작업과 총괄 벤치마크 점수 간의 순위 상관관계 측정을 통해 작업 선택 편향 평가.
• 점수 집계 방법(예: 평균 vs. 최소/최대)이 모델 순위에 미치는 영향 평가.
• 인간 평가 및 통계적 검정 절차가 벤치마크 결과에 미치는 영향 평가.
• 과적합을 방지하기 위해 작업, 데이터, 레이블 업데이트를 통해 시간이 지남에 따라 변화하는 '생존 벤치마크' 제안.
• 표준화된 평가 지침, 통계적 검정 프로토콜(예: Wilcoxon signed-rank), 다중 검정 보정을 권고.

실험 결과

연구 질문

• RQ1 다양한 벤치마크 작업의 선택이 기계학습 모델의 상대적 순위에 어떻게 영향을 미치는가?
• RQ2 평균화와 같은 집계 방법이 잘 맞춘 성능을 보이는 모델보다 특화된 성능을 내는 모델을 선호하는 인덕티브 편향을 얼마나 유도하는가?
• RQ3 테스트 세트 재사용이나 데이터 누출과 같은 평가 설정의 일관성 없는 점이 벤치마크 결과의 타당성에 어떻게 영향을 미치는가?
• RQ4 커뮤니티 규범과 동료 검토 관행이 어떤 방식으로 공식 벤치마크로 자리 잡고 연구 방향에 영향을 미치는가?
• RQ5 동적이고 변화하는 벤치마크는 과적합을 줄이고 모델 평가의 일반화 능력을 향상시킬 수 있는가?

주요 결과

• SuperGLUE나 VTAB과 같은 벤치마크에서 작업 서브셋을 다르게 선택할 경우 모델 순위가 크게 변동함을 확인하여, 작업 선택에 매우 민감함을 입증.
• 점수 집계 방법으로 평균을 사용할 경우, 특정 도메인에서 뛰어난 성능을 내는 것보다 전반적으로 일관된 성능을 보이는 모델을 선호하는 인덕티브 편향이 유도됨.
• 통계적 유의성 검정이 벤치마크 평가에서 자주 부족하거나 잘못 적용되며, 많은 연구에서 Wilcoxon signed-rank 검정과 같은 적절한 검정을 사용하지 못함.
• 동일한 모델가 한 벤치마크 세트에서는 상위 성능을 내지만, 다른 작업 서브셋에서 평가할 경우 하위권에 머무르는 경우가 있어, 벤치마크 결과의 취약성을 입증.
• 시간이 지남에 따라 데이터 업데이트와 인간의 참여를 통해 변화하는 생존 벤치마크(예: Dynabench, GEM)는 과적합에 더 강건하며 실제 성능을 더 잘 반영함.
• 벤치마크 재사용과 정적 평가 프로토콜은 점진적인 과적합을 유도하며, 모델이 데이터셋의 특수성에 맞추어 지나치게 적응함으로써 효과적인 일반화를 방해함.