[논문 리뷰] Our Evaluation Metric Needs an Update to Encourage Generalization

Swaroop Mishra, Anjana Arunkumar외 2명|arXiv (Cornell University)|2020. 07. 14.

Adversarial Robustness in Machine Learning참고 문헌 44인용 수 4

한 줄 요약

이 논문은 테스트 샘플을 훈련 데이터와의 의미적 텍스트 유사도(Semantic Textual Similarity, STS)로 가중치를 부여함으로써, 더 이상의 분포 외(out-of-distribution, OOD) 샘플에 대해 더 높은 가중치를 부여하는 새로운 평가 지표인 WOOD 점수를 제안한다. 더 어렵고 더 OOD에 가까운 샘플로의 일반화를 유도함으로써 높은 점수를 얻기 위해 모델을 훈련시킴으로써, WOOD는 벤치마크 정확도를 낮추고 성능 과대평가를 억제하며, 허수 패턴 탐색보다는 강건성 향상을 장려한다.

ABSTRACT

Models that surpass human performance on several popular benchmarks display significant degradation in performance on exposure to Out of Distribution (OOD) data. Recent research has shown that models overfit to spurious biases and `hack' datasets, in lieu of learning generalizable features like humans. In order to stop the inflation in model performance -- and thus overestimation in AI systems' capabilities -- we propose a simple and novel evaluation metric, WOOD Score, that encourages generalization during evaluation.

연구 동기 및 목표

• 표준 벤치마크에서의 성능 과대평가로 인한 AI 모델 능력의 과대평가 문제를 해결하기 위해.
• 훈련 데이터와의 의미적 텍스트 유사도(Semantic Textual Similarity, STS)를 사용하여 테스트 샘플의 분포 외(OOD) 특성의 정도를 식별하고 정량화하기 위해.
• 더 어렵고 더 OOD에 가까운 샘플에 더 높은 가중치를 두어 모델의 일반화 능력을 적극적으로 장려하는 평가 지표를 개발하기 위해.
• 다양하고 의미적으로 다소 다른 데이터에 대한 강건성을 평가하는 데 초점을 맞춤으로써, 기존의 벤치마크 정확도 과대평가를 줄이기 위해.
• 외부 OOD 데이터셋이 필요 없이도 평가 중 OOD 심각도를 제어할 수 있는 확장 가능한 데이터 기반 방법을 제공하기 위해.

제안 방법

• 사전 학습된 문장 임베딩을 사용하여 각 테스트 샘플과 모든 훈련 샘플 간의 쌍별 STS를 계산한다.
• 상위-b% 정도로 유사한 훈련 샘플들과의 평균 STS를 기준으로 테스트 샘플을 정렬하여 OOD 심각도를 추정한다.
• 하이퍼파라미터 a와 b를 사용하여, 샘플의 OOD 정도(p)를 가장 유사한 훈련 샘플들과의 평균 STS에 반비례하도록 정의한다.
• WOOD 점수를 가중 평가 지표로 제안한다: $ W_{opt} = abla_{X_{ ext{Test}}} E_i p_i $, 여기서 $ p_i $는 OOD 심각도가 높을수록 증가한다.
• WOOD 정확도($ W_{acc} $)를 가중합으로 정의한다: $ A_1 + 2A_2 + 3A_3 $, 여기서 $ A_1, A_2, A_3 $는 저, 중, 고 OOD 수준 샘플에서의 정확도이다.
• 테스트 세트를 STS 기반으로 7단계 계층적 박스로 나누어 분포 이탈 정도가 다양할 때의 모델 성능을 평가한다.

실험 결과

연구 질문

• RQ1 NLP 벤치마크에서 의미적 텍스트 유사도(Semantic Textual Similarity, STS)가 내분포(IID)와 분포 외(OOD) 샘플을 효과적으로 구분할 수 있는가?
• RQ2 STS 기반 OOD 심각도가 증가함에 따라 모델 성능이 얼마나 떨어지며, 이는 정량화될 수 있는가?
• RQ3 더 높은 OOD 샘플의 중요도를 부여하는 가중 평가 지표가 벤치마크 정확도 과대평가를 줄이고 일반화를 장려할 수 있는가?
• RQ4 다양한 모델(BERT, RoBERTa, CNN, LSTM)과 데이터셋(SST-2, IMDb)에서 다양한 OOD 심각도 수준에서 WOOD 점수의 성능은 어떻게 되는가?
• RQ5 제안된 지표가 데이터 증강 및 대조 세트 생성을 이끌어내어 모델의 강건성을 향상시키는 데 기여할 수 있는가?

주요 결과

• 테스트 샘플과 훈련 데이터 간의 STS는 OOD와 IID 샘플을 효과적으로 구분하며, 낮은 STS일수록 더 높은 OOD 심각도에 해당한다.
• WOOD 점수는 SST-2(IID)와 IMDb(OOD) 양측에서 10개의 모델에 대해 벤치마크 정확도를 상당히 낮춘다. 이는 더 어려운 샘플에 더 높은 가중치를 두었기 때문에 발생한 성능 하락을 보여준다.
• 훈련 데이터와의 STS가 낮을수록 잘못된 예측에 대해 소프트맥스 확률이 더 높게 나타나, OOD 샘플이 더 잘못 분류될 가능성이 높다는 것을 시사한다.
• STS가 감소할수록 잘못된 분류 수가 증가함을 확인하였으며, 이는 유사도가 낮을수록 예측 난이도가 높다는 것을 뒷받침한다.
• b값(고려하는 상위 훈련 샘플 수)의 다양한 값에 대해 안정적인 성능 추세를 보이며, 추론 분석에서 일관된 결과를 보였다.
• WOOD 점수를 통해 동일한 데이터셋이 의미적 유사도 기반으로 계층적으로 분할되어 내분포와 분포 외 평가 세트로 동시에 사용될 수 있으며, 외부 OOD 데이터셋이 필요 없어졌다.