[논문 리뷰] Beyond Leaderboards: A survey of methods for revealing weaknesses in Natural Language Inference data and models

Viktor Schlegel, Goran Nenadić외 1명|arXiv (Cornell University)|2020. 05. 29.

Topic Modeling참고 문헌 107인용 수 16

한 줄 요약

이 종합 검토는 영어 자연어 추론(NLI) 데이터셋과 모델에서 표면적인 신호와 모델의 약점을 탐지하고 분석하는 방법을 체계적으로 분류한다. 히ュ리스틱 분석, 적대적 테스트, 기본 모델 평가 기법을 검토한 결과, 많은 고성능 모델이 진정한 추론이 아닌 표면적 연관성에 의존하고 있으며, 이러한 신호를 제거할 경우 성능이 크게 떨어지는 것으로 나타났다—이는 랭킹표 점수를 넘어서 강건한 평가가 필요하다는 것을 시사한다.

ABSTRACT

Recent years have seen a growing number of publications that analyse Natural Language Inference (NLI) datasets for superficial cues, whether they undermine the complexity of the tasks underlying those datasets and how they impact those models that are optimised and evaluated on this data. This structured survey provides an overview of the evolving research area by categorising reported weaknesses in models and datasets and the methods proposed to reveal and alleviate those weaknesses for the English language. We summarise and discuss the findings and conclude with a set of recommendations for possible future research directions. We hope it will be a useful resource for researchers who propose new datasets, to have a set of tools to assess the suitability and quality of their data to evaluate various phenomena of interest, as well as those who develop novel architectures, to further understand the implications of their improvements with respect to their model's acquired capabilities.

연구 동기 및 목표

• 영어 NLI 데이터셋과 모델에서 표면적 신호와 모델의 약점을 드러내는 방법을 특정하고 분류하는 것.
• 어휘 일치, 문법 패턴, 특정 키워드와 같은 표면적 연관성이 모델의 일반화 능력과 과제의 복잡성에 어떻게 악영향을 미치는지 분석하는 것.
• 이러한 신호를 제거했을 때 모델 성능에 미치는 영향을 평가하여, 진정한 추론이 아닌 데이터셋 아티팩트에 과적합된다는 것을 입증하는 것.
• 연구자들이 정확도 점수를 넘어서 모델 능력을 평가하고 더 나은 데이터셋을 설계할 수 있도록 도구와 권장 사항을 제공하는 것.
• 강건하고 일반화 가능한 NLI 시스템을 만들기 위한 열린 과제를 규명하여 향후 연구를 이끄는 것.

제안 방법

• 키워드 기반 구글 색인 검색을 통해 36개의 NLI 데이터셋을 체계적으로 조사하여 관련 논문을 식별하는 방식.
• 감지 방법을 히ュ리스틱 분석, 적대적 평가, 부분 기반 모델, 스트레스 테스트, 아키텍처/학습 개선 기법으로 분류하는 방식.
• MNLI, SNLI, SQuAD 등의 데이터셋을 분석하여 어휘 일치, 부분 수열 패턴, 구성요소 매칭 등을 통해 표면적 연관성을 탐지하는 방식.
• 유의미한 맥락은 유지하면서 예측을 변화시키는 방해 문장을 삽입함으로써 모델의 강건성을 평가하는 방식.
• 부분 기반 모델과 스트레스 테스트를 활용하여 모델이 추론이 아닌 표면적 신호에 얼마나 의존하는지 측정하는 방식.
• 신호 제거 전후의 모델 성능을 비교하여 과적합과 일반화 실패 정도를 정량화하는 방식.

실험 결과

연구 질문

• RQ1 최신 NLI 모델이 의미 추론이 아닌 표면적 신호(예: 어휘 일치, 특정 키워드 등)에 얼마나 의존하는가?
• RQ2 시험 세트에서 표면적 신호를 체계적으로 제거했을 때 성능 지표는 어떻게 변화하는가?
• RQ3 적대적 예제나 히ュ리스틱 분석과 같은 감지 방법 중에서 모델의 약점을 드러내는 데 가장 효과적인 것은 무엇인가?
• RQ4 NLI 시스템에서 데이터셋 수준의 편향과 모델 수준의 편향 간의 주요 차이는 무엇인가?
• RQ5 향후 데이터셋과 평가 프로토콜는 어떻게 설계되어야 표면적 신호에 대한 의존도를 줄이고 일반화 능력을 향상시킬 수 있는가?

주요 결과

• MNLI나 SNLI와 같은 NLI 데이터셋으로 훈련된 모델들은 표면적 신호가 제거된 버전으로 테스트할 경우 성능이 급격히 떨어지며, 일부 경우 90% 이상에서 60% 이하로 떨어지는 경우가 있어 데이터 아티팩트에 과적합된다는 것을 시사한다.
• 전제와 가설 간의 어휘 일치는 주요 표면적 신호이며, 한 RTE 데이터셋에서 2,158개의 함의 쌍이 이러한 일치에 의존하고 있어 모델 예측을 왜곡한다.
• 무관한데도 타당해 보이는 문장을 삽입한 적대적 예제(예: '쿼터백 제프 딘은 37번 유니폼을 입었다')는 모델이 잘못된 예측을 내놓게 하여, 일반 단어에 대한 과도한 안정성(over-stability)을 드러낸다.
• 서브시퀀스 및 구성요소 매칭과 같은 히ュ리스틱 기반 방법은 NLI 예제의 대부분(예: 1,326개 중 1,274개)이 의미가 아닌 얕은 패턴에 기반해 분류된다는 것을 드러낸다.
• 2019년 이전에 발표된 데이터셋(예: DailyMail, NewsQA)은 종종 수동 점검이나 부분 기반 모델을 통해 분석되었으며, 표준 평가로는 발견되지 않은 지속적인 편향이 드러났다.
• BiDAF나 GRU 기반 모델의 아키텍처 및 학습 개선 조치는 여전히 표면적 신호에 대한 의존성을 제거하지 못해, 모델 설계만으로는 데이터 아티팩트를 극복하기에는 부족함을 시사한다.