[논문 리뷰] Do Fine-tuned Commonsense Language Models Really Generalize?

Mayank Kejriwal, Ke Shen|arXiv (Cornell University)|2020. 11. 18.

Topic Modeling참고 문헌 50인용 수 7

한 줄 요약

이 논문은 미세조정된 공통지식 언어 모델이 다양한 공통지식 추론 벤치마크 간에 진정으로 일반화되는지 조사한다. 다섯 개의 주요 벤치마크, 철저한 통제 조건 및 통계 분석을 통해 저자들은 모델이 도메인 외 데이터셋에서 평가될 경우 성능 저하가 심각하게 발생함을 발견하였으며, 이는 강한 데이터셋 편향과 제한된 일반화 능력을 드러내지만, 랭킹 보드에서 80% 이상의 높은 도메인 내 정확도를 기록하고 있음에도 불구하고 그렇다.

ABSTRACT

Recently, transformer-based methods such as RoBERTa and GPT-3 have led to significant experimental advances in natural language processing tasks such as question answering and commonsense reasoning. The latter is typically evaluated through multiple benchmarks framed as multiple-choice instances of the former. According to influential leaderboards hosted by the Allen Institute (evaluating state-of-the-art performance on commonsense reasoning benchmarks), models based on such transformer methods are approaching human-like performance and have average accuracy well over 80% on many benchmarks. Since these are commonsense benchmarks, a model that generalizes on commonsense reasoning should not experience much performance loss across multiple commonsense benchmarks. In this paper, we study the generalization issue in detail by designing and conducting a rigorous scientific study. Using five common benchmarks, multiple controls and statistical analysis, we find clear evidence that fine-tuned commonsense language models still do not generalize well, even with moderate changes to the experimental setup, and may, in fact, be susceptible to dataset bias. We also perform selective studies, including qualitative and consistency analyses, to gain deeper insight into the problem.

연구 동기 및 목표

• 미세조정된 공통지식 언어 모델이 다양한 추론 벤치마크 간에 견고하게 일반화되는지 조사하기.
• 랭킹 보드에서 보고된 성능을 과대평가하는 데 기여할 수 있는 데이터셋 편향의 잠재적 원인을 규명하기.
• 통제된, 교차 벤치마크 평가를 통해 최신 모델의 견고성 평가하기.
• 한 벤치마크에서의 높은 정확도가 다른 벤치마크로의 강력한 일반화를 의미하지는 않음을 경험적으로 입증하기.
• 연구 공동체가 랭킹 결과를 인간 수준의 공통지식 추론 능력의 증거로 과도하게 해석하는 것에 대해 경고하기.

제안 방법

• HellaSwag, PIQA, Social IQA, aNLI, CommonsenseQA의 다섯 개의 별도된 공통지식 추론 벤치마크에 대해 RoBERTa-base를 미세조정.
• 각 도메인 내 모델을 모든 다섯 개의 벤치마크에서 평가하여 도메인 간 성능 저하 측정.
• 동일한 테스트 인스턴스에서 도메인 내 및 도메인 외 모델의 예측을 비교하는 일관성 분석 수행.
• 도메인 내 모델이 성공했지만 모든 도메인 외 모델이 동일하게 실패한 케이스에 대한 정성적 분석 수행.
• 성능 저하 및 일관성 패턴의 유의미성 평가를 위한 통계 분석 수행.
• 답안 선택지 자체가 질문을 완전히 이해하지 못한 채 모델 예측을 이끄는 잠재적 '선택지 편향' 가설 제안.

실험 결과

연구 질문

• RQ1 미세조정된 공통지식 언어 모델이 다양한 공통지식 추론 벤치마크 간에 어느 정도 일반화되는가?
• RQ2 한 벤치마크에서 학습한 모델이 다른 벤치마크에서 평가될 경우 성능 저하의 규모는 어느 정도인가?
• RQ3 모델 실패에 체계적인 패턴이 존재하는가? 이는 데이터셋 편향 또는 표면적 학습을 시사하는가?
• RQ4 모든 도메인 외 모델이 동일한 잘못된 예측을 내보내는 것은 선택지 편향과 같은 공통의 실패 모드를 나타내는가?
• RQ5 질문의 어려움 또는 문화적 특수성에 대한 정성적 차이가 모델의 일반화에 어느 정도 影響을 미치는가?

주요 결과

• 미세조정된 모델은 도메인 외 벤치마크에서 평가될 경우 심각한 성능 저하를 보이며, 평균 정확도가 일부 케이스에서 80% 이상에서 60% 이하로 떨어짐.
• 성능 저하는 여러 벤치마크에 걸쳐 뚜렷하고 일관되며, 높은 도메인 내 정확도에도 불구하고 일반화 능력이 열악함을 시사함.
• 몇몇 케이스에서 도메인 외 모든 모델이 도메인 내 모델이 올바르게 풀었던 질문에 대해 동일한 잘못된 답을 제출함으로써 공통의 실패 패tern이 존재함을 시사함.
• 일관성 분석 결과, 일부 질문은 모델 간 동일한 잘못된 예측을 유도하며, 이는 답안 선택 과정에서의 잠재적 선택지 편향을 지적함.
• 정성적 분석 결과, 모델은 때로는 명백한 질문에서도 실패함을 확인하였으며, 이는 실패의 원인이 어려움만은 아님을 시사함.
• 결과적으로 현재의 벤치마크는 문법적 신호나 문화적 특수성과 같은 혼란 요소를 포함하고 있어 진정한 공통지식 추론 능력 평가를 왜곡할 수 있음.