[논문 리뷰] Can BERT Reason? Logically Equivalent Probes for Evaluating the Inference Capabilities of Language Models.

Pei Zhou, Rahul Khanna외 4명|arXiv (Cornell University)|2020. 05. 02.

Topic Modeling참고 문헌 16인용 수 7

한 줄 요약

이 논문은 60개의 집합으로 나누어 총 14,400개의 논리적으로 동치이지만 문법적으로 다양한 형태를 띤 프로브를 사용하여 사전에 미리 학습된 언어 모델들(PTLMs)의 추론 능력과 내성적 탄력성을 평가하는 체계적인 프로빙 프레임워크를 제안한다. 일반 지식 기반 벤치마크에서 뛰어난 성능을 보이지만, 이러한 프로브에서는 PTLMs가 무작위 추측과 다를 바 없이 성능을 보이며, 진정한 추론이 아닌 표면적인 편향에 크게 의존하고 있음을 드러낸다.

ABSTRACT

Pre-trained language models (PTLM) have greatly improved performance on commonsense inference benchmarks, however, it remains unclear whether they share a human's ability to consistently make correct inferences under perturbations. Prior studies of PTLMs have found inference deficits, but have failed to provide a systematic means of understanding whether these deficits are due to low inference abilities or poor inference robustness. In this work, we address this gap by developing a procedure that allows for the systematized probing of both PTLMs' inference abilities and robustness. Our procedure centers around the methodical creation of logically-equivalent, but syntactically-different sets of probes, of which we create a corpus of 14,400 probes coming from 60 logically-equivalent sets that can be used to probe PTLMs in three task settings. We find that despite the recent success of large PTLMs on commonsense benchmarks, their performances on our probes are no better than random guessing (even with fine-tuning) and are heavily dependent on biases--the poor overall performance, unfortunately, inhibits us from studying robustness. We hope our approach and initial probe set will assist future work in improving PTLMs' inference abilities, while also providing a probing set to test robustness under several linguistic variations--code and data will be released.

연구 동기 및 목표

• 사전에 미리 학습된 언어 모델들(PTLMs)이 일관된 추론을 수행하는지 여부를 체계적으로 평가하는 것.
• 추론 실패 원인이 낮은 추론 능력 때문인지 문법적 변형에 대한 낮은 내성적 탄력성 때문인지 이해하는 데에 격차를 메우는 것.
• 논리적으로 동치이지만 문법적으로 다양하게 구성된 프로브를 사용하여 추론 능력과 내성적 탄력성 간의 분리가 가능한 재현 가능한 프로빙 프레임워크를 개발하는 것.
• 향후 연구자가 PTLMs의 진정한 추론 능력을 향상시키는 데에 활용할 수 있도록 벤치마크 데이터셋과 코드를 제공하는 것.

제안 방법

• 저자들은 논리적으로 동치인 프로브 60개의 집합을 만들었으며, 각 집합은 서로 다른 문법적 형태를 가진 변형을 포함하여 문법적 변형 하에서의 추론 능력을 시험한다.
• 논리적 동치성을 유지하면서 어순, 문법적 구조, 어휘 선택을 체계적으로 변화시켜 총 14,400개의 프로브를 생성한다.
• 프로브는 세 가지 작업 설정에서 평가되어, 제어된 문법적 변형 하에서 PTLM의 추론 작업 성능을 분석한다.
• 영점(Zero-shot) 및 미세조정된 PTLMs(BERT 포함)를 사용하여 다양한 설정에서 성능을 테스트한다.
• 모든 프로브 집합의 변형이 동일한 논리적 진리값을 가지도록 보장함으로써 추론 능력을 고립시킨다.
• 이 방법은 추론 능력에 기인한 성능와 데이터셋 편향 또는 표면적 신호에 기인한 성능를 분리할 수 있게 한다.

실험 결과

연구 질문

• RQ1 사전에 미리 학습된 언어 모델들은 문법적으로 다양하지만 논리적으로 동치인 표현 방식에서도 일관되게 추론을 수행하는가?
• RQ2 PTLMs는 추론 작업에서 논리적 추론보다 표면적인 언어적 신호에 얼마나 의존하는가?
• RQ3 미세조정 후에도 논리적으로 동치인 프로브에서 모델 성능이 무작위 추측과 다를 바 없이 유지되는가?
• RQ4 전반적인 추론 성능가 무작위 수준에 가까운 상황에서 문법적 변형에 대한 내성적 탄력성은 의미 있게 평가될 수 있는가?
• RQ5 데이터셋 편향은 PTLMs의 진정한 추론 능력을 가로막는 데 어떤 역할을 하는가?

주요 결과

• 표준 일반 지식 기반 벤치마크에서 뛰어난 성능을 보이지만, 제안된 논리적으로 동치인 프로브 집합에서는 BERT와 기타 대규모 PTLMs가 무작위 추측과 다를 바 없이 성능을 보인다.
• 미세조정 후에도 성능이 여전히 무작위 수준에 머물러 있어 일관된 추론 능력의 근본적인 결여를 시사한다.
• 모델들은 논리적 구조보다는 어순이나 어휘 선택과 같은 언어적 편향에 크게 의존하고 있음을 보여준다.
• 낮은 성능로 인해 내성적 탄력성 평가가 신뢰성 있게 이뤄지지 못하며, 모델들이 내성적 탄력성 평가 이전에 일관되게 실패하기 때문이다.
• 프로브 집합은 현재의 PTLMs가 문법적 변형에 대해 논리적으로 일반화하지 못하고 있음을 드러내며, 진정한 추론 능력이 있다고 주장하는 것에 근거를 약화시킨다.