[논문 리뷰] RobustLR: Evaluating Robustness to Logical Perturbation in Deductive Reasoning

Soumya Sanyal, Zeyi Liao외 1명|arXiv (Cornell University)|2022. 05. 25.

Natural Language Processing Techniques인용 수 5

한 줄 요약

이 논문은 추론 작업에서 언어 모델의 논리적 강건성(robustness)을 평가하기 위한 진단 벤치마크인 RobustLR를 소개한다. 합성 이론-문장 쌍에 대해 최소한의 논리적 교란(예: 논리합, 논리곱, 특히 부정의 변경)을 적용함으로써, RoBERTa, T5, GPT-3와 같은 모델들이 특히 부정에 대해 일관되게 일반화하지 못함을 드러내며, 이는 훈련 데이터셋에 대해 미세조정을 거친 후에도 진정한 논리적 이해가 부족함을 시사한다.

ABSTRACT

Transformers have been shown to be able to perform deductive reasoning on a logical rulebase containing rules and statements written in English natural language. While the progress is promising, it is currently unclear if these models indeed perform logical reasoning by understanding the underlying logical semantics in the language. To this end, we propose RobustLR, a suite of evaluation datasets that evaluate the robustness of these models to minimal logical edits in rulebases and some standard logical equivalence conditions. In our experiments with RoBERTa and T5, we find that the models trained in prior works do not perform consistently on the different perturbations in RobustLR, thus showing that the models are not robust to the proposed logical perturbations. Further, we find that the models find it especially hard to learn logical negation and disjunction operators. Overall, using our evaluation sets, we demonstrate some shortcomings of the deductive reasoning-based language models, which can eventually help towards designing better models for logical reasoning over natural language. All the datasets and code base have been made publicly available.

연구 동기 및 목표

• 언어 모델이 추론 작업에서 논리 연산자에 진정으로 이해하고 있는지, 아니면 부작위적 상관관계에 의존하고 있는지 조사하기 위해.
• 입력 문장과 규칙에 대한 최소한의 논리적 편집에 대한 강건성을 테스트하는 진단 벤치마크를 개발하기 위해.
• 형식적 논리적 동치성에 기반한 논리적 동치문장(paraphrases)을 통해 모델이 일관되게 일반화하는지 평가하기 위해.
• 특히 논리적 부정과 연산자 의미론에 관해 체계적인 실패를 특정하기 위해.
• 향후 더 논리적으로 강건한 추론 모델 개발을 안내하기 위해 공개 벤치마크를 제공하기 위해.

제안 방법

• 논리 대조(Logical Contrast)와 논리 동치(Logical Equivalence) 두 가지 평가 세트로 구성된 진단 벤치마크인 RobustLR를 설계한다.
• 규칙에 최소한의 논리적 교란(예: 'and'를 'or'로 대체하거나, 부정을 추가)을 적용하면서 의미를 유지함으로써 논리 대조 세트를 구성한다.
• 형식적 논리 동치성(예: 드 모르간의 법칙)을 사용하여 동일한 진리 조건을 갖는 재구성된 규칙을 생성함으로써 논리 동치 세트를 구성한다.
• RobustLR의 테스트 세트에서 평가하기 전에 RoBERTa, T5, GPT-3를 기존의 추론 데이터셋에 대해 미세조정한다.
• 평가 중 'Unknown' 예측을 걸러내어 명확히 함의되거나 모순되는 문장에만 성능을 고립시킨다.
• 모델의 RobustLR 성능을 내분포 데이터 및 인간 성능과 비교하여 강건성 격차를 측정한다.

실험 결과

연구 질문

• RQ1 추론 데이터셋에 훈련된 언어 모델이 입력 규칙과 문장에 대한 최소한의 논리적 교란에 대해 강건하게 일반화할 수 있는가?
• RQ2 형식적 논리 동치성에 의해 표면 형태는 변경되지만 진리 조건은 유지되는 논리적 동치문장에서는 모델이 어떻게 성능을 내는가?
• RQ3 훈련 데이터의 부작위적 통계적 상관관계가 언어 모델의 비강건한 추론 행동에 얼마나 기여하는가?
• RQ4 왜 모델들은 논리합과 논리곱보다 논리적 부정에서 특히 어려움을 겪는가?
• RQ5 RobustLR에서 모델과 인간 간의 성능 격차는 데이터의 부작위성 때문인가, 아니면 논리적 의미를 학습하는 데서 기인한 모델의 본질적 한계 때문인가?

주요 결과

• 추론 데이터셋에 대해 미세조정된 모델들은 RobustLR의 논리 대조 세트와 논리 동치 세트에서 상당한 성능 저하를 보이며, 논리적 교란에 대한 강건성이 떨어짐을 시사한다.
• 'Unknown' 예측을 걸러낸 후에도 내분포 데이터와 외분포(교란된) 데이터 간의 성능 격차가 여전히 약 15% 유지되며, 이는 자료의 희박성 초과하는 본질적 학습 한계를 시사한다.
• 모델들은 논리적 부정에서 특히 어려움을 겪으며, 논리적 의미가 유지되더라도 부정된 형태 간의 일반화에 끊임없이 실패한다.
• T5-11B와 같은 더 큰 모델은 성능 향상을 보이지만 여전히 인간 수준의 정확도에 못 미치며, 이는 규모만으로는 논리적 강건성 문제를 해결할 수 없음을 시사한다.
• 부작위적 상관관계 때문이라고만 볼 수 없으며, 레이블 분포를 균일하게 하고 통계적 편향을 최소화한 상황에서도 성능 격차가 여전히 유지됨을 확인함으로써, 실패 원인이 단순히 통계적 편향이 아니라는 것을 밝혀냈다.
• RobustLR는 현재의 언어 모델가 복잡한 논리 연산, 특히 부정과 동치 변환에 대해 체계적인 일반화 능력을 갖추지 못하고 있음을 드러낸다.