[논문 리뷰] Modular Representation Underlies Systematic Generalization in Neural Natural Language Inference Models

Atticus Geiger, Kyle Richardson외 1명|arXiv (Cornell University)|2020. 04. 30.

Topic Modeling참고 문헌 40인용 수 4

한 줄 요약

이 논문은 신경 NLI 모델 내부 상태를 탐색하고 모듈러 표현을 식별하기 위한 '교환 간섭'(interchange interventions)을 도입한다. 새로운 적대적 NLI 데이터셋을 사용하여 BERT가 조밀한 아키텍처를 지니고 있음에도 불구하고, 어휘 함의에 대한 모듈러이고 일반화 가능한 이론을 학습하고 있음을 입증하며, 이는 추론 과제에서 체계적인 일반화를 가능하게 한다.

ABSTRACT

In adversarial testing, we pose hard generalization tasks in order to gain insights into the solutions found by our models. What properties must a system have in order to succeed at these hard behavioral tasks? We argue that an essential factor is modular internal structure. Our central contribution is a new experimental method called 'interchange interventions', in which systematic manipulations of model-internal states are related to causal effects on their outputs, thereby allowing us to identify modular structure. Our work is grounded empirically in a new challenge Natural Language Inference dataset designed to assess systems on their ability to reason about entailment and negation. We find that a BERT model is strikingly successful at the systematic generalization task we pose using this dataset, and our active manipulations of model-internal vectors help us understand why: despite the densely interconnected nature of the BERT architecture, the learned model embeds modular, general theories of lexical entailment relations.

연구 동기 및 목표

• 학습 분포를 초월하여 체계적으로 일반화할 수 있는 신경 모델의 내부 메커니즘을 이해하기 위해.
• 모델 내부 표현의 모듈러 구조를 식별하는 인과적 탐사 방법을 개발하기 위해.
• BERT가 적대적 일반화 과제 하에서 어휘 함의와 부정에 대한 일반화 가능한 이론을 학습하는지 평가하기 위해.
• 모듈러 구조가 분포 외 추론 과제에서 견고한 성능을 발휘하는 데 기여하는 역할을 평가하기 위해.

제안 방법

• 내부 모델 상태를 체계적으로 조작하여 모델 출력에 미치는 인과적 영향을 관찰하는 '교환 간섭'을 도입한다.
• 함의와 부정에서의 체계적 일반화를 테스트하기 위해 새로운 적대적 자연어 추론(NLI) 데이터셋을 설계한다.
• 추론 중에 제어 가능한 조작을 위해 BERT의 어텐션 및 표현 벡터를 대상으로 삼는다.
• 내부 표현을 교환하거나 수정한 후 출력 변화를 측정하여 모듈러 기능 단위를 추론한다.
• 내부 상태의 구조적 변화와 예측 행동의 변화 간 상관관계를 분석하여 모듈러 구성 요소를 식별한다.
• 특정 내부 표현이 특정 추론 행동(예: 함의 대비 모순)과 어떻게 연결되는지 인과 분석을 적용한다.

실험 결과

연구 질문

• RQ1 신경 NLI 모델이 학습 데이터를 초월해 체계적으로 일반화할 수 있도록 하는 내부 구조적 특성은 무엇인가?
• RQ2 BERT와 같은 조밀한 연결 아키텍처에서도 모듈러 표현을 식별하고 탐사할 수 있는가?
• RQ3 BERT는 어휘 함의와 부정에 대해 어느 정도 일반화 가능한 이론을 학습하는가?
• RQ4 특정 내부 상태 조작이 체계적 추론 과제에서 모델 예측에 어떤 영향을 미치는가?
• RQ5 모듈러 구조는 적대적 NLI 벤치마크에서 향상된 일반화 성능과 인과적으로 연결되어 있는가?

주요 결과

• BERT는 새로운 적대적 NLI 벤치마크에서 강력한 체계적 일반화를 보이며, 함의와 부정의 새로운 조합에 효과적으로 일반화한다.
• 조밀한 아키텍처를 지니고 있음에도 불구하고, BERT는 어휘 함의 관계에 해당하는 모듈러이고 해석 가능한 표현을 학습한다.
• 교환 간섭을 통해 함의와 부정 결정을 제어하는 특정 내부 표현을 성공적으로 식별한다.
• 내부 벡터를 조작하면 예측 가능한, 인과적인 출력 변화가 발생하며, 이는 모듈러 기능 단위의 존재를 확인한다.
• 모델의 일반화 능력은 기억된 패턴이 아닌 일반적인 논리 규칙을 인코딩하는 학습된 재사용 가능한 구성 요소에 기반한다.
• 이러한 발견은 모듈러 내부 구조가 신경 NLI 모델에서 체계적 일반화를 가능하게 하는 핵심 요소임을 시사한다.