[논문 리뷰] Open Sesame: Getting Inside BERT's Linguistic Knowledge

Yongjie Lin, Yi Chern Tan외 1명|arXiv (Cornell University)|2019. 06. 04.

Neurobiology of Language and Bilingualism참고 문헌 27인용 수 15

한 줄 요약

이 논문은 진단 분류기와 새로운 주의 기반 혼동 점수 메트릭을 조합하여 BERT가 문법적 구조를 어떻게 인코딩하는지 조사한다. BERT가 하위층에서는 선형적이고 위치 기반 정보를 인코딩하는 데서 점차 상층부로 갈수록 점점 더 추상적이고 계층적인 문법적 표현으로 전환됨을 발견하였으며, 자기주의 메커니즘이 주어진 어순과 반사적 대명사에 민감함을 보였지만, 완전한 인간 수준의 범주적 정밀도는 아니었다.

ABSTRACT

How and to what extent does BERT encode syntactically-sensitive hierarchical information or positionally-sensitive linear information? Recent work has shown that contextual representations like BERT perform well on tasks that require sensitivity to linguistic structure. We present here two studies which aim to provide a better understanding of the nature of BERT's representations. The first of these focuses on the identification of structurally-defined elements using diagnostic classifiers, while the second explores BERT's representation of subject-verb agreement and anaphor-antecedent dependencies through a quantitative assessment of self-attention vectors. In both cases, we find that BERT encodes positional information about word tokens well on its lower layers, but switches to a hierarchically-oriented encoding on higher layers. We conclude then that BERT's representations do indeed model linguistically relevant aspects of hierarchical structure, though they do not appear to show the sharp sensitivity to hierarchical structure that is found in human processing of reflexive anaphora.

연구 동기 및 목표

• BERT 표현이 문법적 구조를 선형 어순과 비교해 어떻게 인코딩하는지 이해하기.
• BERT가 주어진 어순과 반사적 대명사와 같은 계층적 의존 관계를 포착하는지 조사하기.
• 자기주의가 표면적 어순을 초월해 언어적 구조를 어떻게 인코딩하는지 평가하기.
• 자기주의 가중치를 사용해 BERT의 문법적 왜곡에 대한 민감도를 측정하는 정량적 메트릭 개발하기.
• BERT의 네트워크 계층에서 위치 기반에서 계층적 인코딩으로의 전환 시점 파악하기.

제안 방법

• BERT 표현에서 선형적 해법과 계층적 해법을 구분하기 위해 '자극의 빈곤' 원리에 기반한 진단 분류기 훈련하기.
• 자기주의 가중치를 기반으로 한 혼동 점수 메트릭을 제안하여 BERT가 어순 및 대명사 작업에서 문법적 오락요소에 어떻게 반응하는지 정량화하기.
• 선형 모델을 사용해 문법적 구조(예: 관계절문과 국소 부사어)와 문법적 특성 일치가 혼동 점수에 미치는 영향 분석하기.
• BERT의 트랜스포지션 블록 전체에 걸쳐 계층별 주의 패턴 분석하여 구조 인코딩의 진화 추적하기.
• 다양한 오락요소 유형(문법적으로 접근 가능 vs. 불가능, 일치하는 특성 vs. 불일치하는 특성) 간 혼동 점수 비교하여 주의의 선택성 평가하기.
• 구조적 왜곡을 통제한 조건에서 주어진 어순 및 반사적 대명사 작업 성능 평가하여 구조 민감도 고립하기.

실험 결과

연구 질문

• RQ1 BERT 표현이 계층적 문법적 구조를 선형 어순과 비교해 어느 정도까지 인코딩하는가?
• RQ2 BERT의 주의 메커니즘이 주어진 어순 및 반사적 대명사 작업에서 문법적 오락요소에 어떻게 반응하는가?
• RQ3 BERT의 어느 계층에서 위치 기반 인코딩에서 계층적 인코딩으로의 전환이 일어나는가?
• RQ4 수와 성 같은 문법적 특성이 주어진 어순 및 대명사 해소에서 BERT의 주의 패턴에 어떤 영향을 미치는가?
• RQ5 BERT의 주의 메커니즘은 관계절문 내부에 삽입된 복잡성과 같은 구조적 복잡성에 민감한가?

주요 결과

• BERT의 하위층은 강한 위치 및 순차적 정보를 인코딩하며, 이는 상층부로 갈수록 감소한다.
• 상층부에서는 점점 더 계층적 문법적 구조에 민감해지며, 표현이 점점 더 추상적이고 구조 중심이 된다.
• 혼동 점수 메트릭은 BERT의 주의가 문법적 구조에 민감함을 드러냈다: 관계절문 내 오락요소는 국소 부사어 내 오락요소보다 더 많은 혼동을 유도한다.
• 문법적으로 접근 가능한 오락요소는 접근 불가능한 것보다 혼동을 더 많이 유도하며, 특성 일치 오락요소는 더 강한 영향을 미쳐 문법적 특성에 민감함을 시사한다.
• 주어진 어순 및 반사적 대명사 작업 모두에서 혼동 점수는 계층 깊이가 증가함에 따라 감소하여 점차 계층적 구조의 추상화가 진행됨을 나타낸다.
• 계층 4에서 두드러진 혼동 증가가 선형 정보의 열화와 동시에 발생하여 표현 구성의 전환점임을 시사한다.