[논문 리뷰] Frequency-based Distortions in Contextualized Word Embeddings

Kaitlyn Zhou, Kawin Ethayarajh외 1명|arXiv (Cornell University)|2021. 04. 17.

Topic Modeling참고 문헌 18인용 수 8

한 줄 요약

이 논문은 사전 훈련 데이터 내 단어 빈도가 BERT의 문맥적 단어 임베딩에서 의미 유사도 측정을 어떻게 왜곡하는지 조사한다. 신뢰도 프로브와 최소 외접 초구면 분석을 통해 고빈도 단어는 더 다양한, 더 식별하기 어려운 표현을 가지며, 이로 인해 유사도가 체계적으로 과소 또는 과대 평가됨을 발견한다 — 특히 남미 및 아프리카 국가들이 임베딩 공간에서 불리하게 작용하며, 이 왜곡은 다국어 BERT입니다라 흐려지지 않는다.

ABSTRACT

How does word frequency in pre-training data affect the behavior of similarity metrics in contextualized BERT embeddings? Are there systematic ways in which some word relationships are exaggerated or understated? In this work, we explore the geometric characteristics of contextualized word embeddings with two novel tools: (1) an identity probe that predicts the identity of a word using its embedding; (2) the minimal bounding sphere for a word's contextualized representations. Our results reveal that words of high and low frequency differ significantly with respect to their representational geometry. Such differences introduce distortions: when compared to human judgments, point estimates of embedding similarity (e.g., cosine similarity) can over- or under-estimate the semantic similarity of two words, depending on the frequency of those words in the training data. This has downstream societal implications: BERT-Base has more trouble differentiating between South American and African countries than North American and European ones. We find that these distortions persist when using BERT-Multilingual, suggesting that they cannot be easily fixed with additional data, which in turn introduces new distortions.

연구 동기 및 목표

• 사전 훈련 데이터 내 단어 빈도가 문맥적 단어 임베딩의 기하학적 구조에 미치는 영향을 조사하는 것.
• 이러한 기하학적 차이가 의미 유사도 추정에 체계적인 왜곡을 초래하는지 여부를 검토하는 것.
• BERT-멀티링월 등 추가 훈련 데이터가 이러한 왜곡을 완화할 수 있는지 평가하는 것.
• 표현이 부족한 지역과 관련하여 빈도 기반 왜곡이 NLP 모델에 미치는 사회적 영향을 부각하는 것.
• 단어 빈도 및 왜곡 프로파일을 포함한 모델 문서화의 투명성 증진을 주장하는 것.

제안 방법

• 문맥적 임베딩 기반으로 단어의 식별 가능성을 측정하기 위해 소수의 샘플을 사용하는 로지스틱 회귀 분류기인 신뢰도 프로브를 도입하였다.
• 단어의 형제 임베딩 주위에 최소 외접 초구면을 정의하여 표현의 다양성을 정량화하였다.
• 위키백과 문장에서 BERT-base 및 BERT-멀티링월을 사용해 문맥적 임베딩을 추출하였으며, 길이 및 토큰화 일관성 기준으로 필터링하였다.
• 위미디어 및 BookCorpus에서의 단어 빈도를 임베딩 기하학 및 유사도 추정 오차와 상관시켰다.
• 스탠퍼드 문맥적 단어 유사도 데이터셋을 사용해 왜곡을 평가하였으며, 코사인 유사도를 인간 평가와 비교하였다.
• 맥락 일관성 및 빈도가 임베딩의 풍부함에 미치는 영향을 테스트하기 위해 아블레이션 연구를 수행하였다.

실험 결과

연구 질문

• RQ1 사전 훈련 데이터 내 단어 빈도가 문맥적 단어 임베딩의 기하학적 성질에 어떤 영향을 미치는가?
• RQ2 빈도 기반 기하학적 차이가 인간 평가 대비 의미 유사도 추정에 얼마나 체계적으로 왜곡을 초래하는가?
• RQ3 BERT-멀티링월과 같이 다국어 사전 훈련 데이터가 이러한 빈도 기반 왜곡을 감소시키거나 제거하는가?
• RQ4 다양한 대륙의 국가 이름이 임베딩 공간에서 어떻게 표현되는지에 대해 측정 가능한 격차가 존재하는가?
• RQ5 관찰된 왜곡이 단어 빈도에 따른 맥락 정보 인코딩의 차이로 귀속될 수 있는가?

주요 결과

• BERT 내 고빈도 단어는 더 큰 최소 외접 초구면을 가지며, 이는 표현의 다양성이 더 크다는 것을 의미한다. 반면 저빈도 단어는 더 식별 가능하고 뭉쳐져 있다.
• 신뢰도 프로브는 단어 빈도가 증가할수록 식별 가능성 감소를 보이며, 이는 고빈도 단어가 상호 간에 더 구분하기 어려운 것을 시사한다.
• 단어 임베딩 간 코사인 유사도는 인간 평가와 상관관계가 0.42 이하인 피어슨 상관계수까지 뿐이며, 추정 오차는 빈도와 체계적으로 연관되어 있다.
• 북미 및 유럽 국가 이름은 더 큰 외접 구면을 가지며, 남미 및 아프리카 국가 이름보다 더 명확하게 구분된다. 이는 GDP 및 지역 대표성과 관련이 있다.
• BERT-멀티링월은 이러한 왜곡을 완화하지 못하며, 동일한 빈도 기반 편향이 유지됨을 보여, 추가 데이터만으로는 문제를 해결할 수 없다는 것을 시사한다.
• 이 연구는 모든 데이터셋이 빈도 및 표현 편향으로 인해 왜곡을 포함하고 있으며, 이러한 편향을 드러내기 위해 모델 문서화의 투명성 증진이 필요하다고 결론 내린다.