[論文レビュー] Characterizing English Variation across Social Media Communities with BERT

Li Lucy, David Bamman|arXiv (Cornell University)|Feb 12, 2021

Digital Communication and Language参考文献 74被引用数 4

ひとこと要約

本稿では、474のRedditコミュニティにおける英語の使用における語彙的および意味的変異を検出するBERTベースの手法を提案している。その結果、語の意味の違いが顕著なコミュニティは中規模であり、忠誠心が高く、活発に交流するユーザーが密集したネットワークを形成していることが示された。本手法は語の種類の特異性と意味レベルの埋め込みを組み合わせることで、コミュニティ固有の言語を同定し、ユーザーが作成した用語集と社会言語学的理論を用いて検証された。

ABSTRACT

Much previous work characterizing language variation across Internet social groups has focused on the types of words used by these groups. We extend this type of study by employing BERT to characterize variation in the senses of words as well, analyzing two months of English comments in 474 Reddit communities. The specificity of different sense clusters to a community, combined with the specificity of a community's unique word types, is used to identify cases where a social group's language deviates from the norm. We validate our metrics using user-created glossaries and draw on sociolinguistic theories to connect language variation with trends in community behavior. We find that communities with highly distinctive language are medium-sized, and their loyal and highly engaged users interact in dense networks.

研究の動機と目的

• 単なる語の頻度を超えて、オンラインコミュニティにおける言語的変異を測定する計算的手法を開発すること。
• 語の意味（語の意味の違い）がソーシャルメディアコミュニティ間でどのように変化するかを調査すること。
• ユーザーが作成した用語集と社会言語学的理論を用いて、提案された指標を検証すること。
• ユーザー行動、ネットワーク構造、およびコミュニティ固有の言語使用との関係を調査すること。
• 議題の主題かユーザーの属性のどちらが、言語的特異性をよりよく予測するかを特定すること。

提案手法

• 著者たちは、474のRedditコミュニティにおける語の文脈に応じた埋め込みをBERTを用いて抽出し、文脈による語の意味の違いを捉えた。
• 語の種類頻度とBERT埋め込み空間における意味レベルのクラスタリングの両方を基に、コミュニティ固有の特異性スコア（F）を算出した。
• 意味クラスタは、ターゲット語（例：'python'）のBERT埋め込みに対してt-SNE可視化とk-meansクラスタリングを用いて特定した。
• 本研究では、従来の語の種類特異性指標（例：先行研究におけるPMIベースの特異性）と、BERTベースの意味変異を比較した。
• 線形最小二乗回帰（OLS）モデルを用いて、ユーザー属性（例：活動度、ネットワーク密度）とトピックカテゴリが言語的特異性（Fスコア）に与える影響を検証した。
• 57のRedditコミュニティから得られたユーザーが作成した用語集を用いて、BERTが同定した意味クラスタがコミュニティが定義した専門用語と一致することを検証した。

実験結果

リサーチクエスチョン

• RQ1 語の意味はどのように異なるオンラインコミュニティ間で変化し、BERTはこれらの変化を効果的に捉えられるか？
• RQ2 ユーザー行動とネットワーク構造は、オンラインコミュニティにおける言語的特異性をどの程度予測できるか？
• RQ3 議題の主題（例：テクノロジー、ビデオゲーム、趣味）が、ユーザー属性よりも言語的変異に強い影響を及ぼすか？
• RQ4 BERTが同定した意味クラスタは、コミュニティが定義した用語集とどの程度一致するか？
• RQ5 言語が極めて特異なコミュニティは、密度の高い忠誠心の高いユーザーネットワークを持つ中規模コミュニティである可能性が高いか？

主な発見

• 言語的特異性が最も高いコミュニティ（Fスコア）は、最大または最小のコミュニティではなく、中規模である。
• 言語が特異なコミュニティでは、活発で忠誠心の高いユーザーが多く、密な相互作用ネットワークを形成している。
• ユーザー行動を制御した後でも、ネットワーク密度は言語的変異に負の影響を及ぼすことが示され、初期の正の相関効果が相関する特徴によって歪められていた可能性が示唆された。
• トピック関連の特徴（例：テクノロジー、ビデオゲーム、趣味）は言語的特異性と関連しているが、ユーザー行動の方がより強い予測要因であった。
• 語の種類と意味の特異性を組み合わせたFスコアは、ユーザーが作成した用語集と強く一致しており、本手法がコミュニティ固有の専門用語を検出できる能力を検証した。
• BERT埋め込みは、多義語の異なる意味（例：'python'をプログラミング言語と宇宙船の両方で）を効果的に分離し、コミュニティごとに埋め込み空間に明確なクラスタを形成した。