[論文レビュー] Word Embedding for Social Sciences: An Interdisciplinary Survey

Akira Matsui, Emilio Ferrara|arXiv (Cornell University)|Jul 7, 2022

Computational and Text Analysis Methods被引用数 4

ひとこと要約

本調査は、社会科学分野における単語埋め込みの応用に関する包括的な分類体系を提示し、特に word2vec 及び関連モデルを用いてテキストおよび非テキストデータからの意味的表現を抽出する点に焦点を当てる。研究手法の傾向を強調するとともに、類似度測定における一貫性の欠如を警告し、単語埋め込みが定性的研究および定量的研究の両方における変数構築を可能にする点を示している。

ABSTRACT

To extract essential information from complex data, computer scientists have been developing machine learning models that learn low-dimensional representation mode. From such advances in machine learning research, not only computer scientists but also social scientists have benefited and advanced their research because human behavior or social phenomena lies in complex data. However, this emerging trend is not well documented because different social science fields rarely cover each other's work, resulting in fragmented knowledge in the literature. To document this emerging trend, we survey recent studies that apply word embedding techniques to human behavior mining. We built a taxonomy to illustrate the methods and procedures used in the surveyed papers, aiding social science researchers in contextualizing their research within the literature on word embedding applications. This survey also conducts a simple experiment to warn that common similarity measurements used in the literature could yield different results even if they return consistent results at an aggregate level.

研究の動機と目的

• 非構造的または非常識的なデータの分析において、単語埋め込み技術の応用が増加している傾向を文書化すること。
• 社会科学分野における応用に際しての方法論的曇りを解消するため、単語埋め込みの使用法を標準化した分類体系を構築すること。
• テキストを超えた応用、特にオンラインコミュニティの相互作用など非テキスト的行動データを含む、新たな応用分野を同定し、議論すること。
• 単語埋め込み分析で用いられる類似度測定において、集計結果が一貫しているように見えても、個々のレベルでは一貫性に欠ける可能性があることに注意喚起すること。
• コンピュータサイエンスと社会科学の間の溝を埋めるために、word2vec 及び関連モデルが多様な分野の研究において効果的かつ厳密に応用できる方法を明確にすること。

提案手法

• 社会科学者が単語埋め込みモデルをどのように応用しているかを分類するための9ラベル分類体系を開発し、変数定義、基準語、理論的根拠に焦点を当てる。
• 多様な社会科学分野から27件の学術論文および作業原稿をレビューし、その方法論的選択に基づいて分類体系に従って分類した。
• 主に事前学習済みの word2vec モデル（例：CBOW、ネガティブサンプリングを用いた skip-gram）を用い、低次元の意味的表現としての語の使用を強調した。
• 一般的な類似度測定法（例：コサイン類似度、ユークリッド距離）を比較する簡単な実験を実施し、集計結果が一貫している一方で個々のレベルでは結果が異なることを示した。
• 人為的ラベルに依存せずに、オンラインコミュニティ（例：Reddit のサブレディット）から支持率、感情、人口統計的特徴といった潜在変数を推定する単語埋め込み技術を適用した。
• 非テキスト的文脈において、作業変数を定義するために基準語（例：「デモクラット」および「コンservatives」）を用いることの重要性を強調し、言語に依存しないデータ駆動型の変数構築を可能にした。

実験結果

リサーチクエスチョン

• RQ1 word2vec を含む単語埋め込みモデルは、従来のテキスト分析を超えて、多様な社会科学分野でどのように応用されているか？
• RQ2 社会科学の研究において、単語埋め込みを用いた研究変数の構築にあたって、どのような方法論的パターンが顕在化しているか？
• RQ3 単語埋め込み分析で一般的に用いられる類似度測定法は、集計レベルでは一貫性があるものの、個々のレベルでは一貫した結果をもたらすとは限らないのか？
• RQ4 単語埋め込みモデルは、オンラインコミュニティにおける非テキスト的または間接的な行動データから、社会的特徴（例：支持政党、性別、年齢）をどのように推定できるか？
• RQ5 定性的研究および多様な分野にわたる社会科学研究への単語埋め込みの応用における主な課題と制限は何か？

主な発見

• 単語埋め込みモデルは、ファイナンスやマネジメントサイエンスといった定量的分野だけでなく、歴史学、文化研究、政治学といった定性的分野でも急速に応用されている。
• 顕著な傾向として、単語埋め込みを用いて「デモクラット」や「コンサーバティブ」などの基準語を通じて、研究変数を間接的に定義する手法が広がっており、言語に依存しないデータ駆動型の変数構築が可能になっている。
• 本研究では、コサイン類似度やユークリッド距離といった類似度測定法が、集計レベルでは一貫性があるように見えても、個々のレベルでは異なる結果をもたらす可能性があることが明らかになった。これは、重大な方法論的リスクを示している。
• 応用範囲はテキストを越え、オンラインコミュニティにおけるユーザ行動パターンといった非テキスト的行動データから社会的特徴を推定する応用も可能であり、単語埋め込みの社会現象の捉え込みにおける多様性を示している。
• 本調査で開発した分類体系は、事前学習済みモデルの使用、基準語に基づく変数定義、クラスタリングまたは予測タスクの実施といった繰り返し現れる方法論的パターンを同定しており、今後の研究設計を支援するものである。
• 広範な使用にもかかわらず、多くの社会科学論文では CBOW か skip-gram モデルを使用しているかを明記しておらず、単語埋め込みの応用に関する報告における方法論的透明性の向上が求められる。