[論文レビュー] Cross-Lingual Sentiment Analysis Without (Good) Translation

Mohamed Abdalla, Graeme Hirst|arXiv (Cornell University)|Jul 6, 2017

Sentiment Analysis and Opinion Mining参考文献 26被引用数 15

ひとこと要約

この論文は、正確な翻訳を必要とせず、たった2,000語対のデータで学習可能な単純な線形変換行列を用いることで、低コストかつ高性能な多言語間センチメント分析手法を提案する。このアプローチは、英語からの詳細なセンチメント知識を他の言語に転送し、スペイン語や中国語においても最小限のデータで優れた性能を示す。翻訳品質に依存せず、高価な二言語単語埋め込みベースラインと同等の結果を得るとともに、コストを著しく削減する。

ABSTRACT

Current approaches to cross-lingual sentiment analysis try to leverage the wealth of labeled English data using bilingual lexicons, bilingual vector space embeddings, or machine translation systems. Here we show that it is possible to use a single linear transformation, with as few as 2000 word pairs, to capture fine-grained sentiment relationships between words in a cross-lingual setting. We apply these cross-lingual sentiment models to a diverse set of tasks to demonstrate their functionality in a non-English context. By effectively leveraging English sentiment knowledge without the need for accurate translation, we can analyze and extract features from other languages with scarce data at a very low cost, thus making sentiment and related analyses for many languages inexpensive.

研究の動機と目的

• 低リソース言語におけるラベル付きセンチメントデータの不足に応じて、高品質な翻訳を必要とせずに英語のセンチメント知識を活用すること。
• 翻訳品質が低い状況下でも、センチメント関係が言語間で保存されることを示し、効果的な多言語間センチメント転送を可能にすること。
• 高価な手法（例：二言語単語埋め込みや機械翻訳）の代替として、スケーラブルで低コストな代替手法を開発すること。
• 英語、スペイン語、中国語など、文法的構造や言語的ルーツが異なる言語間で、この手法の頑健性を検証すること。
• 複雑な多言語埋め込みに依存する最先端手法と同等の性能を達成できる単純な線形変換の有効性を示すこと。

提案手法

• 2,000～8,500語対の小規模な二言語語対データセットから、ソース言語の単語ベクトルを英語のセンチメントベクトル空間にマップする線形変換行列を学習する。
• この手法は、Mikolovら（2013a）が提唱したベクトル空間翻訳技術を用い、学習された線形射影により言語間の単語埋め込みを一致させる。
• センチメント分類は、ターゲット言語にラベル付きデータを一切必要としない、英語単語ベクトルに特化した高精度なセンチメント回帰器を用いて行う。
• 文レベルのセンチメントは、翻訳されたベクトル空間内の個々の単語の ANEW（Amazon Neutral Evaluation Word）センチメントスコアの平均値によって計算する。
• 英語をターゲット言語とし、他の言語をソース言語とするため、双方向翻訳システムを必要とせず、片方向のセンチメント転送が可能になる。
• この手法は、スペイン語および中国語データを用いた単語レベルおよび文／ドキュメントレベルのセンチメント分類タスクで評価される。

実験結果

リサーチクエスチョン

• RQ1 たった2,000～8,500語対のデータで、単純な線形変換行列が英語の詳細なセンチメント知識を低リソース言語に転送できるか？
• RQ2 翻訳品質が低い状況下でも、ベクトル空間内にセンチメント情報がどれほど保持されるか？
• RQ3 本手法の性能は、二言語単語埋め込みや機械翻訳に依存する最先端手法と比べてどの程度か？
• RQ4 文法的構造や言語的ルーツが異なる言語間でも、この手法は一般化可能か？
• RQ5 有効な多言語間センチメント転送を達成するために必要な最小限の並列語対数はどれくらいか？

主な発見

• 翻訳品質の要件がなく、2,000～8,500語対のデータのみで学習しているにもかかわらず、二言語単語埋め込みを用いた最先端手法と同等の性能を達成している。
• 中国語の「hungry」が「Mugabe misrule」など全く関係のない語に誤訳されても、センチメントは依然として正確に予測される。これは翻訳誤りに対して高い頑健性を示している。
• 訓練データが増えるほどモデルの精度が向上するが、約8,500語対で性能の増加が頭打ちになることが示され、性能向上の飽和点があることが示唆された。
• 翻訳された単語の ANEW スコアを組み合わせた文ベクトルは、二言語単語埋め込みから得られるベクトルとロジスティック回帰タスクで同等の性能を示しており、十分なセンチメント情報が保持されていることが示された。
• 線形変換下でもトポロジカルなセンチメントマップが安定しており、正確な語の対応がなくても、分類に十分なほどセンチメント構造が保存されていることが示された。
• 英語、スペイン語、中国語を含む多様な言語で本手法が有効であることが確認され、多言語間一般化能力が裏付けられた。