[論文レビュー] Zero-Shot Cross-Lingual Opinion Target Extraction

Soufian Jebbara, Philipp Cimiano|arXiv (Cornell University)|Apr 19, 2019

Sentiment Analysis and Opinion Mining参考文献 17被引用数 7

ひとこと要約

本稿では、マルチリンガル単語埋め込みを用いた畳み込みニューラルネットワーク（CNN）内で、注釈付きのターゲット言語データが一切不要なゼロショットのクロスリンガルな意見対象抽出手法を提案する。この手法により、リソースが乏しい言語においても、ターゲット言語データで訓練された単言語モデルの最大87％の性能を達成できる。複数のソース言語を活用することで、その性能が向上する。

ABSTRACT

Aspect-based sentiment analysis involves the recognition of so called opinion target expressions (OTEs). To automatically extract OTEs, supervised learning algorithms are usually employed which are trained on manually annotated corpora. The creation of these corpora is labor-intensive and sufficiently large datasets are therefore usually only available for a very narrow selection of languages and domains. In this work, we address the lack of available annotated data for specific languages by proposing a zero-shot cross-lingual approach for the extraction of opinion target expressions. We leverage multilingual word embeddings that share a common vector space across various languages and incorporate these into a convolutional neural network architecture for OTE extraction. Our experiments with 5 languages give promising results: We can successfully train a model on annotated data of a source language and perform accurate prediction on a target language without ever using any annotated samples in that target language. Depending on the source and target language pairs, we reach performances in a zero-shot regime of up to 77% of a model trained on target language data. Furthermore, we can increase this performance up to 87% of a baseline model trained on target language data by performing cross-lingual learning from multiple source languages.

研究の動機と目的

• リソースが乏しい言語における意見対象抽出のための注釈付きデータの不足に対処すること。
• ターゲット言語に注釈付きの例が一切ない状況でも、ソース言語からターゲット言語へゼロショットでモデルを転送可能にする。
• 複数のソース言語を用いることで、クロスリンガル転送性能に与える影響を調査すること。
• マルチリンガル単語埋め込みが、序列ラベル付けタスクにおけるゼロショット設定でどれほど有効に機能するかを評価すること。
• クロスリンガル転送を活用することで、リソースが乏しい言語の注釈コストを削減すること。

提案手法

• 意見対象表現をラベル付けるために、IOBスキームを用いた序列タギング問題としてタスクを定式化する。
• 入力特徴を単語埋め込みに限定することで、シンプルさと広範な適用可能性を確保する、多層畳み込みニューラルネットワーク（CNN）を序列タギングモデルとして用いる。
• スミスら（2017）およびランプルら（2018）のマルチリンガル単語埋め込みを用い、言語間で単語表現を共有のベクトル空間に統合する。
• モデルはソース言語の注釈付きデータで訓練され、ターゲット言語データでのファインチューニングなしに直接ターゲット言語に適用される。
• 複数のソース言語で訓練することで、汎化性能とクロスリンガル転送性能が向上する。
• F1スコアを用いて、英語、スペイン語、オランダ語、フランス語、トルコ語の5言語でアプローチを評価する。

実験結果

リサーチクエスチョン

• RQ1 ターゲット言語に注釈付きの学習データが一切ない状況でも、ソース言語で訓練されたモデルが、ターゲット言語における意見対象抽出で高い性能を達成できるか？
• RQ2 複数のソース言語を用いることで、クロスリンガル意見対象抽出のゼロショット性能にどのような影響を与えるか？
• RQ3 マルチリンガル単語埋め込みは、リソースが乏しい状況下で、序列ラベル付けタスクにおける有効なゼロショット転送をどの程度可能にするか？
• RQ4 クロスリンガルモデルの性能は、ターゲット言語データで訓練された単言語ベースラインと比べてどの程度か？
• RQ5 ターゲット言語からの少数の注釈付き例を含めることで、必要な注釈作業量を著しく削減できるか？

主な発見

• 英語をソース言語として用いた場合、スペイン語ではF1スコア0.50、オランダ語では0.46を達成し、それぞれ単言語ベースライン性能の74％および77％に相当する。
• 複数のソース言語を活用することで、スペイン語ではF1スコア0.58、オランダ語では0.53に向上し、それぞれ単言語ベースライン性能の85％および87％に達する。
• 少量のターゲット言語データを組み合わせることで、ターゲット言語の注釈付き例に必要な数を数100個も削減できた。
• 語形変化が著しい言語（トルコ語）では、クロスリンガル学習による改善が最も小さく、言語的差異が転送可能性に影響を与える可能性を示唆している。
• 評価した2つのマルチリンガル埋め込み手法は全体的に同等の結果を示したが、言語ペアごとの性能にはばらつきが見られた。
• ロシア語およびトルコ語において、最先端または競争力のある性能を達成し、既存のシステムを上回った。