[論文レビュー] Disentangling Aspect and Opinion Words in Target-based Sentiment Analysis using Lifelong Learning

Shuai Wang, Mianwei Zhou+3 more|arXiv (Cornell University)|Feb 16, 2018

Sentiment Analysis and Opinion Mining参考文献 20被引用数 7

ひとこと要約

本稿では、弱い教師あり設定下で誤り伝搬を低減するために、継続的学習を統合したLifelong PU学習（LPU）フレームワークを提案する。このフレームワークは、ターゲットベースのセンチメント分析において、ターゲット関連語からアスペクト語と意見語を分離する二段階的手順を採用する。最初の段階で、意味的類似度を用いてターゲット関連語をグループ化し、二番目の段階で反復的PU学習と継続的知識蓄積を適用することで、誤検出の伝搬を抑制する。本手法は、手動ラベルの必要がないため、細分化されたセンチメント分析において優れた性能を達成する。

ABSTRACT

Given a target name, which can be a product aspect or entity, identifying its aspect words and opinion words in a given corpus is a fine-grained task in target-based sentiment analysis (TSA). This task is challenging, especially when we have no labeled data and we want to perform it for any given domain. To address it, we propose a general two-stage approach. Stage one extracts/groups the target-related words (call t-words) for a given target. This is relatively easy as we can apply an existing semantics-based learning technique. Stage two separates the aspect and opinion words from the grouped t-words, which is challenging because we often do not have enough word-level aspect and opinion labels. In this work, we formulate this problem in a PU learning setting and incorporate the idea of lifelong learning to solve it. Experimental results show the effectiveness of our approach.

研究の動機と目的

• 手動ラベルが不可能な低リソースまたはゼロショットドメインにおける、細分化されたターゲットベースのセンチメント分析（FTSA）の課題に対処すること。
• 単一のターゲット名のみが与えられ、語レベルのラベルが存在しない状況で、ターゲット関連のアスペクト語を意見語から分離すること。
• 反復的正例選択の改善を図るために、継続的学習の原則を統合し、PU学習における誤り伝搬問題を克服すること。
• 多様なドメイン（電子機器、ビューティ、オーディオ機器など）に一般化可能で、教師なしまたは弱教師ありの手法を提供すること。

提案手法

• 本手法は二段階パイプラインを用いる。最初の段階で、単語埋め込みやトピックモデルなどの分布的意味モデルを用いてターゲット関連語（t-words）を抽出する。
• 第二段階では、t-アスペクト語とt-意見語の分離をPU学習問題として定式化し、一般の意見語を初期の正例として扱う。
• 提案されたLPUモデルは、誤検出の伝搬を防ぐために制約を適用する継続的学習を統合し、反復的に知識を蓄積する。
• アルゴリズムは、高信頼度の予測を正例集合に更新することで反復的に更新され、信頼度しきい値と制約メカニズムを適用して誤りの拡散を回避する。
• 実世界のレビューコーパスを用いて、複数のドメイン（例：携帯電話、ビューティ）で評価され、LDAと単語埋め込みが初期のt-語抽出器として使用される。
• アブレーションスタディでは、LPUを標準的PU学習、ナイーブな反復的PU、非反復的モデルと比較し、継続的学習の統合による利点を示している。

実験結果

リサーチクエスチョン

• RQ1 ラベルなしの状況で、PU学習アプローチがターゲット関連語からアスペクト語と意見語を効果的に分離できるか。
• RQ2 誤検出の予測による誤り伝搬が、この分離タスクにおけるPU学習の性能にどのように影響を与えるか。
• RQ3 継続的学習の原則を統合することで、この文脈におけるPU学習のロバスト性と正確性がどの程度向上するか。
• RQ4 本手法は、家電製品やビューティ製品のような異なるドメインにどの程度一般化可能か。

主な発見

• LPUは、特に『muddiness』 や 『sibilance』 のような形容詞でない意見語を検出する際、標準的PU学習や反復的PUベースラインを著しく上回る性能を示す。
• 制約なしで新しい予測と初期語彙を組み合わせたモデル（c）は、新しい正例を学習できず、適応性が低く知識蓄積が限定的であることが示された。
• すべての新しい予測をそのまま正例として再利用するモデル（b）は、誤り伝搬に苦しんでおり、『sound』 や 『volume』 のようなアスペクト語が誤って意見語として分類されている。
• 図3に示すように、LPUは反復の過程で安定的かつ高い性能を維持しており、150反復での平均正答率の継続的向上が確認された。
• 本手法は、『muddiness』 や 『thumping』 のような形容詞でない意見語を効果的に同定でき、ADJ や NLL のようなモデルが見逃す語彙をカバーする広範なカバレッジを示した。
• トピックモデリング（LDA）への適用においても、LPUは高い性能を維持しており、異なるt-語抽出技術との互換性と一般化能力を示している。