[論文レビュー] Classifying Idiomatic and Literal Expressions Using Topic Models and Intensity of Emotions

Jing Peng, Anna Feldman+1 more|arXiv (Cornell University)|Feb 27, 2018

Natural Language Processing Techniques参考文献 11被引用数 9

ひとこと要約

本稿では、トピックモデリング（LDA）と感情強度特徴を用いて、慣用句的表現と直訳的表現を分類する手法を提案する。慣用句を局所的トピック文脈における意味的外れ値として扱い、感情言語からのアーザルレベルを組み込むことで、ベースラインのbag-of-words法や先行手法を上回る分類精度を達成し、小規模だが代表的なデータセットにおいて優れた性能を発揮する。

ABSTRACT

We describe an algorithm for automatic classification of idiomatic and literal expressions. Our starting point is that words in a given text segment, such as a paragraph, that are highranking representatives of a common topic of discussion are less likely to be a part of an idiomatic expression. Our additional hypothesis is that contexts in which idioms occur, typically, are more affective and therefore, we incorporate a simple analysis of the intensity of the emotions expressed by the contexts. We investigate the bag of words topic representation of one to three paragraphs containing an expression that should be classified as idiomatic or literal (a target phrase). We extract topics from paragraphs containing idioms and from paragraphs containing literals using an unsupervised clustering method, Latent Dirichlet Allocation (LDA) (Blei et al., 2003). Since idiomatic expressions exhibit the property of non-compositionality, we assume that they usually present different semantics than the words used in the local topic. We treat idioms as semantic outliers, and the identification of a semantic shift as outlier detection. Thus, this topic representation allows us to differentiate idioms from literals using local semantic contexts. Our results are encouraging.

研究の動機と目的

• 文脈における慣用句的表現と直訳的表現を自動で区別する手法を開発すること。
• 慣用句が非構成的意味的外れ値として扱えるかどうか、周辺テキストのトピックモデリングによって検出可能であるかを調査すること。
• 感情強度（特にアーザル）を組み込むことで分類性能に与える影響を評価すること。
• 語彙的または文法的パターンに依存する既存のアプローチを、局所的意味的文脈を活用することで改善すること。
• 同じ表現が文脈によって直訳的または比喩的である可能性があるという曖昧な慣用句の使用に対処すること。

提案手法

• 本手法は、ターゲット語句を含む1〜3段落のテキストから、Latent Dirichlet Allocation (LDA) を用いてトピック表現を抽出する。
• 意味的外れ値として慣用句を扱い、トピック-語割合確率に基づいて支配的ローカルトピックからの逸脱度を測定する。
• 感情強度は、感情分析を用いて周辺文脈から単純なアーザル特徴を抽出することで捉える。
• トピック表現とアーザル特徴を組み合わせ、表現が慣用句的か直訳的かを分類する。
• 分類器（監視学習モデルと想定される）は、統合されたトピック特徴と感情特徴を学習データとして用い、慣用句的・直訳的使用を区別する。
• 本手法は、表現が慣用句的か直訳的かにラベル付けされたデータセット上で評価され、ベースラインのbag-of-words法や先行手法と性能を比較する。

実験結果

リサーチクエスチョン

• RQ1 局所的テキスト文脈のトピックモデリングにより、意味的外れ値としての慣用句と直訳的表現を効果的に区別できるか？
• RQ2 特にアーザルを含む感情強度を組み込むことで、慣用句的表現の分類性能が向上するか？
• RQ3 文脈長（1段落対3段落）が、トピックベースの慣用句検出性能に与える影響は何か？
• RQ4 本手法は、ベースラインモデルや先行手法に比べて、慣用句的 vs. 直訳的使用の分類においてどの程度優れているか？
• RQ5 誤検出（誤検出と誤未検出）の主な原因は何か。感情統合はそれらをどのように是正するか？

主な発見

• 提案手法は、慣用句的・直訳的表現の分類において、ベースラインのbag-of-wordsモデルを著しく上回る。
• 特にアーザルを含む感情強度を組み込むことで分類性能が向上し、誤検出と誤未検出の両方を低減する効果がある。
• 3段落の文脈を用いる方が1段落の文脈よりも優れた結果をもたらす。これは、より長い文脈が安定したトピックモデリングを可能にするためである。
• LDA空間における支配的ローカルトピックからの逸脱度を検出することで、モデルは慣用句を意味的外れ値として効果的に特定できた。
• FeldmanとPeng（2013）の手法（平均正答率80%）を上回る性能を示し、同じデータセット上で優れた性能を発揮した。
• 定性的分析により、感情特徴が曖昧なケース（例：'blow the whistle'）を正しく分類するのに役立つことが確認された。