[論文レビュー] Measuring Semantic Similarity by Latent Relational Analysis

Peter D. Turney|ArXiv.org|Aug 10, 2005

Topic Modeling参考文献 13被引用数 165

ひとこと要約

この論文は、コーパスからパターンを自動で抽出し、頻度データを平滑化するために特異値分解（SVD）を適用し、同義語を用いて語のペアを再定式化することで、意味的類似度を測定するためのLatent Relational Analysis（LRA）という手法を紹介している。LRAは大学レベルの語の類似度タスクにおいて人間並みの性能を達成し、類似度タスクおよび意味的関係分類タスクの両方でベクトル空間モデル（VSM）を著しく上回っている。

ABSTRACT

This paper introduces Latent Relational Analysis (LRA), a method for measuring semantic similarity. LRA measures similarity in the semantic relations between two pairs of words. When two pairs have a high degree of relational similarity, they are analogous. For example, the pair cat:meow is analogous to the pair dog:bark. There is evidence from cognitive science that relational similarity is fundamental to many cognitive and linguistic tasks (e.g., analogical reasoning). In the Vector Space Model (VSM) approach to measuring relational similarity, the similarity between two pairs is calculated by the cosine of the angle between the vectors that represent the two pairs. The elements in the vectors are based on the frequencies of manually constructed patterns in a large corpus. LRA extends the VSM approach in three ways: (1) patterns are derived automatically from the corpus, (2) Singular Value Decomposition is used to smooth the frequency data, and (3) synonyms are used to reformulate word pairs. This paper describes the LRA algorithm and experimentally compares LRA to VSM on two tasks, answering college-level multiple-choice word analogy questions and classifying semantic relations in noun-modifier expressions. LRA achieves state-of-the-art results, reaching human-level performance on the analogy questions and significantly exceeding VSM performance on both tasks.

研究の動機と目的

• 語のペア間の関係的構造に基づいた意味的類似度測定手法の開発を目的とする。
• 手動で構築されたパターンに依存せず、パターン抽出の自動化と頻度データのノイズ低減により、ベクトル空間モデル（VSM）を改善することを目的とする。
• 語の類似度タスク、特に語の類似度と名詞修飾関係分類の性能向上を目的とする。
• 分布的意味論を用いて、標準化された類似度テストで人間並みの性能を達成することを目的とする。
• 関係的類似度が認知的および言語的処理の根幹をなす要因であるという仮説を検証することを目的とする。

提案手法

• LRAは、手動で作成されたパターンに依存せず、大規模コーパスから自動的に言語的パターンを抽出する。
• パターンの頻度行列に特異値分解（SVD）を適用することで次元削減とノイズの平滑化を実現する。
• 同義語を用いて語のペアを再定式化することで、関連するパターンの数を増やし、カバレッジを向上させる。
• 2つの語のペア間の関係的類似度は、低次元のSVD空間におけるベクトル表現間のコサイン類似度として計算される。
• この手法は文脈内の共起パターンを捉えることで意味的関係をモデル化し、類推的推論を可能にする。
• 最終的な類似度スコアは、2つの語のペア間の関係的類似度の度合いを反映する。

実験結果

リサーチクエスチョン

• RQ1 手動によるパターンキュレーションと比較して、自動パターン抽出は意味的類似度測定を改善できるか？
• RQ2 SVDに基づく平滑化は、意味的類似度タスクの性能向上にどの程度寄与するか？
• RQ3 同義語を用いた再定式化は、関係的類似度計算のロバスト性と正確性を向上させられるか？
• RQ4 LRAは語の類似度タスクで人間並みの性能を達成できるか？
• RQ5 LRAは名詞修飾構造における意味的関係分類において、ベクトル空間モデル（VSM）と比較してどのように異なるか？

主な発見

• LRAは大学レベルの複数選択式語の類似度問題のセットにおいて最先端の性能を達成し、人間並みの正確性に到達した。
• 語の類似度タスクにおいて、LRAはベクトル空間モデル（VSM）を著しく上回り、自動パターン抽出とSVD平滑化の有効性を示した。
• 意味的関係分類タスクにおいて、LRAはVSMの性能を著しく上回り、関係的構造のモデリングの改善を示した。
• 語のペアを同義語で再定式化することで、関連するパターンの数が増加し、類似度スコアの上昇に寄与した。
• 特異値分解（SVD）は頻度データのノイズを効果的に低減し、より安定的かつ正確な類似度推定を可能にした。
• 結果は、関係的類似度が類推的推論および意味理解の根幹的メカニズムであるという仮説を支持するものであった。