[論文レビュー] Representing Meaning with a Combination of Logical and Distributional Models

Islam Beltagy, Stephen Roller+3 more|arXiv (Cornell University)|May 26, 2015

Topic Modeling参考文献 92被引用数 5

ひとこと要約

この論文は、マークフ・ロジック・ネットワークス（MLNs）を用いて論理的および分散的意味論を統合するハイブリッド意味的フレームワークを提案する。構造的推論に一階論理を、勾配付き類似度に分散的単語表現を組み合わせることで、SICKデータセット上で最先端の性能（85.1%の正解率）を達成した。また、10,213の規則を含む新しい語彙的含意データセットも公開した。

ABSTRACT

NLP tasks differ in the semantic information they require, and at this time no single se- mantic representation fulfills all requirements. Logic-based representations characterize sentence structure, but do not capture the graded aspect of meaning. Distributional models give graded similarity ratings for words and phrases, but do not capture sentence structure in the same detail as logic-based approaches. So it has been argued that the two are complementary. We adopt a hybrid approach that combines logic-based and distributional semantics through probabilistic logic inference in Markov Logic Networks (MLNs). In this paper, we focus on the three components of a practical system integrating logical and distributional models: 1) Parsing and task representation is the logic-based part where input problems are represented in probabilistic logic. This is quite different from representing them in standard first-order logic. 2) For knowledge base construction we form weighted inference rules. We integrate and compare distributional information with other sources, notably WordNet and an existing paraphrase collection. In particular, we use our system to evaluate distributional lexical entailment approaches. We use a variant of Robinson resolution to determine the necessary inference rules. More sources can easily be added by mapping them to logical rules; our system learns a resource-specific weight that corrects for scaling differences between resources. 3) In discussing probabilistic inference, we show how to solve the inference problems efficiently. To evaluate our approach, we use the task of textual entailment (RTE), which can utilize the strengths of both logic-based and distributional representations. In particular we focus on the SICK dataset, where we achieve state-of-the-art results.

研究の動機と目的

• 完全に論理的または分散的意味論モデルに起因する限界、すなわち文の構造と勾配付き意味を両方捉えきれない点を是正する。
• 自動推論を可能にしつつ、語彙的類似度と類義語の類似性を組み込む統一されたフレームワークを開発する。
• 結合された論理的および分散的知識に対して、効率的かつスケーラブルな確率的推論を可能にする。
• 深い意味的理解を要するテキスト含意というタスクでシステムを評価する。
• 今後の研究のための新しい大規模語彙的含意データセットを公開する。

提案手法

• 深層句法学的および意味論的解析を可能にする広範囲カバーsemantic parser（Boxer）を用いて、入力文を一階論理式として表現する。
• 単語埋め込みなどの分散的類似度と、WordNet やパラフレーズデータベース（PPDB）などの外部リソースを統合して知識ベースを構築する。
• 確率的論理、特にマークフ・ロジック・ネットワークス（MLNs）を用いて、論理的規則と分散的重みを統合し、勾配付き推論を可能にする。
• 分布的特徴に基づいて語彙的含意関係を同定するため、教師あり含意規則分類器（eclassif）を訓練する。
• MLNsにおける重み付きモデルカウントを用いて効率的に含意確率を計算する推論を実行する。
• 文脈に依存する含意（例：液体に対して「poured」と「put」）を検出するために、文脈に依存する分散的特徴を活用する。

実験結果

リサーチクエスチョン

• RQ1 論理的および分散的意味論を統合したハイブリッドシステムは、完全に論理的または分散的モデルを上回る性能を示せるか？
• RQ2 分散的類似度は、PPDBのような大規模パラフレーズデータベースをどれほど代替できるか？
• RQ3 分散的特徴は、静的単語ベクトルでは捉えきれない文脈依存的語彙的含意をどれほど検出できるか？
• RQ4 確率的論理は、勾配付き語彙的類似度と構造的推論を、スケーラブルかつ解釈可能に統合できるか？
• RQ5 分散的類似度は、未知の語の間の階層的関係（例：下位語関係）を推論するためにどのように利用できるか？

主な発見

• 本システムは、SICKテキスト含意テストセットで85.1%という最先端の正解率を達成し、先行研究を上回った。
• 分散的特徴、特にコサイン類似度が、語彙的含意関係の大部分を捉えることができ、PPDBパラフレーズデータベースの多くを代替できた。
• 含意規則分類器（eclassif）が、特に微細な語彙的含意を同定するうえで、高い性能を発揮した。
• WordNet（wn）をシステムに追加したことで正解率がわずかに低下したため、語彙的階層への過剰依存がノイズを引き起こす可能性があることが示唆された。
• 文脈に依存する分散的表現は、特定の状況下での「push」と「knock」のような文脈特有の含意を検出する上で有望な結果を示した。
• システムはモularityとスケーラビリティを示し、確率的論理を用いた質問応答や一般化された量子化子への拡張の可能性を秘めている。