[論文レビュー] Representing Meaning with a Combination of Logical Form and Vectors.

Islam Beltagy, Stephen Roller+3 more|arXiv (Cornell University)|May 26, 2015

Natural Language Processing Techniques参考文献 88被引用数 12

ひとこと要約

本論文は、テキスト entails に論理的表現と分散表現モデルをマーカフロジックネットワーク（MLNs）を介して統合するハイブリッド意味枠組みを提案する。確率的推論を通じて論理的構造とgradedな意味的類似度を統合することで、SICKデータセットにおいて最先端の性能を達成するとともに、分散的語彙的 entails の手法の評価を可能にする。

ABSTRACT

NLP tasks differ in the semantic information they require, and at this time no single semantic representation fulfills all requirements. Logic-based representations characterize sentence structure, but do not capture the graded aspect of meaning. Distributional models give graded similarity ratings for words and phrases, but do not adequately capture overall sentence structure. So it has been argued that the two are complementary. In this paper, we adopt a hybrid approach that combines logic-based and distributional semantics through probabilistic logic inference in Markov Logic Networks (MLNs). We focus on textual entailment (RTE), a task that can utilize the strengths of both representations. Our system is three components, 1) parsing and task representation, where input RTE problems are represented in probabilistic logic. This is quite different from representing them in standard first-order logic. 2) knowledge base construction in the form of weighted inference rules from different sources like WordNet, paraphrase collections, and lexical and phrasal distributional rules generated on the fly. We use a variant of Robinson resolution to determine the necessary inference rules. More sources can easily be added by mapping them to logical rules; our system learns a resource-specific weight that counteract scaling differences between resources. 3) inference, where we show how to solve the inference problems efficiently. In this paper we focus on the SICK dataset, and we achieve a state-of-the-art result. Our system handles overall sentence structure and phenomena like negation in the logic, then uses our Robinson resolution variant to query distributional systems about words and short phrases. Therefor, we use our system to evaluate distributional lexical entailment approaches. We also publish the set of rules queried from the SICK dataset, which can be a good resource to evaluate them.

研究の動機と目的

• 純粋な論理的または分散的意味表現の限界を克服し、文の構造とgradedな意味を両方とも捉えること。
• 論理（構造と否定の処理に優れる）と分散モデル（graded類似度に優れる）の長所を統合した統一フレームワークの構築。
• RTE問題を確率的論理にエンコードし、多様な言語的リソースから構築された重み付き知識ベースを用いることで、効率的かつスケーラブルな推論を実現すること。
• SICKデータセットから得られるルールセットを再利用可能なものとして公開し、分散的語彙的 entails の手法の評価を可能にすること。

提案手法

• 不確実性と確率的推論をサポートするため、標準的一階論理ではなく、確率的論理で入力テキスト entails 問題を表現すること。
• WordNet、類義語コレクション、およびリアルタイムで生成された語彙的・句的分散的ルールを含む、重み付き推論ルールの知識ベースを構築すること。
• 異種の言語的リソース間の整合性を保証するために、ロビンソン解消法の変種を用いて必要な推論ルールを自動で導出すること。
• 異なるデータソース間のスケーリング差を補正するため、リソース固有の重みを学習することで、統合のロバストネスを向上させること。
• マーカフロジックネットワークにおける効率的推論を実行し、論理的推論と語句・語の類似度スコアを統合すること。
• 論理的述語を通じて分散モデルを問い合わせ、語彙的および句レベルの entails を評価し、分散的手法の体系的評価を可能にすること。

実験結果

リサーチクエスチョン

• RQ1 論理的表現と分散的意味論を統合したハイブリッドシステムは、単一のアプローチに比べてテキスト entails で優れた性能を示せるか？
• RQ2 論理的構造とgradedな意味的類似度を、1つの推論フレームワーク内で効果的に統合できるか？
• RQ3 分散的モデルを論理的推論パイプライン内で体系的に問い合わせ、 entails を評価できるか？
• RQ4 SICKのようなデータセットから導出されたルールセットは、分散的語彙的 entails の手法の評価に信頼できるベンチマークとして機能できるか？

主な発見

• 提案手法はSICKデータセットで最先端の結果を達成し、ハイブリッドアプローチの有効性を示した。
• 論理的構造の統合により、否定や文レベルの合成性といった複雑な現象を適切に処理できるようになった。
• ロビンソン解消法の変種の使用により、異種の言語的リソースから推論ルールを自動で導出できるようになった。
• システムは分散的モデルを語と句の類似度について問い合わせることができ、分散的 entails の手法の評価を可能にした。
• SICKデータセットから得た推論ルールのセットは、将来の語彙的 entails 手法の評価に価値ある再利用可能なベンチマークを提供する。
• リソース固有の重みは、異種のソース間のスケーリング差を効果的に緩和し、モデルのロバストネスとパフォーマンスを向上させた。