[論文レビュー] Bilateral Multi-Perspective Matching for Natural Language Sentences

Zhiguo Wang, Wael Hamza+1 more|arXiv (Cornell University)|Feb 13, 2017

Topic Modeling参考文献 32被引用数 118

ひとこと要約

BiMPM は BiLSTMs で二つの文をエンコードし、複数の視点を用いて両方向にマッチさせ、パラフレーズ識別、自然言語推論、回答文選択で最先端の結果を達成します。

ABSTRACT

Natural language sentence matching is a fundamental technology for a variety of tasks. Previous approaches either match sentences from a single direction or only apply single granular (word-by-word or sentence-by-sentence) matching. In this work, we propose a bilateral multi-perspective matching (BiMPM) model under the "matching-aggregation" framework. Given two sentences $P$ and $Q$, our model first encodes them with a BiLSTM encoder. Next, we match the two encoded sentences in two directions $P ightarrow Q$ and $P \leftarrow Q$. In each matching direction, each time step of one sentence is matched against all time-steps of the other sentence from multiple perspectives. Then, another BiLSTM layer is utilized to aggregate the matching results into a fix-length matching vector. Finally, based on the matching vector, the decision is made through a fully connected layer. We evaluate our model on three tasks: paraphrase identification, natural language inference and answer sentence selection. Experimental results on standard benchmark datasets show that our model achieves the state-of-the-art performance on all tasks.

研究の動機と目的

• 自然言語文マッチング（NLSM）を方向性および粒度の相互作用の制約に対処して動機づけ・改善する。
• マッチング・アグゲーションのフレームワーク内に対になる多視点マッチングアーキテクチャを提案する。
• パラフレーズ識別、自然言語推論、回答文選択において最先端の性能を示す。

提案手法

• 単語・文字表現の後に BiLSTM で文をエンコードする。
• 4 つの戦略（Full、Maxpooling、Attentive、Max-Attentive）を跨ぐ P→Q および Q→P 方向の多視点コサイン関数を用いて双方向マッチングを行う。
• 固定長の表現を得るために 2 番目の BiLSTM でマッチングベクトルを集約する。
• 2 層の全結合ネットワークとソフトマックスでラベルを予測する。
• trainable weights W と l の視点を持つ多視点コサイン関数を定義する。
• Adam を用いたクロスエントロピーでエンドツーエンドに訓練する。事前学習済み単語埋め込みは固定する。

実験結果

リサーチクエスチョン

• RQ1 双方向（2 方向）のマッチングは、片方向のアプローチより NLSM の精度を向上させることができるか？
• RQ2 時刻ごとに複数のマッチング視点を組み込むことで、文間の相互作用をより豊かに捉えられるか？
• RQ3 4 つのマッチング戦略は、タスク間の全体的な性能にどのように寄与するか？
• RQ4 標準的な NLP ベンチマークで BiMPM をアンサンブル法と組み合わせることで利得はあるか？

主な発見

• BiMPM はパラフレーズ識別、自然言語推論、回答文選択の標準ベンチマーク全体で最先端の性能を達成する。
• 多視点コサインマッチングの視点数 l を増やすと、単一視点のベースラインと比較して明確な改善が見られる。
• 双方向マッチング（P→Q および Q→P）は単方向のバリアントより約 1 パーセント高くパラフレーズタスクで上回る。
• 4 つのマッチング戦略のいずれかを削除すると性能が低下し、それらの協調的貢献を示している。
• パラフレーズ識別（Quora データセット）では、BiMPM は L.D.C. を含むさまざまなベースラインを超え、2 ポイント以上の差を付けている。