[논문 리뷰] Bilateral Multi-Perspective Matching for Natural Language Sentences

Zhiguo Wang, Wael Hamza외 1명|arXiv (Cornell University)|2017. 02. 13.

Topic Modeling참고 문헌 32인용 수 118

한 줄 요약

BiMPM은 두 문장을 BiLSTMs로 인코딩하고 다방향으로 여러 관점에서 매칭하여 패러프레이즈 식별, 자연어 추론, 및 정답 문장 선택에서 최첨단 성능을 달성한다.

ABSTRACT

Natural language sentence matching is a fundamental technology for a variety of tasks. Previous approaches either match sentences from a single direction or only apply single granular (word-by-word or sentence-by-sentence) matching. In this work, we propose a bilateral multi-perspective matching (BiMPM) model under the "matching-aggregation" framework. Given two sentences $P$ and $Q$, our model first encodes them with a BiLSTM encoder. Next, we match the two encoded sentences in two directions $P ightarrow Q$ and $P \leftarrow Q$. In each matching direction, each time step of one sentence is matched against all time-steps of the other sentence from multiple perspectives. Then, another BiLSTM layer is utilized to aggregate the matching results into a fix-length matching vector. Finally, based on the matching vector, the decision is made through a fully connected layer. We evaluate our model on three tasks: paraphrase identification, natural language inference and answer sentence selection. Experimental results on standard benchmark datasets show that our model achieves the state-of-the-art performance on all tasks.

연구 동기 및 목표

• 방향성 및 미세한 상호작용 한계를 해결하여 자연어 문장 매칭(NLSM)을 동기 부여하고 개선한다.
• 매칭-집계 프레임워크 내에서 양방향 다관점 매칭 아키텍처를 제안한다.
• 패러프레이즈 식별, 자연어 추론, 및 정답 문장 선택에서 최첨단 성능을 입증한다.

제안 방법

• 단어 및 문자 표현 후 BiLSTM으로 문장을 인코딩한다.
• 네 가지 전략(Full, Maxpooling, Attentive, Max-Attentive)으로 다관점 코사인 함수를 사용하여 P→Q 및 Q→P 방향으로 양방향 매칭을 수행한다.
• 일치 벡터를 두 번째 BiLSTM으로 집계하여 고정 길이 표현을 얻는다.
• 소프트맥스를 이용한 두 층 퍼워드 네트워크로 레이블을 예측한다.
• 학습 가능한 가중치 W와 l 관점으로 다관점 코사인 함수를 정의한다.
• Adam을 사용한 크로스 엔트로피로 엔드 투 엔드 학습; 사전 학습된 단어 임베딩을 고정한다.

실험 결과

연구 질문

• RQ1 양방향(양방향) 매칭이 단방향 접근법보다 NLSM 정확도를 향상시킬 수 있는가?
• RQ2 타임스텝마다 여러 관점을 도입하면 문장 간의 더 풍부한 상호작용을 포착할 수 있는가?
• RQ3 네 가지 매칭 전략이 작업 전반의 성능에 어떻게 기여하는가?
• RQ4 표준 NLP 벤치마크에서 BiMPM과 앙상블 방법을 결합하면 이득이 있는가?

주요 결과

• BiMPM은 표준 벤치마크 전반에서 패러프레이즈 식별, 자연어 추론, 및 정답 문장 선택에 최첨단 성능을 달성한다.
• 다관점 코사인 매칭의 관점 수 l를 늘리면 성능이 향상되며 단일 관점 기준선 대비 분명한 이점을 보인다.
• 양방향 매칭(P→Q 및 Q→P)이 단일 방향 변형보다 패러프레이즈 작업에서 대략 1% 포인트 정도 우수하다.
• 네 가지 매칭 전략(Full, Maxpooling, Attentive, Max-Attentive)을 제거하면 성능이 저하되며 이들의 집합적 기여를 시사한다.
• 패러프레이즈 식별(Quora 데이터셋)에서 BiMPM은 L.D.C.를 포함한 다양한 기준선보다 2포인트 이상 우수하다.