[論文レビュー] Exploring Dense Retrieval for Dialogue Response Selection

Tian Lan, Deng Cai+4 more|arXiv (Cornell University)|Oct 13, 2021

Topic Modeling参考文献 29被引用数 4

ひとこと要約

この論文では、二重エンコーダー構造と軽量なインタラクション層を組み合わせることで、高い推論効率を維持しながら最先端の性能を達成する対話応答選択のための密度型検索モデル、DR-BERTを提案する。バッチ内対照学習、非並列ドメイン適応、データ拡張を統合することで、DR-BERTは、特に大規模または非並列な候補プールからの検索において、強力なクロスエンコーダー基準モデルを上回る性能を発揮する。

ABSTRACT

Recent progress in deep learning has continuously improved the accuracy of dialogue response selection. In particular, sophisticated neural network architectures are leveraged to capture the rich interactions between dialogue context and response candidates. While remarkably effective, these models also bring in a steep increase in computational cost. Consequently, such models can only be used as a re-rank module in practice. In this study, we present a solution to directly select proper responses from a large corpus or even a nonparallel corpus that only consists of unpaired sentences, using a dense retrieval model. To push the limits of dense retrieval, we design an interaction layer upon the dense retrieval models and apply a set of tailor-designed learning strategies. Our model shows superiority over strong baselines on the conventional re-rank evaluation setting, which is remarkable given its efficiency. To verify the effectiveness of our approach in realistic scenarios, we also conduct full-rank evaluation, where the target is to select proper responses from a full candidate pool that may contain millions of candidates and evaluate them fairly through human annotations. Our proposed model notably outperforms pipeline baselines that integrate fast recall and expressive re-rank modules. Human evaluation results show that enlarging the candidate pool with nonparallel corpora improves response quality further.

研究の動機と目的

• リコール・トゥ・リランクパイプラインに依存せずに、大規模または非並列コーパスから直接応答を選択できる効率的な密度型検索モデルの開発。
• 正確ではあるが大規模な候補プールに対して現実的でないクロスエンコーダー・モデルの計算ボトルネックを克服すること。
• 最小限の計算コストで細粒度の文脈-応答相互作用を捉えることができるインタラクション層を導入することで、密度型検索の性能を向上させること。
• 人間がアノテートした評価を用いて大規模な候補プール上で現実的なフルランク設定でのモデルの有効性を検証すること。
• 非並列コーパスを訓練および推論に組み込むことで、応答品質を向上させる利点を検討すること。

提案手法

• 文脈と応答を別々に符号化する二重エンコーダー構造を採用し、大規模な候補プール上で事前計算と効率的なベクトル検索を可能にする。
• 二重エンコーダーの後にインタラクション層を導入し、事前に計算された埋め込みを用いて文脈-応答相互作用および応答-応答相互作用をモデル化することで、一致スコアを精緻化する。
• マルチタスク学習により、二重エンコーダーとインタラクション層を共通の目的関数で同時に最適化する。
• バッチ内対照学習を用いて、事前学習段階で対話文脈と応答候補の意味的空間を一致させる。
• 非並列ドメイン適応的学習により、ペアでない文のコーパス上でBERTエンコーダーを事前学習させ、一般化性能を向上させる。
• 正例の拡張とハードネガティブサンプリングによるデータ拡張により、学習データの質と多様性を向上させる。

Figure 1. The overview of our DR-BERT training, offline index, and online inference. $c$ and $r$ represent conversation context and response, respectively. $V_{c}$ and $V_{r}$ denotes their representations in the semantic space. Note that the offline index may come from the nonparallel corpus and th

実験結果

リサーチクエスチョン

• RQ1 密度型検索モデルは、高い推論効率を維持しながら、クロスエンコーダー基準モデルを上回ることができるか？
• RQ2 二重エンコーダーにインタラクション層を導入することで、計算コストをほとんど増加させずに一致精度を顕著に向上させることができるか？
• RQ3 非並列コーパスを効果的に活用することで、現実的なフルランク設定における応答選択の性能を向上させることができるか？
• RQ4 100万件もの応答からなる候補プールから検索する際、小規模で事前に選択されたセットと比較して、モデルの性能はどの程度異なるか？
• RQ5 バッチ内対照学習やデータ拡張といった特化した学習戦略が、モデルの一般化性能と頑健性をどの程度向上させるか？

主な発見

• DR-BERTは、標準的なリランクベンチマークで最先端の性能を達成し、BERT-FPなどの強力なクロスエンコーダー・モデルをNDCG@3およびNDCG@5の両指標で上回る。
• RRSランク付けテストセットにおいて、DR-BERTはNDCG@3 = 0.710およびNDCG@5 = 0.783を達成し、BERT-FPやSA-BERT BERT-FPを含むすべてのベースラインを上回る。
• インタラクション層は最小限の計算コストしか追加せず、1,000件の候補セットに対してSMNより最大489.68倍速い推論を達成し、より大きな候補プールではColBERTを上回る性能を示す。
• 候補プールのサイズが増加するにつれて、DR-BERTはColBERTよりも顕著に速くなり、優れたスケーラビリティを示す。
• 人間による評価では、非並列コーパスを用いた候補プールの拡張が応答品質を向上させることを確認し、モデルの実世界応用可能性を裏付ける。
• バッチ内対照学習、非並列ドメイン適応、データ拡張の組み合わせにより、すべての評価設定で一貫した性能向上が得られる。

Figure 2. The overview of our designed interaction layer. It contains $N$ transformer decoder layers.