[論文レビュー] UnifieR: A Unified Retriever for Large-Scale Retrieval

Tao Shen, Xiubo Geng+5 more|arXiv (Cornell University)|May 23, 2022

Topic Modeling被引用数 7

ひとこと要約

UnifieRは、二重整合性学習を用いて、1つのモデル内で密ベクトル表現と語彙ベース表現を統合的に学習する統一型ニューラルリtrieverを提案する。これにより性能が向上し、パassageリtrievalおよびBEIRベンチマークで最先端の結果を達成する。新規のユニットリtrieバル方式により、強力なベースラインを上回り、リtrieバル品質が最大2.0%向上する。

ABSTRACT

Large-scale retrieval is to recall relevant documents from a huge collection given a query. It relies on representation learning to embed documents and queries into a common semantic encoding space. According to the encoding space, recent retrieval methods based on pre-trained language models (PLM) can be coarsely categorized into either dense-vector or lexicon-based paradigms. These two paradigms unveil the PLMs' representation capability in different granularities, i.e., global sequence-level compression and local word-level contexts, respectively. Inspired by their complementary global-local contextualization and distinct representing views, we propose a new learning framework, UnifieR which unifies dense-vector and lexicon-based retrieval in one model with a dual-representing capability. Experiments on passage retrieval benchmarks verify its effectiveness in both paradigms. A uni-retrieval scheme is further presented with even better retrieval quality. We lastly evaluate the model on BEIR benchmark to verify its transferability.

研究の動機と目的

• 分離された密ベクトルおよび語彙ベースリtrieバル手法の限界を解消するため、それらを1つの整合的なフレームワークに統合すること。
• 事前学習された言語モデルの補完的であるグローバルおよびローカルな文脈特徴を活用し、リtrieバル性能を向上させること。
• 二重表現ビュー間の整合性と一般化を向上させる自己学習戦略を開発すること。
• インverted indexingと密ベクトルスコアリングの両方と互換性のある統一エンコーダーを用いて、大規模リtrieバルを効率的に行えるようにすること。
• BEIR（12のデータセットを含む）を含む多様なリtrieバルベンチマークにおいて、汎用性と頑健性を示すこと。

提案手法

• 共有バックボーンを備えた二重表現ニューラルエンコーダーを設計し、密ベクトル学習用に局所強化型シーケンス表現モジュールと、グローバルに注意を向ける語彙重み付けモジュールを統合する。
• 二重整合性学習を実装：自己対抗的ハードネガティブマイニングを伴う対照的目的関数と、二重ビュー間でのリストワイズ自己正則化。
• クエリ側のゲーティング機構を導入し、クエリの意味的特徴に基づいて自動的に密表現モードと語彙モードの間を動的に選択することで、インデックスのオーバーヘッドをゼロに保ったまま効率的な推論を可能にする。
• ユニットリtrieバル方式を提案：まず語彙ベースリtrieバルで候補を取得し、その後、候補制約下で密ベクトルを用いて再スコアリングする。
• UnifieRから得たハードネガティブ例を学習した再スコアラーを用いて知識蒸留を行い、継続的トレーニング段階で知識蒸留により性能を向上させる。
• 密表現とスパース表現の両方を保存することで、既存のリtrieバルインfraとモデルの互換性を確保するとともに、低遅延推論を維持する。

Figure 2. The encoder in Unifie r .

実験結果

リサーチクエスチョン

• RQ1 統一型リtrieバは、密ベクトルと語彙ベースリtrieバルのパラダイムを効果的に統合し、分離された手法を上回る性能を発揮できるか？
• RQ2 二重整合性学習は、異なる表現ビュー間で一般化性と頑健性をどのように向上させられるか？
• RQ3 提案されたユニットリtrieバル方式は、両方のパラダイムを活用することで、どれほどリtrieバル品質を向上させられるか？
• RQ4 クエリ側ゲーティング機構は、推論コストを増加させることなく、どのようにリtrieバル性能を向上させるか？
• RQ5 UnifieRは、BEIR（12のデータセットを含む）を含む多様なベンチマークで汎用性を示せるか？

主な発見

• UnifieRはBEIRベンチマークで強力なベースラインを上回り、12の多様なデータセットにおいて2.0%以上の向上を達成し、優れた汎用性を示した。
• ユニットリtrieバル方式により、強力な競合他手法を上回り、最大2.0%のリtrieバル品質向上が得られ、複数のベンチマークで一貫した向上が確認された。
• クエリ側ゲーティング機構により、MRR@10は0.9%、R@100は0.4%向上し、追加の推論コストなしに性能が向上した。
• 再スコアラーから得た知識蒸留を経て、UnifieRはMRRおよびR@100において、最も強力な競合他手法を1%以上上回った。
• 事例研究では、UnifieRの二重表現が補完的である関連性の視点を捉えていることが示され、密表現モデルは意味理解に優れ、語彙モデルはレア語や曖昧語の処理に優れていることが分かった。
• PLM互換性やインデックスインfraの制限があるものの、UnifieRは従来の語彙ベースリtrieバルと同等の低遅延推論を維持した。

Figure 3. The two-stage self-learning strategy for Unifie r .