[論文レビュー] COIL: Revisit Exact Lexical Match in Information Retrieval with Contextualized Inverted List

Luyu Gao, Zhuyun Dai+1 more|arXiv (Cornell University)|Apr 15, 2021

Topic Modeling参考文献 35被引用数 9

ひとこと要約

COILは、情報検索における従来の語彙的マッチングを、文脈的に豊かにされたトークン表現間の類似度に置き換える文脈的逆リストアーキテクチャを提案する。これにより、アドホック検索ベンチマークで最先端の性能を達成するとともに、低レイテンシを維持する。これは、古典的語彙的リtriever や現代的な密度的リtriever（DPR や ColBERT）を上回る。

ABSTRACT

Classical information retrieval systems such as BM25 rely on exact lexical match and carry out search efficiently with inverted list index. Recent neural IR models shifts towards soft semantic matching all query document terms, but they lose the computation efficiency of exact match systems. This paper presents COIL, a contextualized exact match retrieval architecture that brings semantic lexical matching. COIL scoring is based on overlapping query document tokens' contextualized representations. The new architecture stores contextualized token representations in inverted lists, bringing together the efficiency of exact match and the representation power of deep language models. Our experimental results show COIL outperforms classical lexical retrievers and state-of-the-art deep LM retrievers with similar or smaller latency.

研究の動機と目的

• 従来の語彙的IRシステムにおける意味的不一致を解消するため、正確一致検索に文脈的表現を組み込むこと。
• 逆リストインデキシングの効率性を維持しつつ、文脈的ベクトルを用いた意味的認識可能なマッチングを可能にすること。
• 正確な語彙的マッチングに文脈的表現を適用することで、従来のモデルおよび最新の密度的リtrieバーモデルを上回ることを示すこと。
• 文脈的正確一致が、ヒューリスティックスコアリングやソフトマッチングに比べ、複雑なマッチングパターンをより効果的に捉えられるかどうかを検討すること。

提案手法

• 事前学習済み言語モデルを用いて文書をオフラインで処理し、文脈的に豊かにされたトークン表現を生成する。
• 各エントリが表面的なトークンをその文書内での対応する文脈的ベクトル表現にマッピングする逆リストを構築する。
• 検索時、クエリトークンを文脈的ベクトルに埋め込み、逆リスト内のドキュメントベクトルとの間でベクトル類似度を用いてマッチングする。
• 重複するクエリおよびドキュメントトークン表現間のコサイン類似度を用いてスコアを計算する。
• フルコンテキスト（CLS）およびトークンレベル（トークン固有）の表現をサポートし、柔軟なスコアリング戦略を可能にする。
• 量子化や近似検索などの最適化技術と互換性があり、低レイテンシのデプロイを可能にする。

実験結果

リサーチクエスチョン

• RQ1 文脈的表現を用いることで、効率性を損なわずに正確な語彙的マッチングをIRで改善できるか？
• RQ2 文脈的ベクトルを用いた正確なトークンマッチングを実施するシステムが、古典的およびニューラル密度的リtrieバーモデルを上回れるか？
• RQ3 従来の語彙的マッチングと比較して、文脈的正確マッチングは多義語や類義語をどのように処理するか？
• RQ4 このフレームワークにおいて、表現次元数、レイテンシ、検索パフォーマンスの間のトレードオフは何か？

主な発見

• COILは、MS MARCOおよびTREC DL 2019ベンチマークの両方でBM25や他の古典的語彙的リtrieバーよりも高いMRRおよびリCALLを達成し、性能を上回った。
• 128次元のトークン表現を用いたCOIL-tokは、DL2019で768次元のベースラインを上回るMRRを達成し、低次元が正則化効果をもたらす可能性を示唆した。
• ColBERT や DPR ですら近似検索や量子化を用いない状態でも、COILはそれらよりも低い検索レイテンシを達成し、BM25よりも速く、かつより正確であった。
• COILは、『cabinet』 や 『pass』 のような多義語を、文脈に適切な一致に対して高い類似度スコアを割り当てることで、優れた意味的解釈を示した。
• CLSおよびトークンレベルの両表現を備えた完全なCOILシステムは、すべてのトークン対すべてのトークンマッチングを必要とするColBERTのようなモデルと同等またはそれ以上の性能を示したが、正確一致を採用している。
• COILの成功は、正確なマッチングに文脈的ベクトルを用いることで、従来はソフトなすべて対すべてのマッチングによってのみ達成可能だった複雑なマッチングパターンを捉えることができることを示している。