[論文レビュー] Cache-Augmented Inbatch Importance Resampling for Training Recommender Retriever

Jin Chen, Defu Lian+4 more|arXiv (Cornell University)|May 30, 2022

Recommender Systems and Techniques被引用数 4

ひとこと要約

本稿では、再検索用のレコメンデーションリトリーバーの学習を改善するための、キャッシュ拡張型のバッチ内重要度再サンプリング手法ChiIRを提案する。この手法は、クエリ依存の類似度スコアに基づいてネガティブサンプルを動的に再サンプリングし、頻繁に抽出され高類似度のアイテムを動的キャッシュに保持することで、ソフトマックス推定の精度を向上させる。このアプローチにより、学習バイアスが低減され収束が加速され、5つの実世界データセットで最先端の性能を達成し、NDCG@10で最大4.87%の相対的改善を達成した。

ABSTRACT

Recommender retrievers aim to rapidly retrieve a fraction of items from the entire item corpus when a user query requests, with the representative two-tower model trained with the log softmax loss. For efficiently training recommender retrievers on modern hardwares, inbatch sampling, where the items in the mini-batch are shared as negatives to estimate the softmax function, has attained growing interest. However, existing inbatch sampling based strategies just correct the sampling bias of inbatch items with item frequency, being unable to distinguish the user queries within the mini-batch and still incurring significant bias from the softmax. In this paper, we propose a Cache-Augmented Inbatch Importance Resampling (XIR) for training recommender retrievers, which not only offers different negatives to user queries with inbatch items, but also adaptively achieves a more accurate estimation of the softmax distribution. Specifically, XIR resamples items for the given mini-batch training pairs based on certain probabilities, where a cache with more frequently sampled items is adopted to augment the candidate item set, with the purpose of reusing the historical informative samples. XIR enables to sample query-dependent negatives based on inbatch items and to capture dynamic changes of model training, which leads to a better approximation of the softmax and further contributes to better convergence. Finally, we conduct experiments to validate the superior performance of the proposed XIR compared with competitive approaches.

研究の動機と目的

• バッチ内サンプリングにおける顕著なバイアスを是正すること。これは、すべてのクエリを均一に扱い、真のソフトマックス分布を適切に近似できないためである。
• 各ミニバッチ内でクエリ依存のネガティブサンプリングを可能にすることで、モデルの収束を向上させること。これは、全クエリで同じネガティブセットを共有するのではなく、クエリに応じて異なるネガティブサンプルを用いることを意味する。
• ソフトマックス損失からの近似誤差を低減するため、歴史的に有用で高類似度のアイテムのキャッシュを導入し、拡張されたネガティブサンプルとして活用すること。
• 均一にサンプリングされたものや静的で人気度に基づくネガティブサンプルに依存せずに、より高い学習効率と有効性を達成すること。

提案手法

• ChiIRは、クエリ固有の類似度スコアとアイテムの人気度に基づいて、バッチ内アイテムの重要度再サンプリングを実行し、クエリ依存のネガティブセットを生成する。
• 頻繁に抽出されるアイテム（通常は高類似度のハードネガティブ）を、学習エポック全体にわたって保持する動的キャッシュを導入する。
• サンプリング確率は、類似度スコアと人気度に基づくバイアス補正を組み合わせた修正ソフトマックス重みから導出される。
• キャッシュは固定サイズのバッファを用いてリアルタイムで更新され、より高いサンプリング頻度を持つアイテムが優先的に保持される。
• この手法は2ツアーモデルとシームレスに統合可能であり、ディープ特徴ツアーモデルとも互換性があり、複雑なアイテム表現をサポートする。
• バッチ内での適応性と、情報量の多いサンプルの長期記憶を組み合わせることで、完全なソフトマックス分布のより正確な推定を可能にする。

実験結果

リサーチクエスチョン

• RQ1 バッチ内サンプリングを改善することで、真のソフトマックス分布をよりよく近似するクエリ依存のネガティブサンプルを提供できるか？
• RQ2 頻繁に抽出されたアイテムの動的キャッシュを組み込むことで、再検索レコメンデーションモデルの収束性と性能にどのような影響を与えるか？
• RQ3 キャッシュを用いた重要度再サンプリングは、均一サンプリングや人気度ベースのサンプリングと比較して、勾配推定のバイアスをどの程度低減できるか？
• RQ4 本手法は、バッチあたりのサンプル数を減らしても、性能を維持または向上させることができるか？これにより、より効率的な学習が可能になるか？

主な発見

• 深層特徴ツアーモデルを用いたTmallデータセットでは、SSL-Popと比較してNDCG@10で4.87%の相対的改善を達成し、複雑な表現を用いた場合でも強力な有効性を示した。
• バッチ内アイテムのたった1/64を再サンプリングするだけで、フルバッチサンプリングと同等またはそれを上回る性能を達成した。これは、極めて高い学習効率を示している。
• キャッシュ内のアイテム分布は、長尾型の人気度分布とは著しく乖離しており、より情報量が多く類似度の高いアイテムが優遇され、レアアイテムへのバイアスが低減されている。
• キャッシュサイズは性能に直接的な影響を持つ。バッチサイズの0.5倍から4倍に増加させると推薦品質が向上し、特に大きなサイズで最適な改善が観察された。
• 再サンプリング対象のアイテム数が減少するにつれて勾配計算時間も比例して短縮され、計算コストを低減できるという点で、本手法の効率的学習の可能性が裏付けられた。
• 5つの公開データセットにおいて、BIRおよびSSL-Popをすべて上回る性能を示し、精度と収束速度の両面で優位性を確認した。