[論文レビュー] Candidate Generation with Binary Codes for Large-Scale Top-N Recommendation

Wang-Cheng Kang, Julian McAuley|arXiv (Cornell University)|Sep 12, 2019

Recommender Systems and Techniques参考文献 40被引用数 8

ひとこと要約

本論文は、大規模なTop-N推薦における効率的で高精度な推論を実現するための新規フレームワークCIGARを提案する。CIGARは、高速なハッシュベース検索を可能にする学習済みバイナリコードを用いた候補生成と、高精度な再順序付けのための実数値ランキングモデルを統合する。バイナリ埋め込みの高速なハッシュ検索と、細かい再順序付けの両方を同時に最適化することで、性能を損なわず、順序的に高速な推論が実現され、スケーラビリティが著しく向上する。

ABSTRACT

Generating the Top-N recommendations from a large corpus is computationally expensive to perform at scale. Candidate generation and re-ranking based approaches are often adopted in industrial settings to alleviate efficiency problems. However it remains to be fully studied how well such schemes approximate complete rankings (or how many candidates are required to achieve a good approximation), or to develop systematic approaches to generate high-quality candidates efficiently. In this paper, we seek to investigate these questions via proposing a candidate generation and re-ranking based framework (CIGAR), which first learns a preference-preserving binary embedding for building a hash table to retrieve candidates, and then learns to re-rank the candidates using real-valued ranking models with a candidate-oriented objective. We perform a comprehensive study on several large-scale real-world datasets consisting of millions of users/items and hundreds of millions of interactions. Our results show that CIGAR significantly boosts the Top-N accuracy against state-of-the-art recommendation models, while reducing the query time by orders of magnitude. We hope that this work could draw more attention to the candidate generation problem in recommender systems.

研究の動機と目的

• 大規模なTop-N推薦におけるスケーラビリティと効率性のトレードオフを解消するため、候補生成と再順序付けを分離することを目的とする。
• ユーザの好みを保持するバイナリコードを学習することで、精度を損なわず、候補生成の効率を向上させることを目的とする。
• 既存の高精度ランキングモデルをリアルタイムシステムで効率的に利用できる統合フレームワークの開発を目的とする。
• 候補指向のサンプリングと再順序付けが、全体の推薦品質をどのように向上させるかを調査することを目的とする。
• 適切な再順序付けと組み合わせた場合、バイナリコード学習が実数値モデルの性能を同等または上回ることを実証することを目的とする。

提案手法

• CIGARは2段階のパイプラインを採用する：まず、HashRecを用いてバイナリコードを学習し、候補検索のための高速なハッシュテーブル検索を可能にする。
• HashRecは、暗黙のフィードバックからバイナリ埋め込みを学習する微分可能ハッシング手法であり、ハミング空間上でもユーザとアイテムの好みの関係を保持する。
• 学習されたバイナリコードを用いて、近似最大内積探索により候補を取得し、定数時間またはサブ線形時間のクエリ時間で処理を実現する。
• 次に、候補に依存するサンプリング戦略を用いて、実数値ランキングモデルを訓練し、取得した候補を再順序付けする。
• 再順序付けモデルは重み付きサンプリングを用い、トレーニング中に関連性の高い候補を優先することで、最終的な推薦目的との整合性を高める。
• このフレームワーク全体はエンドツーエンドで訓練され、バイナリコードと再順序付けモデルが最終的なTop-N精度を最適化するように同時に最適化される。

実験結果

リサーチクエスチョン

• RQ1 学習済みバイナリコードは、ヒューリスティックまたはルールベースの候補生成を代替できるか、かつ高い精度を維持できるか？
• RQ2 標準的なサンプリングと比較して、再順序付け段階での候補指向のサンプリングは、最終的な推薦品質をどの程度向上させるか？
• RQ3 バイナリコードベースの検索は、ランキング性能を損なわず、どの程度クエリ時間を短縮できるか？
• RQ4 バイナリコード検索と実数値再順序付けを組み合わせることで、純粋なバイナリモデルや純粋な実数値モデルを上回る精度と効率性を達成できるか？
• RQ5 提案されたフレームワークを用いた場合、近似的に最適なTop-N性能を達成するために、どの程度の候補数が必要か？

主な発見

• CIGARは、Movielens、Pinterest、Flipkartを含む複数の大規模データセットで、SOTAのTop-N推薦精度を達成した。
• フルランキングベースラインと比較して、クエリ時間を数個のオーダー短縮し、リアルタイム推論を可能にした。
• 再順序付け段階で候補に依存するサンプリングを用いることで、標準的なサンプリングと比較して、正規化逆順位加重（NDCG）で最大15%の性能向上が得られた。
• HashRecを用いたバイナリコード学習により、コード長が短い場合でも、最小限の精度損失で効率的な検索が可能となった。
• バイナリコード検索と実数値再順序付けの組み合わせは、精度と効率の両面で、純粋なバイナリモデルおよび純粋な実数値モデルを上回った。
• 実験結果から、バイナリコードを用いて100候補程度を取得するだけで、ほぼ最適な性能が達成可能であることが示された。これは、極めて高い検索効率を示している。