[論文レビュー] Sampling-Decomposable Generative Adversarial Recommender

Binbin Jin, Defu Lian+5 more|arXiv (Cornell University)|Nov 2, 2020

Recommender Systems and Techniques参考文献 23被引用数 14

ひとこと要約

本稿では、閉形式最適化と自己正規化重要度サンプリングを用いて分布の乖離を是正する、サンプリング分解可能生成器を備えた新規フレームワークであるSampling-Decomposable Generative Adversarial Recommender (SD-GAR) を提案する。SD-GAR は、訓練効率と推薦性能の両方を向上させ、IRGAN よりも平均で12.4%高い性能を達成し、SOTA ベースラインより10%高い性能を示す。また、ディスクライマの訓練は最大20倍速くなる。

ABSTRACT

Recommendation techniques are important approaches for alleviating information overload. Being often trained on implicit user feedback, many recommenders suffer from the sparsity challenge due to the lack of explicitly negative samples. The GAN-style recommenders (i.e., IRGAN) addresses the challenge by learning a generator and a discriminator adversarially, such that the generator produces increasingly difficult samples for the discriminator to accelerate optimizing the discrimination objective. However, producing samples from the generator is very time-consuming, and our empirical study shows that the discriminator performs poor in top-k item recommendation. To this end, a theoretical analysis is made for the GAN-style algorithms, showing that the generator of limit capacity is diverged from the optimal generator. This may interpret the limitation of discriminator's performance. Based on these findings, we propose a Sampling-Decomposable Generative Adversarial Recommender (SD-GAR). In the framework, the divergence between some generator and the optimum is compensated by self-normalized importance sampling; the efficiency of sample generation is improved with a sampling-decomposable generator, such that each sample can be generated in O(1) with the Vose-Alias method. Interestingly, due to decomposability of sampling, the generator can be optimized with the closed-form solutions in an alternating manner, being different from policy gradient in the GAN-style algorithms. We extensively evaluate the proposed algorithm with five real-world recommendation datasets. The results show that SD-GAR outperforms IRGAN by 12.4% and the SOTA recommender by 10% on average. Moreover, discriminator training can be 20x faster on the dataset with more than 120K items.

研究の動機と目的

• GAN スタイルの推薦モデルにおいて、トップ-k推薦の根幹をなすディスクライマの性能が低い問題に取り組む。
• 巨大なサンプル空間のため、GAN ベースの推薦モデルにおけるサンプル生成の計算コストが高くなる問題を克服する。
• 理論的分析により、能力が制限された生成器は最適分布から乖離することを示し、これによりディスクライマの学習が損なわれる。
• 自己正規化重要度サンプリングを用いて、生成器の分布乖離を補償することで、推薦精度を向上させる。
• サンプリング分解可能性を活用して、ポリシー勾配の非効率性を回避する閉形式最適化による生成器の効率的最適化を実現する。

提案手法

• Vose-Alias 法を用いて O(1) のサンプリングが可能な、サンプリング分解可能生成器を提案する。
• 自己正規化重要度サンプリングを用いて、能力が制限された生成器と最適生成器との間の分布乖離を是正する。
• GAN スタイルの訓練においてポリシー勾配を必要としない、交互に閉形式解を用いた生成器の最適化を行う。
• 生成器を動的負例サンプラーとして統合し、予測スコアがより高いアイテムに高い重みを割り当てる。
• 生成器が一様分布に退化した場合に、ディスクライマが DNS や SA などの既存モデルを自然に統合できるようにフレームワークを設計する。
• サンプリングと生成器アーキテクチャを分離することで、各イテレーションにおける効率的更新を可能にし、スケーラブルな訓練を実現する。

実験結果

リサーチクエスチョン

• RQ1 GAN スタイルの推薦モデルにおいて、推論の主要モデルであるディスクライマが、なぜ性能が低いのか？
• RQ2 能力が制限された生成器の分布乖離が、ディスクライマの推薦性能にどのように影響を与えるのか？
• RQ3 サンプリング分解可能性が、生成器の閉形式最適化を可能にし、訓練の効率性と安定性を向上させうるか？
• RQ4 強化学習に依存せずに、自己正規化重要度サンプリングが生成器の分布誤差を効果的に補償できるか？
• RQ5 提案フレームワークは、大規模データセットにおいて、推薦精度と訓練速度をどの程度向上させるか？

主な発見

• SD-GAR は、5つの実世界データセットにおいて、NDCG で平均して IRGAN よりも12.4%高い性能を達成した。
• SD-GAR は、平均して現在の最先端（SOTA）推薦モデルよりも10%高い性能を示した。
• 12万件以上のアイテムを含むデータセットにおいて、SD-GAR のディスクライマ訓練は IRGAN より最大20倍速くなった。
• O(1) のサンプリングと閉形式最適化のおかげで、SD-GAR の生成器訓練は IRGAN より5倍速くなった。
• SD-GAR における生成器およびディスクライマの実行時間は、アイテム数に比例して線形に増加するが、IRGAN の増加率は著しく急激だった。
• 生成器が一様分布に退化した場合、ディスクライマは自然に DNS や SA などのモデルを統合することができ、フレームワークの後方互換性が裏付けられた。