[論文レビュー] Adversarial Training Towards Robust Multimedia Recommender System

Jinhui Tang, Xiaoyu Du+4 more|arXiv (Cornell University)|Sep 19, 2018

Stochastic Gradient Optimization Techniques参考文献 46被引用数 8

ひとこと要約

本稿では、画像特徴に対する小さな標的型摂動に耐性を持つように訓練することで、深層学習ベースのマルチメディアレコメンデーションシステムの耐性を向上させる、新しいフレームワークであるAdversarial Multimedia Recommendation (AMR) を提案する。勾配に基づく敵対的攻撃と共同で最適化することで、AMRは画像および製品レコメンデーションタスクにおける耐性と推薦精度の両方を向上させる。

ABSTRACT

With the prevalence of multimedia content on the Web, developing recommender solutions that can effectively leverage the rich signal in multimedia data is in urgent need. Owing to the success of deep neural networks in representation learning, recent advance on multimedia recommendation has largely focused on exploring deep learning methods to improve the recommendation accuracy. To date, however, there has been little effort to investigate the robustness of multimedia representation and its impact on the performance of multimedia recommendation. In this paper, we shed light on the robustness of multimedia recommender system. Using the state-of-the-art recommendation framework and deep image features, we demonstrate that the overall system is not robust, such that a small (but purposeful) perturbation on the input image will severely decrease the recommendation accuracy. This implies the possible weakness of multimedia recommender system in predicting user preference, and more importantly, the potential of improvement by enhancing its robustness. To this end, we propose a novel solution named Adversarial Multimedia Recommendation (AMR), which can lead to a more robust multimedia recommender model by using adversarial learning. The idea is to train the model to defend an adversary, which adds perturbations to the target image with the purpose of decreasing the model's accuracy. We conduct experiments on two representative multimedia recommendation tasks, namely, image recommendation and visually-aware product recommendation. Extensive results verify the positive effect of adversarial learning and demonstrate the effectiveness of our AMR method. Source codes are available in https://github.com/duxy-me/AMR.

研究の動機と目的

• 深層マルチメディアレコメンデーションシステムが視覚的特徴に対する敵対的摂動に対してどれほど脆弱であるかを調査すること。
• 人間が感知できない小さな画像摂動が、VBPRのような最先端のモデルにおいて推薦性能を著しく低下させることを示すこと。
• 推薦精度を損なうことなく耐性を向上させる汎用的な手法を開発すること。
• 一般の深層学習からの敵対的学習を、豊富な視覚的信号を持つマルチメディアレコメンデーションの文脈に拡張すること。
• 視覚的入力に対する敵対的訓練を通じて、任意のコンテンツベースのレコメンデーションシステムを改善するための青写真を提供すること。

提案手法

• Fast Gradient Sign Method (FGSM) を用いて入力画像に摂動を生成することで、敵対的攻撃を適用し、モデルの予測誤差を最大化する。
• 推薦損失を最小化すると同時に、これらの敵対的例に対して防御するよう、モデルを共同で最適化する。
• 敵対的学習を Visual Bayesian Personalized Ranking (VBPR) モデルに統合し、敵対的例を含むように損失関数を変更する。
• 潜在的埋め込みではなく、深層画像特徴（例：ResNet-50）に直接摂動を適用することで、入力レベルの耐性に焦点を当てる。
• レコメンデーションモデルと敵対的攻撃の両方を交互に更新することで、耐性を向上させるミニマックスゲームをシミュレートする。
• この手法は汎用的であり、損失関数を適切に変更することで、他のポイントワイズまたはペairワイズレコメンデーションモデルに対しても適用可能である。

実験結果

リサーチクエスチョン

• RQ1 最先端のマルチメディアレコメンデーションシステムは、画像入力に対する小さな標的型摂動に対してどれほど脆弱であるか？
• RQ2 敵対的訓練は、推薦精度を低下させることなく、深層マルチメディアレコメンデーションシステムの耐性を向上させることができるか？
• RQ3 画像特徴に対する敵対的学習は、マルチメディアレコメンデーションにおけるより安定的で汎用性の高い表現をもたらすか？
• RQ4 提案されたAMRフレームワークは、標準的な訓練法および推薦分野における既存の敵対的手法と比較してどのように異なるか？
• RQ5 敵対的訓練のパラダイムは、豊富な視覚的特徴に依存するコンテンツベースのレコメンデーションシステムに効果的に拡張可能か？

主な発見

• 人間が感知できない小さな敵対的摂動（ε = 0.007）は、VBPRの順位付け性能を著しく低下させ、陽性画像が陰性画像よりも低い順位にランク付けされる場合がある。
• 提案されたAMRフレームワークは耐性を顕著に向上させ、敵対的攻撃下でも高い推薦精度を維持する。
• Pinterestおよび製品レコメンデーションデータセットの2つの実世界データセットを用いた広範な実験により、AMRは標準VBPRおよび他のベースライン手法よりも精度と耐性の両面で優れていることが示された。
• 敵対的訓練プロセスは、さまざまな評価指標で一貫した性能向上が見られるため、より安定的で汎用性の高い表現を生み出すことが裏付けられた。
• この手法はさまざまなレコメンデーションモデルに有効であり、その汎用性と多様なコンテンツベースのレコメンデーションフレームワークへの適応可能性を示している。
• ソースコードは https://github.com/duxy-me/AMR で公開されており、再現性および敵対的マルチメディアレコメンデーション分野におけるさらなる研究を可能にしている。