[論文レビュー] A survey on Adversarial Recommender Systems: from Attack/Defense strategies to Generative Adversarial Networks

Yashar Deldjoo, Tommaso Di Noia+1 more|arXiv (Cornell University)|May 20, 2020

Adversarial Robustness in Machine Learning参考文献 188被引用数 28

ひとこと要約

本サーベイは、協調フィルタリングモデルにおける攻撃および防御戦略、および推薦品質の向上を目的とした生成対抗ネットワーク（GAN）の応用をカバーする、対抗的レコメンデーションシステムに関する包括的な分析を提供する。74件の主要な研究を統合し、レコメンデーションシステムにおける対抗的機械学習の分類法を提示するとともに、セキュリティ、スケーラビリティ、公平性の分野における未解決の課題を特定している。

ABSTRACT

Latent-factor models (LFM) based on collaborative filtering (CF), such as matrix factorization (MF) and deep CF methods, are widely used in modern recommender systems (RS) due to their excellent performance and recommendation accuracy. However, success has been accompanied with a major new arising challenge: many applications of machine learning (ML) are adversarial in nature. In recent years, it has been shown that these methods are vulnerable to adversarial examples, i.e., subtle but non-random perturbations designed to force recommendation models to produce erroneous outputs. The goal of this survey is two-fold: (i) to present recent advances on adversarial machine learning (AML) for the security of RS (i.e., attacking and defense recommendation models), (ii) to show another successful application of AML in generative adversarial networks (GANs) for generative applications, thanks to their ability for learning (high-dimensional) data distributions. In this survey, we provide an exhaustive literature review of 74 articles published in major RS and ML journals and conferences. This review serves as a reference for the RS community, working on the security of RS or on generative models using GANs to improve their quality.

研究の動機と目的

• レコメンデーションシステム（RS）のセキュリティを高めるための、対抗的機械学習（AML）分野における最近の進展を体系的かつ分類的にレビューすること。
• 生成対抗ネットワーク（GAN）の応用が、データ生成を通じて推薦品質を向上させるメカニズムを分析すること。
• 攻撃モデル、スケーラビリティ、精度以外の評価指標といった分野における、対抗的RSにおける未解決の研究課題を同定すること。
• 画像認識分野におけるAML研究とRSの間のギャップを埋めるために、離散的でユーザー・アイテム相互作用データに適応した対抗的技術を適用すること。
• レコメンデーションシステムにおけるコールドスタート問題を軽減するために、GANを用いて現実的なユーザープロファイルを生成する手法の活用を促進すること。

提案手法

• 主要なRSおよび機械学習の国際会議・学術誌から選ばれた74編の査読済み論文を対象とした包括的な文献レビューを実施する。
• 攻撃／防御の目的およびGANベースの生成応用に基づいて、対抗的レコメンデーションシステムの分類法を提唱する。
• 攻撃戦略をその標的（例：精度、多様性、公平性）別に分類し、防御メカニズムをその学習目的別に分類する。
• c+ GANやその他の条件付きGANを用いたアプローチを分析し、補完的なファッションアイテム（例：トップスとボトムスのペアリング）やユーザープロファイルの生成を実現する。
• ミニマックス最適化が対抗的攻撃およびGAN学習の両方において果たす役割を分析し、両者をゼロサムゲームとして定式化する。
• 大規模RSにおける安定性とパフォーマンスの向上を目的とした、最新のGAN変種（例：WGAN、LSGAN、BEGAN）のレビューを行う。

実験結果

リサーチクエスチョン

• RQ1 ユーザー・アイテム相互作用データにおいて、非ランダムな摂動を加えることで、協調フィルタリングモデルを操作可能な、対抗的例はどのように設計できるか？
• RQ2 離散的ユーザープロファイルと連続的画像データの両者に対して、対抗的攻撃を設計する際の主な違いは何か？
• RQ3 対抗的攻撃は、精度以外の指標（多様性、新規性、公平性）にどの程度影響を与えるか？
• RQ4 GANを用いて現実的なユーザープロファイルを効果的に生成することで、レコメンデーションシステムにおけるコールドスタート問題をどのように緩和できるか？
• RQ5 現代の異種混合レコメンデーションモデルに対する、対抗的攻撃に対する最も有望な防御戦略は何か？

主な発見

• 協調フィルタリングモデルに対する対抗的攻撃は、ユーザー・アイテム相互作用データにわずかで非ランダムな摂動を加えることで、推薦精度を著しく低下させる可能性がある。
• 現在の大多数の攻撃は、古典的行列分解モデルでの検証にとどまっているため、深層学習およびグラフベースのモデルにおける対抗的環境下での研究はまだ不十分である。
• c+ GANなどのGANベースのアプローチは、高い適合スコアを達成し、補完的なファッションアイテム（例：トップスとボトムスのペア）を効果的に生成できる。
• 合成ユーザープロファイルの生成にGANを用いることで、コールドスタートおよびウォームスタートのレコメンデーション状況における性能が向上する。
• 特に離散的アイテムのサンプリングに起因する要因から、大規模レコメンデーションシステムにおけるGANの訓練における安定性とスケーラビリティが、依然として重要な課題である。
• RS分野には標準化された脅威モデルが不足しており、攻撃および防御手法の再現可能性と比較可能性が制限されている。