[論文レビュー] Adversarial Machine Learning in Recommender Systems: State of the art and Challenges.

Yashar Deldjoo, Tommaso Di Noia+1 more|arXiv (Cornell University)|May 20, 2020

Adversarial Robustness in Machine Learning被引用数 4

ひとこと要約

本調査は、推薦システム（RS）における敵対的機械学習（AML）をレビューし、潜在的要因モデル（LFM）である行列分解を含む攻撃と防御を分析している。60件の主要な研究をレビューした結果、AMLは敵対的例によるRSの耐性低下という側面と、生成対抗ネットワーク（GAN）を用いたモデル精度の向上という二面性を持つことが明らかになった。

ABSTRACT

Latent-factor models (LFM) based on collaborative filtering (CF), such as matrix factorization (MF) and deep CF methods, are widely used in modern recommender systems (RS) due to their excellent performance and recommendation accuracy. Notwithstanding their great success, in recent years, it has been shown that these methods are vulnerable to adversarial examples, i.e., subtle but non-random perturbations designed to force recommendation models to produce erroneous outputs. The main reason for this behavior is that user interaction data used for training of LFM can be contaminated by malicious activities or users' misoperation that can induce an unpredictable amount of natural noise and harm recommendation outcomes. On the other side, it has been shown that these systems, conceived originally to attack machine learning applications, can be successfully adopted to strengthen their robustness against attacks as well as to train more precise recommendation engines. In this respect, the goal of this survey is two-fold: (i) to present recent advances on AML-RS for the security of RS (i.e., attacking and defense recommendation models), (ii) to show another successful application of AML in generative adversarial networks (GANs), which use the core concept of learning in AML (i.e., the min-max game) for generative applications. In this survey, we provide an exhaustive literature review of 60 articles published in major RS and ML journals and conferences. This review serves as a reference for the RS community, working on the security of RS and recommendation models leveraging generative models to improve their quality.

研究の動機と目的

• 推薦システム（RS）に対する標的攻撃から守るための敵対的機械学習分野における最新の進展を分析すること。
• 微細でランダムでない摂動である敵対的例が、潜在的要因モデル（LFM）における推薦精度をどのように低下させるかを調査すること。
• 敵対的訓練技術を用いて推薦モデルの耐性を向上させることの可能性を検討すること。
• 生成対抗ネットワーク（GAN）を推薦システム（RS）に応用し、AMLのミニマックスゲームフレームワークを活用して推薦品質を向上させること。
• トップクラスのRSおよび機械学習会議・ジャーナルから選ばれた60件の研究を包括的にレビューし、RSのセキュリティおよび生成モデル分野の研究者にとっての参考資料を提供すること。

提案手法

• 主なRSおよび機械学習会議・ジャーナル（例：KDD、SIGIR、NeurIPS、ACM TOIS）から60件の査読済み論文を体系的にレビューした。
• 潜在的要因モデル（LFM）に対する敵対的攻撃、特に行列分解（MF）およびディープコラボラティブフィルタリング（CF）手法の分類と分析を行った。
• ユーザ-アイテム相互作用データにおける摂動に対する耐性を高めるために、敵対的訓練を用いた防御メカニズムを検討した。
• AMLのミニマックスゲームフレームワークを活用し、高品質な推薦を生成するための生成対抗ネットワーク（GAN）のRSへの応用を調査した。
• 攻撃の目的（例：汚染、回避）に基づいて攻撃を分類し、敵対的例検出およびロバスト最適化に基づく防御戦略を分類した。
• 悪意あるユーザーまたは誤操作によるデータ汚染が、LFMの性能を損なうノイズを引き起こす役割を評価した。

実験結果

リサーチクエスチョン

• RQ1 敵対的例は、推薦システムにおける潜在的要因モデル（LFM）の性能をどのように損なうのか？
• RQ2 特にノイズや悪意あるユーザ相互作用が存在する状況下で、コラボラティブフィルタリングベースのRSにおける主な脆弱性の源は何か？
• RQ3 敵対的訓練は、標的攻撃に対して推薦モデルの耐性をどの程度向上させることができるか？
• RQ4 生成対抗ネットワーク（GAN）は、敵対的学習の原則を活用して推薦品質をどのように向上させることができるか？
• RQ5 敵対的機械学習を用いて推薦システムをセキュアにし、改善するにあたり、主な課題と未解決の研究方向性は何か？

主な発見

• 行列分解やディープCF手法を含む潜在的要因モデル（LFM）は、悪意あるアクターによるユーザ相互作用データの汚染や運用上のノイズの影響を受けて、敵対的例に対して脆弱である。
• RSにおける敵対的攻撃は、汚染攻撃と回避攻撃に大別され、両者とも微細な入力摂動に対するモデルの感受性を悪用している。
• 敵対的訓練技術は、モデル最適化の過程で攻撃シナリオをシミュレートすることで、モデルの耐性を顕著に向上させる。
• 生成対抗ネットワーク（GAN）は、敵対的機械学習のミニマックスゲームフレームワークを効果的に応用し、高品質な推薦を生成した。
• 敵対的学習のRSへの統合は、セキュリティ強化に加え、より優れた表現学習による推薦精度の向上にも寄与する。
• 60件の研究を対象とした包括的な文献レビューにより、AMLがRS分野で注目を集めていることが確認され、セキュリティ強化と生成モデルの強化の両方に注力が集まっている。