Skip to main content
QUICK REVIEW

[論文レビュー] PPGenCDR: A Stable and Robust Framework for Privacy-Preserving Cross-Domain Recommendation

Xinting Liao, Weiming Liu|arXiv (Cornell University)|May 11, 2023
Privacy-Preserving Technologies in Data被引用数 5
ひとこと要約

PPGenCDR は、プライバシー保護型クロスドメインレコメンデーションのための新規フレームワークであり、安定した RDP 正則化付き GAN ベースのジェネレータを用いて、ソースドメインのユーザ-アイテム相互作用をモデル化・プライバシー化する。一方、頑健なレコメンデーションモジュールは、摂動を加えた知識を用いてターゲットドメインのパフォーマンスを向上させる。Douban では前人最高の HR@5 に 13.03% 以上、Amazon では 6.05% 以上の向上を達成し、強固なプライバシー保証を確保している。

ABSTRACT

Privacy-preserving cross-domain recommendation (PPCDR) refers to preserving the privacy of users when transferring the knowledge from source domain to target domain for better performance, which is vital for the long-term development of recommender systems. Existing work on cross-domain recommendation (CDR) reaches advanced and satisfying recommendation performance, but mostly neglects preserving privacy. To fill this gap, we propose a privacy-preserving generative cross-domain recommendation (PPGenCDR) framework for PPCDR. PPGenCDR includes two main modules, i.e., stable privacy-preserving generator module, and robust cross-domain recommendation module. Specifically, the former isolates data from different domains with a generative adversarial network (GAN) based model, which stably estimates the distribution of private data in the source domain with Renyi differential privacy (RDP) technique. Then the latter aims to robustly leverage the perturbed but effective knowledge from the source domain with the raw data in target domain to improve recommendation performance. Three key modules, i.e., (1) selective privacy preserver, (2) GAN stabilizer, and (3) robustness conductor, guarantee the cost-effective trade-off between utility and privacy, the stability of GAN when using RDP, and the robustness of leveraging transferable knowledge accordingly. The extensive empirical studies on Douban and Amazon datasets demonstrate that PPGenCDR significantly outperforms the state-of-the-art recommendation models while preserving privacy.

研究の動機と目的

  • 既存のクロスドメインレコメンデーションシステムが、知識移行の過程でユーザープライバシーを無視するという重要なギャップに対処すること。
  • ソースドメインからターゲットドメインに相互作用データを移行する際、ユーザープライバシーを保護する安定的で頑健なフレームワークを開発すること。
  • クロスドメイン環境において、プライバシー保護とレコメンデーションの有用性の間で効果的なトレードオフを達成すること。
  • トレーニング中に Rényi 差分的プライバシー(RDP)制約下で GAN モデルの安定性を確保すること。
  • ソースドメインから得た摂動を加えたプライバシー保護型データを活用する際、ターゲットドメインのレコメンデーションモデルの頑健性を向上させること。

提案手法

  • 安定したプライバシー保護型ジェネレータモジュールは、Rényi 差分的プライバシー(RDP)を用いた GAN アーキテクチャを採用し、ソースドメインにおけるプライベートなユーザ-アイテム相互作用の分布をモデル化・プライバシー化する。
  • 選択的プライバシー保護器(SPP)は、生データに直接アクセスするモデルレイヤーにのみ RDP を適用することで、ノイズ注入を最小限に抑え、有用性を保持しながら理論的プライバシー保証を確保する。
  • GAN スタビライザー(GS)は制御理論にインspiredされた正則化を導入し、RDP 摂動下でもディスクラミネーターの目的関数の安定性を向上させ、GAN の収束性を改善する。
  • 頑健性コンductor(RC)は柔軟なプラグインとして機能し、ミニバッチ内の冗長な表現を分離することで、摂動を加えたソースデータを用いる際のモデルの頑健性を向上させる。
  • SPP、GS、RC の3つのコアモジュールを統合した一貫したパイプラインを構築し、プライバシー、安定性、パフォーマンスのバランスを図る。
  • 後処理とチェーンルールを活用して、全体のプライバシー予算を形式的に保証し、エンド・ツー・エンドの差分的プライバシー準拠を確保する。

実験結果

リサーチクエスチョン

  • RQ1どのようにしてクロスドメインレコメンデーションにおいて、推薦パフォーマンスを著しく低下させることなく、ユーザープライバシーを効果的に保護できるか?
  • RQ2モデル最適化中に勾配に Rényi 差分的プライバシー(RDP)を適用する際、GAN のトレーニングをどのように安定化できるか?
  • RQ3頑健なレコメンデーションモジュールは、ソースドメインから得た摂動を加えたプライバシー保護型データをどの程度適応し、活用できるか?
  • RQ4クロスドメイン環境において、プライバシー予算、モデルの安定性、レコメンデーションの有用性の最適なトレードオフは何か?
  • RQ5提案されたフレームワークは、プライバシーとパフォーマンスの両面で、最先端のプライバシー保護型レコメンデーションモデルと比較してどのように差をつけるか?

主な発見

  • PPGenCDR は、Douban データセットでは PriCDR モデルを HR@5 で最低 13.03% 以上、Amazon データセットでは 6.05% 以上上回る。
  • 選択的プライバシー保護器(SPP)は、生データにアクセスするレイヤーにのみ RDP を適用することで、ノイズ注入を削減し、有用性を向上させつつも強固なプライバシー保証を維持する。
  • GAN スタビライザー(GS)は、RDP 摂動によって引き起こされるトレーニングの不安定性を効果的に緩和し、ジェネレータとディスクラミネーターの安定的収束を実現した。
  • 頑健性コンductor(RC)はターゲットドメインでのパフォーマンスを顕著に向上させ、アブレーションスタディでは GS を除いた場合よりも RC を除いた場合のパフォーマンス低下が著しく大きいことが示された。
  • PPGenCDR は、すべてのテストされたスパarsityレベルで優れたパフォーマンスを維持しており、ソースドメインにおけるデータ不足に対しても頑健であることが示された。
  • ハイパーパramータ分析では、λ_A=1、τ=2、λ_R=0.5 の組み合わせで最適なパフォーマンスが得られ、広い範囲の値において安定した性能を示した。

より良い研究を、今すぐ始めましょう

論文の読解から最終レビューまで、研究時間を劇的に削減しましょう。

クレジットカード登録不要

このレビューはAIが作成し、人間の編集者が確認しました。