[論文レビュー] Adversarial Privacy Preserving Graph Embedding against Inference Attack

Kaiyang Li, Guangchun Luo+4 more|arXiv (Cornell University)|Aug 30, 2020

Privacy-Preserving Technologies in Data参考文献 46被引用数 4

ひとこと要約

本稿では、分離学習と敵対的訓練を統合することで、グラフ埋め込みにおけるユーザーのプライバシーを保護するエンドツーエンドフレームワークであるAdversarial Privacy Graph Embedding (APGE)を提案する。プライベート属性を構造的表現から分離し、敵対的精練を用いることで、実世界のデータセットにおけるリンク予測およびノード分類タスクで高い有用性を維持しながら、推論攻撃の成功率を顕著に低減する。

ABSTRACT

Recently, the surge in popularity of Internet of Things (IoT), mobile devices, social media, etc. has opened up a large source for graph data. Graph embedding has been proved extremely useful to learn low-dimensional feature representations from graph structured data. These feature representations can be used for a variety of prediction tasks from node classification to link prediction. However, existing graph embedding methods do not consider users' privacy to prevent inference attacks. That is, adversaries can infer users' sensitive information by analyzing node representations learned from graph embedding algorithms. In this paper, we propose Adversarial Privacy Graph Embedding (APGE), a graph adversarial training framework that integrates the disentangling and purging mechanisms to remove users' private information from learned node representations. The proposed method preserves the structural information and utility attributes of a graph while concealing users' private attributes from inference attacks. Extensive experiments on real-world graph datasets demonstrate the superior performance of APGE compared to the state-of-the-arts. Our source code can be found at https://github.com/uJ62JHD/Privacy-Preserving-Social-Network-Embedding.

研究の動機と目的

• 既存のグラフ埋め込み手法が、推論攻撃からユーザーのプライベート属性を保護できないという重要なギャップを解消すること。
• 埋め込みとプライバシーメカニズムを分離せずに、プライバシー保護をグラフ畳み込みネットワーク（GCNs）に直接統合する包括的フレームワークの開発。
• 感受性の高い属性（性別、政治的立場、性的指向など）を敵対者から効果的に隠蔽しつつ、構造的有用性と分類精度を維持すること。
• 事前処理や属性の単純なノイズ付与に依存する従来手法の限界を克服し、潜在空間における細分化された勾配ベースのプライバシー保護を可能にすること。

提案手法

• APGEは、分離モジュールを用いてプライベート属性を構造的表現から分離する分離済み潜在空間を採用する。
• ノード埋め込みからプライベート属性を推定しようとするディスクラミネーターを備えた敵対的訓練パイプラインを用い、生成器がプライバシー保護された表現を生成するよう促進する。
• 潜在空間の次元を拡張する拡張レイヤーを含み、敵対的精練を通じてプライバシーを維持しつつ、有用性を向上させる。
• 再構成損失、分離損失、敵対的損失を統合した損失関数を用いて、エンドツーエンドでモデルを訓練する。
• 勾配更新によりディスクラミネーターの精度を最小化することで、プライベート属性の推論を抑制し、最終的な埋め込みに機密情報が符号化されないようにする。
• 実世界のソーシャルネットワークおよびIoTグラフデータセットに本手法を適用し、推論攻撃の成功率と下流タスクの予測性能を用いてプライバシーや有用性を評価する。

実験結果

リサーチクエスチョン

• RQ1 包括的なグラフ埋め込みフレームワークは、構造的有用性を維持しながら、推論攻撃からプライベート属性を効果的に保護できるか？
• RQ2 プライベート属性と構造的表現の分離は、埋め込み品質の劣化を招かずにプライバシーを向上させるか？
• RQ3 敵対的訓練は、学習済みノード埋め込みにおける感受性の高い属性に対する推論攻撃の成功率をどの程度低減するか？
• RQ4 拡張レイヤーは、グラフ埋め込みにおけるプライバシーと有用性のトレードオフにどのように影響を与えるか？

主な発見

• APGEは、政治的傾向や性別といった感受性の高い属性に対する推論攻撃の成功率を顕著に低減し、最先端のプライバシー保護手法を上回る性能を示した。
• 下流タスクにおいても高い性能を維持し、リンク予測の正確性は非プライベートベースラインと同等であり、優れた有用性の維持が裏付けられた。
• アブレーションスタディの結果、拡張レイヤーを削除しても推論精度はわずかに低下するにとどまり、埋め込み次元が減少してもプライバシー保護が堅牢であることが示された。
• 分離学習と敵対的訓練の両要素が協調してプライバシー保護を強化しており、複数のデータセットで推論攻撃精度が低下していることが実証された。
• 事前処理や属性のみのノイズ付与に依存する従来手法と比較して、APGEは優れたプライバシー-有用性トレードオフを達成した。