[論文レビュー] A Comprehensive Survey on Trustworthy Graph Neural Networks: Privacy, Robustness, Fairness, and Explainability

Enyan Dai, Tianxiang Zhao+6 more|arXiv (Cornell University)|Apr 18, 2022

Adversarial Robustness in Machine Learning被引用数 67

ひとこと要約

プライバシー、頑健性、公平性、説明可能性にわたる信頼性のあるGNNを包括的に網羅する調査。分類体系、フレームワーク、将来の方向性を提供する。

ABSTRACT

Graph Neural Networks (GNNs) have made rapid developments in the recent years. Due to their great ability in modeling graph-structured data, GNNs are vastly used in various applications, including high-stakes scenarios such as financial analysis, traffic predictions, and drug discovery. Despite their great potential in benefiting humans in the real world, recent study shows that GNNs can leak private information, are vulnerable to adversarial attacks, can inherit and magnify societal bias from training data and lack interpretability, which have risk of causing unintentional harm to the users and society. For example, existing works demonstrate that attackers can fool the GNNs to give the outcome they desire with unnoticeable perturbation on training graph. GNNs trained on social networks may embed the discrimination in their decision process, strengthening the undesirable societal bias. Consequently, trustworthy GNNs in various aspects are emerging to prevent the harm from GNN models and increase the users' trust in GNNs. In this paper, we give a comprehensive survey of GNNs in the computational aspects of privacy, robustness, fairness, and explainability. For each aspect, we give the taxonomy of the related methods and formulate the general frameworks for the multiple categories of trustworthy GNNs. We also discuss the future research directions of each aspect and connections between these aspects to help achieve trustworthiness.

研究の動機と目的

• GNNsに対するプライバシー攻撃と防御の包括的な分類体系を提示する。
• 頑健性と拡張可能な攻撃・防御機構を含む調査、スケーラブルな攻撃と自己説明型GNNを含む。
• グラフ構造データにおける公平性の問題を分析し、公平なGNNモデルを提案する。
• GNNの説明可能性アプローチと他の信頼性要素との相互作用を要約する。
• プライバシー、頑健性、公平性、説明可能性の将来の方向性と相互関係を論じる。

提案手法

• 信頼性を枠組み立てるために標準的な表記とGNNの基礎を導入する。
• メンバーシップ推論、再構成、プロパティ推定、モデル抽出を含むプライバシー攻撃の分類体系を、攻撃者の知識設定（ホワイトボックス/ブラックボックス）とともに提供する。
• 影データセットと攻撃モデルを用いたプライバシー攻撃の統一された監督フレームワークを説明する。
• 差分プライバシー、連合学習、アンラーニング、敵対的プライバシーなどのプライバシー保護GNN手法と、それらのグラフへの適用可能性を要約する。
• 頑健性、攻撃のスケーラビリティ、グラフバックドア攻撃、そして防御を調査する。
• 公平性の定義と公正なGNNモデルを調査し、説明可能性の方法と課題を論じる。
• プライバシー、頑健性、公平性、説明可能性の間の相互作用と横断的な結びつきを強調する。

実験結果

リサーチクエスチョン

• RQ1 GNNsはどのようなプライバシーリスクをもたらし、グラフ構造データとモデルを脅かす攻撃タイプは何か？
• RQ2 GNNsに効果的な防御とプライバシー保護技術は何か、そしてそれらはグラフにどの程度スケールするか？
• RQ3 公平性の懸念はGNNsでどのように現れ、グラフ上の偏りを抑えるモデルは何か？
• RQ4 GNNsに存在する説明可能性アプローチは何か、そして説明は他の側面の信頼性をどのように支援できるか？
• RQ5 GNNsにおけるプライバシー、頑健性、公平性、説明可能性を結ぶ未解決の課題と将来の方向性は何か？

主な発見

• 本論文は、GNNsに対するプライバシー攻撃の詳細な分類を提供しており、メンバーシップ推論、再構成、プロパティ推定、モデル抽出を含む。
• 攻撃者の知識設定（ホワイトボックスとブラックボックス）を導入し、プライバシー攻撃の統一された監督フレームワークを説明する。
• 差分プライバシーや連合学習などのプライバシー保護GNN手法を調査し、それらのグラフデータへの適用可能性を論じる。
• スケーラブルな攻撃とバックドア攻撃を含む頑健性のトピックと、GNNに特化した防御を取り上げる。
• 公平性の定義と公正なGNNモデルをレビューし、グラフ領域における説明可能性アプローチと課題を論じる。
• プライバシー、頑健性、公平性、説明可能性の相互関係を分析し、横断的な利点とリスクを強調する。