[論文レビュー] Trustworthy Graph Neural Networks: Aspects, Methods and Trends

He Zhang, Bang Ye Wu+4 more|arXiv (Cornell University)|May 16, 2022

Adversarial Robustness in Machine Learning参考文献 365被引用数 39

ひとこと要約

このサーレイは信頼できる GNN を定義し、堅牢性、説明性、プライバシー、公正性、説明責任、環境的幸福の6つの側面を体系的にレビューし、オープンなフレームワーク、指標、および横断的な関連を概説する。研究方向性と産業化の動向についても論じる。

ABSTRACT

Graph neural networks (GNNs) have emerged as a series of competent graph learning methods for diverse real-world scenarios, ranging from daily applications like recommendation systems and question answering to cutting-edge technologies such as drug discovery in life sciences and n-body simulation in astrophysics. However, task performance is not the only requirement for GNNs. Performance-oriented GNNs have exhibited potential adverse effects like vulnerability to adversarial attacks, unexplainable discrimination against disadvantaged groups, or excessive resource consumption in edge computing environments. To avoid these unintentional harms, it is necessary to build competent GNNs characterised by trustworthiness. To this end, we propose a comprehensive roadmap to build trustworthy GNNs from the view of the various computing technologies involved. In this survey, we introduce basic concepts and comprehensively summarise existing efforts for trustworthy GNNs from six aspects, including robustness, explainability, privacy, fairness, accountability, and environmental well-being. Additionally, we highlight the intricate cross-aspect relations between the above six aspects of trustworthy GNNs. Finally, we present a thorough overview of trending directions for facilitating the research and industrialisation of trustworthy GNNs.

研究の動機と目的

• 信頼できる GNN を定義し、性能だけを超えた重要性を動機づける。
• GNN における信頼志向の側面を特徴付けるオープンなフレームワークを提案する。
• 各側面の典型的手法、評価指標、分類法を要約する。
• 信頼性の次元間の横断的関係とトレードオフを分析する。
• 研究と信頼できる GNN の産業展開を促進するための傾向と方向性を強調する。

提案手法

• GNN に合わせた信頼性の核となる概念と6つの側面を紹介する。
• 各側面（堅牢性、説明性、プライバシー、公正性、説明責任、環境的幸福）に対する細粒度の分類法と指標を提供する。
• 堅牢性のための防御および獲得手法を前訓練、訓練、後訓練の各段階に分類する。
• 横断的な側面間の関係と、ある側面の改善が他にどのように影響するかを論じる。
• 関連する調査と比較し、新しい信頼指向の側面へ拡張可能なオープンなフレームワークを明確化する。

実験結果

リサーチクエスチョン

• RQ1 GNNにおける信頼性とは何か、そしてどのように測定できるか？
• RQ2 GNN の各信頼側面を改善するための手法にはどのようなものがあり、開発段階を通じてどう分類されるか？
• RQ3 GNN の設計と評価において、異なる信頼の側面はどのように相互作用し、または対立するのか？
• RQ4 研究と産業界で信頼できる GNN を前進させるための有望な方向性は何か？

主な発見

• 堅牢性、説明性、プライバシー、公正性、説明責任、環境的幸福を包含する信頼できる GNN のオープンフレームワーク。
• GNN の各信頼側面を評価するための包括的で細粒度な分類と指標。
• 横断的分析により、ある側面の手法が他に与える影響とトレードオフが生じる箇所を強調。
• 信頼できる GNN 調査が、一般的な信頼 AI 調査および性能重視の GNN 調査とどのように異なるかを示した比較。
• 信頼できる GNN の研究進展と産業展開を促進するトレンド方向性の見通し。