[論文レビュー] Learning Networks from Random Walk-Based Node Similarities

Jeremy G. Hoskins, Cameron Musco+2 more|arXiv (Cornell University)|Jan 23, 2018

Complex Network Analysis Techniques参考文献 47被引用数 3

ひとこと要約

本稿では、ランダムウォークに基づくノード類似度（有効抵抗）の小さなノイズ混じりのサブセットから、凸および非凸最適化を用いて社会的ネットワークグラフを再構築する手法を提案する。実験の結果、わずか10–25%のノイズ混じりの有効抵抗測定値でも、真のエッジの20%以上を回復可能であり、すべてのペアワイズ類似度を正確に近似可能であることが示され、このようなデータを公開することに重大なプライバシーリスクが伴うことが明らかになった。

ABSTRACT

Digital presence in the world of online social media entails significant privacy risks. In this work we consider a privacy threat to a social network in which an attacker has access to a subset of random walk-based node similarities, such as effective resistances (i.e., commute times) or personalized PageRank scores. Using these similarities, the attacker's goal is to infer as much information as possible about the underlying network, including any remaining unknown pairwise node similarities and edges. For the effective resistance metric, we show that with just a small subset of measurements, the attacker can learn a large fraction of edges in a social network, even when the measurements are noisy. We also show that it is possible to learn a graph which accurately matches the underlying network on all other effective resistances. This second observation is interesting from a data mining perspective, since it can be expensive to accurately compute all effective resistances. As an alternative, our graphs learned from just a subset of approximate effective resistances can be used as surrogates in a wide range of applications that use effective resistances to probe graph structure, including for graph clustering, node centrality evaluation, and anomaly detection. We obtain our results by formalizing the graph learning objective mathematically, using two optimization problems. One formulation is convex and can be solved provably in polynomial time. The other is not, but we solve it efficiently with projected gradient and coordinate descent. We demonstrate the effectiveness of these methods on a number of social networks obtained from Facebook. We also discuss how our methods can be generalized to other random walk-based similarities, such as personalized PageRank. Our code is available at https://github.com/cnmusco/graph-similarity-learning.

研究の動機と目的

• ランダムウォークに基づくノード類似度、特に有効抵抗の小さなノイズ混じりのサブセットから、ネットワークの構造的情報をどの程度回復できるかを調査すること。
• 部分的な測定値のみを用いて、元のネットワークのすべてのペアワイズ有効抵抗と一致するグラフを学習するための効率的な最適化手法を開発すること。
• 有効抵抗や類似度のようなメトリクスを公開する際のプライバシー的影響を評価すること。特に、これらのメトリクスが機微なネットワーク構造を露呈する可能性があること。
• すべてのペアワイズ類似度の計算が非効率な場合に、学習された代替グラフを用いてスケーラブルなグラフマイニングを可能にすること。

提案手法

• 観測値と予測値の有効抵抗の二乗誤差を最小化する最適化問題としてグラフ学習を定式化する。
• 理想状態下でグラフを証明可能に回復できるように、半正定値計画法を用いた凸定式化を提案する。
• 大規模ネットワークにおけるスケーラビリティと効率性を高めるために、投影勾配法および座標降下法を用いた非凸最適化アプローチを開発する。
• 実世界のグラフにおける収束性とスケーラビリティを向上させるために、5,000件の制約をランダムにバッチ化したブロック座標降下法を採用する。
• さまざまなノイズレベルとサンプリング率を想定し、実際のFacebookエゴネットに最小二乗法を適用する。
• 異なるサイズのネットワーク間での公平な比較を可能にするために、目的関数と誤差指標を正規化する。

実験結果

リサーチクエスチョン

• RQ1 小さなノイズ混じりの有効抵抗測定値のサブセットから、真のネットワーク構造（エッジやグローバルトポロジー）の顕著な部分を回復できるか？
• RQ2 観測された有効抵抗の一部しか利用できない状況下で、学習されたグラフが元のネットワークのすべてのペアワイズ有効抵抗をどの程度正確に近似できるか？
• RQ3 グラフ再構築の品質が、サンプリングされた制約数や測定値のノイズレベルにどの程度依存するか？
• RQ4 提案手法の最適化アプローチは、実世界のソーシャルネットワークにおいても、高いエッジ回復率と類似度一致精度を維持しながらスケーラブルに動作するか？
• RQ5 オンラインソーシャルネットワークで有効抵抗や類似度のようなランダムウォークベースの類似度を公開することは、どのようなプライバシー的影響を及ぼすか？

主な発見

• わずか10%の有効抵抗測定値のみを用いても、小さなFacebookエゴネット（FB Small AおよびFB Small C）では真のエッジの50%以上を回復できた。
• より大きなFacebookネットワークでは、10%の制約のみでも真のエッジの20%以上を回復でき、ノイズが低く、サンプリング率が高いほど性能が向上した。
• 一般化誤差（学習済みグラフが元のネットワークのすべての有効抵抗に対してどの程度一致するかを測る指標）は一貫して低く、グローバル構造の正確な回復が示された。
• 実際の応用では、最小二乗法の定式化が凸半正定値計画法を上回った。特に制約数が少ない場合に、スケーラビリティと収束性の面で優れていた。
• 学習済みグラフの最も重いエッジが、元のネットワークの真のエッジとよく一致しており、グリッドグラフの可視化でも224本の最も重いエッジがグリッド構造と完全に一致した。
• 一部のケースでは、制約数を減らすことでエッジ回復率が向上した。これは、スパースで高品質な測定セットの方が最適化の収束がより効果的である可能性を示唆している。