[论文解读] Learning Networks from Random Walk-Based Node Similarities

Jeremy G. Hoskins, Cameron Musco+2 more|arXiv (Cornell University)|Jan 23, 2018

Complex Network Analysis Techniques参考文献 47被引用 3

一句话总结

本文提出一种方法，通过使用少量、噪声较大的有效电阻测量值（基于随机游走的节点相似性）来重建社交网络图，采用凸优化与非凸优化方法。结果表明，即使仅使用10%–25%的噪声有效电阻数据，也能恢复超过20%的真实边，并准确近似所有成对相似性，揭示了此类数据发布所存在的重大隐私风险。

ABSTRACT

Digital presence in the world of online social media entails significant privacy risks. In this work we consider a privacy threat to a social network in which an attacker has access to a subset of random walk-based node similarities, such as effective resistances (i.e., commute times) or personalized PageRank scores. Using these similarities, the attacker's goal is to infer as much information as possible about the underlying network, including any remaining unknown pairwise node similarities and edges. For the effective resistance metric, we show that with just a small subset of measurements, the attacker can learn a large fraction of edges in a social network, even when the measurements are noisy. We also show that it is possible to learn a graph which accurately matches the underlying network on all other effective resistances. This second observation is interesting from a data mining perspective, since it can be expensive to accurately compute all effective resistances. As an alternative, our graphs learned from just a subset of approximate effective resistances can be used as surrogates in a wide range of applications that use effective resistances to probe graph structure, including for graph clustering, node centrality evaluation, and anomaly detection. We obtain our results by formalizing the graph learning objective mathematically, using two optimization problems. One formulation is convex and can be solved provably in polynomial time. The other is not, but we solve it efficiently with projected gradient and coordinate descent. We demonstrate the effectiveness of these methods on a number of social networks obtained from Facebook. We also discuss how our methods can be generalized to other random walk-based similarities, such as personalized PageRank. Our code is available at https://github.com/cnmusco/graph-similarity-learning.

研究动机与目标

• 探究从少量、噪声较大的基于随机游走的节点相似性（特别是有效电阻）中，能推断出多少网络的结构信息。
• 开发高效的优化方法，仅使用部分测量值，学习一个在所有成对有效电阻上与原始图一致的图。
• 评估发布有效电阻或类似度量可能带来的隐私影响，鉴于其可能暴露敏感的网络结构。
• 通过使用学习得到的代理图，在计算所有成对相似性不可行时，实现可扩展的图挖掘。

提出的方法

• 将图学习形式化为优化问题，最小化观测值与预测值之间有效电阻的最小二乘误差。
• 提出一种使用半定规划的凸优化公式，可在理想条件下保证图的恢复。
• 开发一种非凸优化方法，结合投影梯度与坐标下降，实现大规模网络上的可扩展、高效学习。
• 使用大小为5,000个约束的随机块进行坐标下降，以提升真实图上的收敛性与可扩展性。
• 将最小二乘公式应用于具有不同噪声水平和采样比例的真实Facebook好友网络。
• 对目标函数与误差度量进行归一化，以实现在不同规模网络间的公平比较。

实验结果

研究问题

• RQ1 少量噪声有效电阻测量值是否能揭示真实网络结构的显著部分，包括边与全局拓扑？
• RQ2 当仅观测到部分成对有效电阻时，学习得到的图在多大程度上能准确近似原始网络中的所有成对有效电阻？
• RQ3 图结构重建的质量在多大程度上取决于采样约束的数量与测量中的噪声水平？
• RQ4 所提出的优化方法在保持高边恢复率与相似性匹配精度的前提下，能否扩展到真实社交网络？
• RQ5 在在线社交网络中发布有效电阻或类似基于随机游走的相似度，其隐私影响如何？

主要发现

• 仅使用10%的有效电阻测量值，该方法在小型Facebook好友网络（FB Small A 和 FB Small C）中恢复了超过50%的真实边。
• 对于更大的Facebook网络，即使仅使用10%的约束，该方法仍能恢复超过20%的真实边，且在噪声较低、采样比例更高的情况下性能进一步提升。
• 泛化误差（衡量学习图在所有有效电阻上与原始图的匹配程度）始终较低，表明全局结构恢复准确。
• 最小二乘公式在实践中优于凸半定规划，尤其在小约束集情况下，因其具备更好的可扩展性与收敛性。
• 学习图中最重要的边与原始网络中的真实边高度一致，如在网格图中，224条最重的边与网格结构完全匹配，视觉上可验证。
• 在某些情况下，使用更少的约束反而提升了边恢复效果，表明优化收敛在稀疏但高质量的测量集合上可能更有效。