[論文レビュー] Locally Differentially Private Analysis of Graph Statistics

Jacob Imola, Takao Murakami+1 more|arXiv (Cornell University)|Oct 17, 2020

Privacy-Preserving Technologies in Data参考文献 54被引用数 9

ひとこと要約

本稿では、信頼できるキュレーターが不要な状況でもプライバシーを保証する局所的微分プライバシー（LDP）アルゴリズムを提示し、グラフ内の部分グラフカウント（特に三角形とkスターグラフ）の推定を可能にする。2ラウンドのプロトコルを導入することで、非インタラクティブな手法に比べて推定誤差を顕著に低減し、kスターグラフカウントでは誤差のオーダー最適性を達成するとともに、IMDB や Orkut といった実世界のデータセットにおいても、ε=1 の条件下で三角形の相対誤差が 0.30 と非常に低い水準を達成している。

ABSTRACT

Differentially private analysis of graphs is widely used for releasing statistics from sensitive graphs while still preserving user privacy. Most existing algorithms however are in a centralized privacy model, where a trusted data curator holds the entire graph. As this model raises a number of privacy and security issues -- such as, the trustworthiness of the curator and the possibility of data breaches, it is desirable to consider algorithms in a more decentralized local model where no server holds the entire graph. In this work, we consider a local model, and present algorithms for counting subgraphs -- a fundamental task for analyzing the connection patterns in a graph -- with LDP (Local Differential Privacy). For triangle counts, we present algorithms that use one and two rounds of interaction, and show that an additional round can significantly improve the utility. For $k$-star counts, we present an algorithm that achieves an order optimal estimation error in the non-interactive local model. We provide new lower-bounds on the estimation error for general graph statistics including triangle counts and $k$-star counts. Finally, we perform extensive experiments on two real datasets, and show that it is indeed possible to accurately estimate subgraph counts in the local differential privacy model.

研究の動機と目的

• 局所的微分プライバシー（LDP）モデル下で信頼できるキュレーターに依存せずにグラフ統計のプライバシー保護された分析を可能にすること。
• エッジが機微な状況下で、ユーザーが自身のデータを局所的に摂動させる必要がある中で、部分グラフカウント（例：三角形やkスターグラフ）を推定する課題に対処すること。
• 限定的なプライバシーバジェットでも高い実用性を維持できる、効率的で実用的なLDPアルゴリズムを開発すること。
• 一般のグラフ統計（三角形やkスターグラフ含む）に対する推定誤差の理論的下界を確立すること。
• 提案されたアルゴリズムの実用性を、さまざまなプライバシーバジェット下での実世界のグラフデータセットを用いて実験的に検証すること。

提案手法

• 各ユーザーが、ランダム化応答またはラプラスノイズを用いて自身のエッジ情報を独立に摂動し、サーバーに送信する局所モデルを採用する。
• ユーザーが集約されたフィードバックに基づいて応答を適応的に変更できるようにすることで、推定の精度を向上させる、三角形カウントのための2ラウンドインタラクションプロトコルを提案する。
• 非インタラクティブLDPモデル下で、kスターグラフカウントの推定誤差をオーダー最適化するため、ラプラスメカニズムを適用する。
• LDPを用いて最大次数（d_max）をプライベートに推定する手法を導入し、部分グラフカウントアルゴリズムにおけるノイズの調整に用いる。
• プライバシーバジェットをd_maxの推定と部分グラフカウントの推定に割り当てることで、精度とプライバシーのバランスを取る戦略を採用する。
• 真のd_maxを用いる場合と比較して、最小限の実用性の損失で、d̂_max（ノイズを含む最大次数の推定値）を推定値として使用できることを示している。

実験結果

リサーチクエスチョン

• RQ1 信頼できるキュレーターが存在しない状況でも、局所的微分プライバシー（LDP）モデル下で三角形やkスターグラフといった部分グラフカウントを正確に推定できるか？
• RQ2 インタラクション（1ラウンド対2ラウンド）は、局所プライベートな部分グラフカウントにおける推定誤差にどのように影響するか？
• RQ3 LDP下での一般のグラフ統計に対する推定誤差の根本的な限界（下界）は何か？
• RQ4 非インタラクティブLDPモデル下で、kスターグラフカウントに対してオーダー最適な誤差を達成できるか？
• RQ5 最大次数をプライベートに推定することは、部分グラフカウント推定の精度にどのように影響するか？

主な発見

• 三角形カウントの2ラウンドプロトコルは、非インタラクティブバージョンに比べて推定誤差を顕著に低減しており、LDPにおけるインタラクションの利点を示している。
• kスターグラフカウントに関しては、提案されたラプラスベースのアルゴリズムが、非インタラクティブLDPモデル下でオーダー最適な推定誤差を達成している。
• IMDBデータセットにおいて、ε=1 の条件下で三角形カウントの相対誤差が 0.30 にまで低下しており、中程度のプライバシーバジェットでも高い実用性を示している。
• IMDBデータセットにおいて、2スターグラフカウントの相対誤差はε=1で 0.0028 にまで低下し、密なグラフにおいて優れた精度を達成している。
• d_maxをプライベートに推定したd̂_maxを用いることで、真のd_maxを用いた場合とほぼ同等の相対誤差が得られ、その実用性が裏付けられている。
• クラスタリング係数はε=2の条件下で相対誤差0.30で推定可能であり、LDP下でも意味のあるグラフ解析が可能であることを示している。