[論文レビュー] Private Rank Aggregation under Local Differential Privacy

Ziqi Yan, Gang Li+1 more|arXiv (Cornell University)|Aug 13, 2019

Privacy-Preserving Technologies in Data参考文献 46被引用数 4

ひとこと要約

本稿では、信頼できないキュレーターに送信する前に個々の回答に確率的応答またはラプラスノイズを適用することにより、エージェントの対比較順位付けデータを保護する、局所的微分プライバシーに基づく順位集約プロトコルLDP-KwikSortを提案する。この手法は、妥当な有用性を維持しつつ強力なプライバシーを達成し、ラプラスベースの変種を上回り、中央モデルのDP性能に近づく。

ABSTRACT

As a method for answer aggregation in crowdsourced data management, rank aggregation aims to combine different agents' answers or preferences over the given alternatives into an aggregate ranking which agrees the most with the preferences. However, since the aggregation procedure relies on a data curator, the privacy within the agents' preference data could be compromised when the curator is untrusted. Existing works that guarantee differential privacy in rank aggregation all assume that the data curator is trusted. In this paper, we formulate and address the problem of locally differentially private rank aggregation, in which the agents have no trust in the data curator. By leveraging the approximate rank aggregation algorithm KwikSort, the Randomized Response mechanism, and the Laplace mechanism, we propose an effective and efficient protocol LDP-KwikSort. Theoretical and empirical results show that the solution LDP-KwikSort:RR can achieve the acceptable trade-off between the utility of aggregate ranking and the privacy protection of agents' pairwise preferences.

研究の動機と目的

• 信頼できないデータキュレーターが関与する順位集約におけるプライバシー保護の欠如という、現在の微分プライバシー手法における重要なギャップを解消すること。
• エージェントがキュレーターに生の順位付けデータを信頼できないという状況における、局所的微分プライバシーに基づく順位集約（LDP-RA）問題の定式化と解決。
• 完全な順位付けではなく対比較を保護する効率的なプロトコルの設計により、プライバシー漏洩を低減し、有用性を向上させること。
• 局所的微分プライバシーモデルにおけるプライバシー予算、クエリ数、有用性のトレードオフを評価すること。
• 強いプライバシー保証のもとで、非プライベートなベースラインと同等の集約順位の質を維持できることを実証すること。

提案手法

• 全順位付けではなく対比較に基づく処理を行うKwikSortアルゴリズムを活用し、集約プロセスの感度を低減する。
• エージェントの対比較回答を送信する前に、局所ランダムライザーとして確率的応答（RR）またはラプラスメカニズムを適用して摂動する。
• キュレーターの後処理により、ノイズが加えられた報告から集約された対比較頻度を推定する。
• 推定された対比較頻度に基づき、KwikSortを用いて最終的な集約順位を構築する。
• 理論的分析により、集約対比較プロファイルの推定誤差の上界を導出し、最適なクエリ数$K$の選定を支援する。
• 有用性とプライバシーのバランスを最適化するため、$K$の数を最適化し、$m$個の代替案に対して$K = \sqrt{m}$の周辺で有用性が最大に達することを示す。

実験結果

リサーチクエスチョン

• RQ1 信頼できないデータキュレーターが関与する状況で、局所的微分プライバシーを満たす順位集約プロトコルをどのように設計できるか？
• RQ2 局所モデルにおいて、プライバシーを保ちつつ有用性を最大化するための最適な対比較クエリ数$K$は何か？
• RQ3 LDP順位集約において、確率的応答とラプラスメカニズムは、有用性と誤差の観点でどのように比較できるか？
• RQ4 さまざまなプライバシー予算とデータセット特性のもとで、提案されたプロトコルは集約順位の正確性をどの程度維持できるか？
• RQ5 Mallowsモデルの分散パラメータ$\theta$は、LDP-KwikSortプロトコルの性能にどのように影響を与えるか？

主な発見

• LDP-KwikSort:RRは、常にLDP-KwikSort:Lapを上回る有用性を示し、平均ケンダールタウ距離と誤差率が低くなる。
• $n=2500$, $m=15$, $\theta=0.5$のとき、LDP-KwikSort:RRとLDP-KwikSort:Lapの誤差率の差は2.4%であるが、$m=45$では32.5%に増加する。
• $n=5000$, $m=45$で$\theta$を0.25から0.75に増加させると、平均ケンダールタウ距離の性能差は13.5%から46.5%に拡大する。
• $m \leq 15$では$\epsilon = 1.0$が妥当な有用性を提供するが、$m$が大きい場合には性能を維持するため$\epsilon = 3.0$を推奨する。
• 時間コストは代替案の数に比例して増加し、$m > 15$ではLDP-KwikSort:RRがLDP-KwikSort:Lapよりも遅くなる。これはクエリ数の増加に起因する。
• プロトコルは$\epsilon$-局所的微分プライバシーを満たし、特に最適な$K$設定下では中央モデルのDP-KwikSortと同程度の有用性を維持する。