[論文レビュー] Rank-Based Inference over Web Databases

Farhadur Rahman, Weimo Liu+3 more|arXiv (Cornell University)|Nov 6, 2014

Data Management and Algorithms参考文献 32被引用数 3

ひとこと要約

この論文は、順位付き検索を用いるWebデータベースにおける深刻なプライバシー脆弱性を明らかにしている。プライベート属性の値がクエリ結果から非表示であっても、トップ-kクエリにおけるタプル順位の変化からそれらの値を推定できる。著者らは、公開属性を意図的に変更してクエリを送信することで順位関数の設計的欠陥を悪用する、画期的な攻撃フレームワークを提案した。実世界のプラットフォーム、例えばAmazon Goodreads や Renren.com においても、実際に攻撃を成功させ、プライベート属性を推定した。

ABSTRACT

In recent years, there has been much research in Ranked Retrieval model in structured databases, especially those in web databases. With this model, a search query returns top-k tuples according to not just exact matches of selection conditions, but a suitable ranking function. This paper studies a novel problem on the privacy implications of database ranking. The motivation is a novel yet serious privacy leakage we found on real-world web databases which is caused by the ranking function design. Many such databases feature private attributes - e.g., a social network allows users to specify certain attributes as only visible to him/herself, but not to others. While these websites generally respect the privacy settings by not directly displaying private attribute values in search query answers, many of them nevertheless take into account such private attributes in the ranking function design. The conventional belief might be that tuple ranks alone are not enough to reveal the private attribute values. Our investigation, however, shows that this is not the case in reality. To address the problem, we introduce a taxonomy of the problem space with two dimensions, (1) the type of query interface and (2) the capability of adversaries. For each subspace, we develop a novel technique which either guarantees the successful inference of private attributes, or does so for a significant portion of real-world tuples. We demonstrate the effectiveness and efficiency of our techniques through theoretical analysis, extensive experiments over real-world datasets, as well as successful online attacks over websites with tens to hundreds of millions of users - e.g., Amazon Goodreads and Renren.com.

研究の動機と目的

• プライベート属性をスコアに組み込むが、クエリ結果から非表示にする順位関数が、Webデータベースにもたらすプライバシーリスクを調査すること。
• タプル順位のみからプライベート属性値が特定できないという従来の認識に反論すること。
• クエリインターフェースの設計と攻撃者の能力に基づいて、攻撃シナリオの体系的分類を構築すること。
• トップ-kクエリ応答のみを用いて、プライベート属性値を効果的に回復できる、実用的な推論攻撃を設計・評価すること。
• Goodreads や Renren.com といった高トラフィックプラットフォームにおいて、これらの攻撃が実現可能でかつ効果的であることを実証すること。

提案手法

• クエリインターフェースの種別（例：単一属性検索、複数属性検索）と攻撃者の能力（例：アカウント作成可否、クエリパラメータ制御可否）の2つの次元に基づき、順位に基づく推論攻撃の分類を提案すること。
• 攻撃対象となるタプルの順位シフトを観測するために、公開属性を操作するクエリシーケンス攻撃を設計し、相対順位の変化に基づいてプライベート属性値を推定すること。
• 1つの検索可能な公開属性（例：Goodreadsにおける名前）を持つデータベースでは、攻撃者制御のプロファイルとの順位比較に基づき、候補となるプライベート属性値（例：郵便番号）に対して二分探索に類似した削減技術を用いること。
• 未知または特許された順位関数を考慮するため、誤差マージンを導入することで、正確な距離メトリクスが不明であっても、頑健な推論を可能にすること。
• 数十億人規模のユーザーを有する実世界のデータセットと、本番環境のWebサイトを用いたオンライン実験を通じて、攻撃の実装と検証を実施すること。
• 理論的分析を用いて、順位の変化に基づくプライベート属性推論が可能となる条件とその妥当性を確立すること。

実験結果

リサーチクエスチョン

• RQ1 プライベート属性の値が直接表示されない場合でも、トップ-kクエリ結果におけるタプルの相対順位のみから、それらの値を推定できるか？
• RQ2 異なるクエリインターフェース設計と攻撃者能力を想定した場合、順位に基づく推論攻撃が成立する構造的・機能的条件は何か？
• RQ3 実際の高負荷Webデータベース、特に複雑で特許された順位関数を有する環境において、これらの攻撃はどれほど効果的で効率的か？
• RQ4 トップ-kクエリからの順位フィードバックのみを用いて、攻撃者はどれほどプライベート属性の候補を絞り込めるか？
• RQ5 特にプライベート属性が「好みなし」や特定のデフォルト値に設定されている場合、提案手法の限界や例外状況は何か？

主な発見

• 本研究は、タプル順位のみからプライベート属性値を特定できないという従来の仮定が根本的に誤りであることを示している。クエリ間での順位変化が、プライベートデータの漏洩を引き起こす可能性がある。
• 著者らは、Renren.com および Amazon Goodreads に対してオンライン攻撃を実施し、出身地 や 郵便番号 といったプライベート属性を、トップ-kクエリ応答のみを用いて高い正確性で推定することに成功した。
• Goodreadsでは、攻撃が数回の反復で、40,000以上の候補となる郵便番号を1つの一致にまで絞り込み、順位比較と削減技術を組み合わせた。
• 正確な順位関数が不明であっても、独自の距離メトリクスが隠蔽されている場合でも、誤差マージンを組み込むことで攻撃は依然として有効である。
• 本手法はスケーラブルで効率的である。実験では、大規模なデータセットや複雑な順位論理であっても、少数のクエリで推論が達成可能であることが示された。
• 結果から、スコアが可視化されていないシステム、すなわち相対順位のみを公開するシステムに対してもプライバシー漏洩が発生することを確認した。これは、順位付きデータベースシステムにおいて、これまでに無視されてきた脅威表面を明らかにした。