[論文レビュー] One-sided Differential Privacy

Stelios Doudalis, Ios Kotsogiannis+3 more|arXiv (Cornell University)|Dec 16, 2017

Privacy-Preserving Technologies in Data参考文献 16被引用数 11

ひとこと要約

本稿では、感度の高いレコードに対してのみ微分プライバシーの保証を提供し、非感度の高いレコードについては真実の公開を許容する、一方向微分プライバシー（OSDP）という新しいプライバシーモデルを導入する。排除攻撃を形式的に定式化し、緩和することで、標準的なDP手法に比べて効用が最大25倍向上し、非感度の高いデータが豊富な場合に顕著に効果を発揮する。

ABSTRACT

In this paper, we study the problem of privacy-preserving data sharing, wherein only a subset of the records in a database are sensitive, possibly based on predefined privacy policies. Existing solutions, viz, differential privacy (DP), are over-pessimistic and treat all information as sensitive. Alternatively, techniques, like access control and personalized differential privacy, reveal all non-sensitive records truthfully, and they indirectly leak information about sensitive records through exclusion attacks. Motivated by the limitations of prior work, we introduce the notion of one-sided differential privacy (OSDP). We formalize the exclusion attack and we show how OSDP protects against it. OSDP offers differential privacy like guarantees, but only to the sensitive records. OSDP allows the truthful release of a subset of the non-sensitive records. The sample can be used to support applications that must output true data, and is well suited for publishing complex types of data, e.g. trajectories. Though some non-sensitive records are suppressed to avoid exclusion attacks, our experiments show that the suppression results in a small loss in utility in most cases. Additionally, we present a recipe for turning DP mechanisms for answering counting queries into OSDP techniques for the same task. Our OSDP algorithms leverage the presence of non-sensitive records and are able to offer up to a 25x improvement in accuracy over state-of-the-art DP-solutions.

研究の動機と目的

• 従来の微分プライバシー（DP）の限界に対処すること。DPはすべてのレコードを同等に感度が高いと扱うが、実際には一部のレコードのみが感度が高い場合がある。
• 非感度の高いデータの抑制によって生じる感度の高いレコードに関する間接的推論という排除攻撃を形式的に定式化し、緩和すること。
• 感度の高いレコードに対してのみDPに類する保証を提供すると同時に、非感度の高いレコードを真実のまま公開できるプライバシーモデルを設計すること。
• 非感度の高いデータを活用することで、標準的なDPに比べてクエリ応答における効用が顕著に向上することを示すこと。
• 標準的なDPメカニズムをOSDP準拠のものに変換するための体系的レシピを提示すること。

提案手法

• 感度の高いレコードに対してのみ微分プライバシーの保証を適用する形式的プライバシー定義として、一方向微分プライバシー（OSDP）を導入し、非感度の高いレコードは真実のまま公開可能であることを明確にする。
• 非感度の高いレコードの抑制が感度の高いレコードに関する情報を漏洩させるという脅威として、排除攻撃を形式的に定式化する。
• ランダムレスポンスとヒストグラムのノイズ付与（例：DAWAz）に基づくメカニズムを提案し、非感度の高いデータを活用して精度を向上させる。
• データの感度に応じてノイズ注入を調整することで、標準的なDPメカニズム（例：ラプラスメカニズム）をOSDP準拠のものに変換するレシピを開発する。
• 排除攻撃を防ぐために、非感度の高いレコードを最小限に抑制しつつ、効用を最大化するようなアルゴリズム（例：OsdpLaplaceL1）を設計する。
• ポリシー関数を用いてレコードを感度の高いものと非感度の高いものに分類し、規制やユーザーのオプトイン／オプトアウト選択に基づいた細粒度のプライバシー制御を可能にする。

実験結果

リサーチクエスチョン

• RQ1 感度の高いレコードが一部に限られるデータ公開シナリオにおいて、排除攻撃の脅威をどのように形式的に定式化できるか。
• RQ2 感度の高いレコードに対してのみ微分プライバシーの保証を提供すると同時に、非感度の高いデータを真実のまま公開できるプライバシーモデルを設計できるか。
• RQ3 非感度の高いデータを活用することで、微分プライバシークエリ応答の効用はどの程度向上するか。
• RQ4 OSDPメカニズムは、個人差付き微分プライバシー（PDP）などの既存のソリューションと比較して、効用および排除攻撃に対する耐性の面でどの程度優れているか。
• RQ5 抑制のしきい値が、OSDPにおける効用とプライバシーのトレードオフに与える影響は何か。

主な発見

• OSDPは、非感度の高いレコードの抑制が個々のレコードの感度に関する情報を漏洩させないよう保証することで、排除攻撃を防止する。
• OSDPは、最先端のDPソリューションに比べて、非感度の高いデータが多数存在する場合に最大25倍の精度向上を達成する。
• OsdpLaplaceL1アルゴリズムは、ヒストグラムベースのクエリにおいて非感度の高いデータを活用することで、顕著な効用向上を実現し、標準的なDPメカニズムを上回る。
• 抑制に基づくPDPアルゴリズムは、しきい値を非常に高く設定（例：τ ≥ 100ε）した場合にのみOSDPと同等の性能を示すが、その代わりに排除攻撃に対する保護が100倍も劣る。
• 感度の高いデータと非感度の高いデータの両方を活用するDAWAzメカニズムは、非感度の高いデータの割合が増えるほど、DPオンリーモデルに比べて高い精度を達成する。
• OSDPは非感度の高いレコードの真実の公開を可能にするため、トレースなどの複雑なデータ型の公開に適しており、忠実度が重要な場合に特に有効である。