[논문 리뷰] One-sided Differential Privacy

Stelios Doudalis, Ios Kotsogiannis외 3명|arXiv (Cornell University)|2017. 12. 16.

Privacy-Preserving Technologies in Data참고 문헌 16인용 수 11

한 줄 요약

이 논문은 민감한 기록에 대해서만 차별적 프라이버시 보장을 제공하면서 비민감 기록은 정직하게 공개할 수 있도록 하는 새로운 프라이버시 모델인 일방적 차별적 프라이버시(One-Sided Differential Privacy, OSDP)를 소개한다. 배제 공격을 체계적으로 정의하고 이를 완화함으로써, 기존 DP 방법에 비해 기능성을 최대 25배 향상시킨다. 특히 비민감 데이터가 풍부한 경우에 두드러진다.

ABSTRACT

In this paper, we study the problem of privacy-preserving data sharing, wherein only a subset of the records in a database are sensitive, possibly based on predefined privacy policies. Existing solutions, viz, differential privacy (DP), are over-pessimistic and treat all information as sensitive. Alternatively, techniques, like access control and personalized differential privacy, reveal all non-sensitive records truthfully, and they indirectly leak information about sensitive records through exclusion attacks. Motivated by the limitations of prior work, we introduce the notion of one-sided differential privacy (OSDP). We formalize the exclusion attack and we show how OSDP protects against it. OSDP offers differential privacy like guarantees, but only to the sensitive records. OSDP allows the truthful release of a subset of the non-sensitive records. The sample can be used to support applications that must output true data, and is well suited for publishing complex types of data, e.g. trajectories. Though some non-sensitive records are suppressed to avoid exclusion attacks, our experiments show that the suppression results in a small loss in utility in most cases. Additionally, we present a recipe for turning DP mechanisms for answering counting queries into OSDP techniques for the same task. Our OSDP algorithms leverage the presence of non-sensitive records and are able to offer up to a 25x improvement in accuracy over state-of-the-art DP-solutions.

연구 동기 및 목표

• 모든 기록을 동일하게 민감하다고 간주하는 전통적 차별적 프라이버시(DP)의 한계를 해결하기 위해, 실제로 민감한 기록이 일부에만 해당하는 경우를 대비한다.
• 비민감 데이터의 제거로 인해 민감 기록에 대한 간접적 추론이 발생하는 배제 공격을 정의하고 이를 완화한다.
• 민감 기록에 대해서만 DP 유사 보장을 제공하면서도 비민감 기록은 정직하게 공개할 수 있도록 하는 프라이버시 모델을 설계한다.
• 비민감 데이터를 활용할 경우 기존 표준 DP에 비해 질의 응답의 기능성이 크게 향상될 수 있음을 입증한다.
• 기본 DP 메커니즘을 카운팅 질의에 대해 OSDP 준수 형태로 변환하는 체계적인 절차를 제시한다.

제안 방법

• 민감 기록에 대해서만 차별적 프라이버시 보장을 적용하고 비민감 기록은 정직하게 공개할 수 있도록 하는 공식적인 프라이버시 정의로서 일방적 차별적 프라이버시(OSDP)를 도입한다.
• 비민감 기록의 제거로 인해 민감 기록에 대한 정보가 泄露되는 배제 공격을 위협으로 정의한다.
• 무작위 응답과 히스토GRAM 편향 기반 메커니즘(DAWAz 등)을 활용하여 비민감 데이터를 기반으로 정확도를 향상시키는 메커니즘을 제안한다.
• 데이터 민감도에 따라 노이즈 주입을 조정함으로써 표준 DP 메커니즘(Laplace 메커니즘 등)을 OSDP 준수 형태로 변환하는 절차를 개발한다.
• 배제 공격을 방지하면서도 기능성을 극대화하기 위해 비민감 기록을 최소한으로만 차단하는 알고리즘(OsdpLaplaceL1 등)을 설계한다.
• 정책 함수를 사용해 기록을 민감 또는 비민감으로 분류함으로써, 규정 준수 또는 사용자 옵트인/옵트아웃 선택에 기반한 세밀한 프라이버시 제어를 가능하게 한다.

실험 결과

연구 질문

• RQ1 민감한 기록이 일부에만 해당하는 데이터 공개 환경에서, 배제 공격의 위협을 어떻게 체계적으로 정의할 수 있는가?
• RQ2 민감 기록에 대해서만 차별적 프라이버시 보장을 제공하면서도 비민감 데이터는 정직하게 공개할 수 있는 프라이버시 모델을 설계할 수 있는가?
• RQ3 비민감 데이터를 활용할 경우, 차별적 프라이버시 질의 응답의 기능성은 어느 정도 향상될 수 있는가?
• RQ4 OSDP 메커니즘은 기능성과 배제 공격에 대한 저항성 측면에서 기존 솔루션인 개인화된 차별적 프라이버시(PDP)와 어떻게 비교되는가?
• RQ5 억제 임계값이 OSDP에서 기능성과 프라이버시 간의 트레이드오프에 어떤 영향을 미치는가?

주요 결과

• OSDP는 비민감 기록의 억제가 개별 기록의 민감성에 대한 정보를 泄露하지 않도록 함으로써, 배제 공격을 방지한다.
• 비민감 데이터 비중이 높을수록 기존 최첨단 DP 솔루션 대비 정확도를 최대 25배 향상시키며, OSDP는 이를 실현한다.
• OsdpLaplaceL1 알고리즘은 히스토GRAM 기반 질의에서 비민감 데이터를 활용함으로써 기능성 향상을 크게 달성하며, 표준 DP 메커니즘을 능가한다.
• 억제 기반 PDP 알고리즘은 임계값을 매우 높게 설정(예: τ ≥ 100ε)해야 OSDP와 경쟁력을 확보할 수 있지만, 이 경우 배제 공격에 대한 보호 수준은 100배나 떨어진다.
• 민감 및 비민감 데이터를 모두 활용하는 DAWAz 메커니즘은 비민감 데이터 비율이 높아질수록 DP 전용 접근 방식보다 더 높은 정확도를 달성한다.
• OSDP는 비민감 기록을 정직하게 공개할 수 있으므로, 정밀도가 중요한 복잡한 데이터 유형(예: 궤적)의 공개에 매우 적합하다.