[논문 리뷰] Attacks on Deidentification's Defenses

Aloni Cohen|arXiv (Cornell University)|2022. 02. 27.

Privacy-Preserving Technologies in Data인용 수 5

한 줄 요약

이 논문은 모든 속성이 퀘이지-아이디언티파이어( quasi-identifier)로 간주되는 경우조차도 k-익명성과 같은 퀘이지-아이디언티파이어 기반 탈식별 기법의 보안을 뒤흔드는 새로운 이론적 및 실용적 공격을 제시한다. 실제 조건에서 k-익명성이 의미 있는 개인정보 보호를 제공하지 못함을 입증하며, 엄격한 규제 기준을 준수해 탈식별된 EdX 데이터셋에서 학생들을 재식별한 바를 통해 이를 입증한다.

ABSTRACT

Quasi-identifier-based deidentification techniques (QI-deidentification) are widely used in practice, including $k$-anonymity, $\ell$-diversity, and $t$-closeness. We present three new attacks on QI-deidentification: two theoretical attacks and one practical attack on a real dataset. In contrast to prior work, our theoretical attacks work even if every attribute is a quasi-identifier. Hence, they apply to $k$-anonymity, $\ell$-diversity, $t$-closeness, and most other QI-deidentification techniques. First, we introduce a new class of privacy attacks called downcoding attacks, and prove that every QI-deidentification scheme is vulnerable to downcoding attacks if it is minimal and hierarchical. Second, we convert the downcoding attacks into powerful predicate singling-out (PSO) attacks, which were recently proposed as a way to demonstrate that a privacy mechanism fails to legally anonymize under Europe's General Data Protection Regulation. Third, we use LinkedIn.com to reidentify 3 students in a $k$-anonymized dataset published by EdX (and show thousands are potentially vulnerable), undermining EdX's claimed compliance with the Family Educational Rights and Privacy Act. The significance of this work is both scientific and political. Our theoretical attacks demonstrate that QI-deidentification may offer no protection even if every attribute is treated as a quasi-identifier. Our practical attack demonstrates that even deidentification experts acting in accordance with strict privacy regulations fail to prevent real-world reidentification. Together, they rebut a foundational tenet of QI-deidentification and challenge the actual arguments made to justify the continued use of $k$-anonymity and other QI-deidentification techniques.

연구 동기 및 목표

• 모든 속성을 퀘이지-아이디언티파이어로 간주함으로써 k-익명성 하에서 의미 있는 개인정보 보호를 보장한다는 기본 가정을 도전하기 위해.
• 전문가가 검토한, 규제 준수 기준을 충족하는 탈식별 조치가 실질적으로도 유린될 수 있음을 입증하기 위해.
• QI-탈식별 기법이 핵심 개인정보 보호 성질을 충족하지 못함을 보여주기 위해: 후처리에 대한 강건성, 조합에 따른 부드러운 약화, 분포 가정 회피.
• k-익명성 및 그 개선 기법이 법적 및 실용적 개인정보 보호 보장을 위해 충분하지 않음을 이론적 및 실용적 증거로 제시하기 위해.

제안 방법

• QI-탈식별에서 최소 및 계층적 일반화 기법을 악용하는 새로운 유형의 개인정보 공격인 다운코딩 공격을 도입한다.
• 다운코딩 공격을 술어 단일화 공격(PSO) 공격으로 변환하여 GDPR의 법적 익명화 기준을 충족하지 못함을 입증한다.
• LinkedIn 데이터를 활용해 실세계 재식별 공격을 수행하여 EdX k-익명화 데이터셋 내 개인을 재식별한다.
• EdX 데이터셋을 분석하여 후처리(예: 행 제거)가 k-익명성을 깨뜨릴 수 있음을 보여주며, 후처리에 대한 강건성 위반을 입증한다.
• 이론적 분석을 통해 QI-탈식별의 개인정보 보호 수준이 명시되지 않은 데이터 분포 가정에 의존함을 밝힌다.
• 이론적 모델링과 실제 데이터셋을 활용한 실증적 검증을 조합하여 다양한 차원에서의 취약성을 입증한다.

실험 결과

연구 질문

• RQ1 모든 속성이 퀘이지-아이디언티파이어로 간주되는 경우 QI-탈식별 기법(예: k-익명성)이 의미 있는 개인정보 보호를 제공할 수 있는가?
• RQ2 전문가가 검토한, 엄격한 개인정보 보호 규정을 준수해 탈식별된 데이터셋에서 개인을 재식별할 수 있는 이론적 및 실용적 공격이 존재하는가?
• RQ3 QI-탈식별 기법이 후처리에 대한 강건성 및 조합에 따른 부드러운 약화와 같은 핵심 개인정보 보호 성질을 충족하는가?
• RQ4 최소 및 계층적 일반화 기법에서도 다운코딩 공격을 구성하고 악용할 수 있는가?
• RQ5 실세계 재식별 공격이 GDPR 및 FERPA 준수 주장에 얼마나 심각하게 도전하는가?

주요 결과

• 이 논문은 모든 속성이 퀘이지-아이디언티파이어로 간주되는 경우조차도 작동하는 첫 번째 이론적 공격인 다운코딩 공격을 제시한다.
• 실용적 재식별 공격이 성공적으로 FERPA 준수 및 전문가에 의한 탈식별이 이루어진 것으로 주장된 EdX 데이터셋에서 세 명의 학생을 재식별했다.
• 엄격한 규제 절차에 따라 처리된 EdX 데이터셋은 여전히 과목 속성에 대해 진정으로 5-익명성이 아니었으며, k-익명성의 정의를 위반했다.
• 공격들은 QI-탈식별이 후처리에 대해 강건하지 않음을 입증하며, 행 제거가 k-익명성을 깰 수 있음을 보여주며 정의의 문법적 결함을 드러낸다.
• 다중 k-익명화 버전의 출시로부터 원본 데이터를 복구한 바를 통해 QI-탈식별이 조합에 대해 부드럽게 약화되지 않음을 입증한다.
• 결과적으로 k-익명성 및 관련 기법의 법적 및 실용적 정당성에 도전하며, 분포 강건성 및 후처리 내성과 같은 핵심 개인정보 보호 성질을 충족하지 못함을 보여준다.