[논문 리뷰] Generalised Differential Privacy for Text Document Processing

Natasha Fernandes, Mark Dras외 1명|arXiv (Cornell University)|2018. 11. 26.

Authorship Attribution and Profiling참고 문헌 4인용 수 4

한 줄 요약

이 논문은 텍스트 문서의 의미적 내용을 유지하면서도 저자 정보를 가림으로써 일반화된 차별적 비밀보장 메커니즘을 제안한다. 지구이동거리(EMD)를 유사도 측정 기준으로 사용하여 백오브워즈 표현에 라플라스 노이즈를 적용함으로써, 주제 분류에 대해 강력한 유틸리티를 확보하면서도 증명 가능한 비밀보장을 달성한다. 이는 팬 픽션 데이터셋을 통해 검증되었다.

ABSTRACT

We address the problem of how to "obfuscate" texts by removing stylistic clues which can identify authorship, whilst preserving (as much as possible) the content of the text. In this paper we combine ideas from "generalised differential privacy" and machine learning techniques for text processing to model privacy for text documents. We define a privacy mechanism that operates at the level of text documents represented as "bags-of-words" - these representations are typical in machine learning and contain sufficient information to carry out many kinds of classification tasks including topic identification and authorship attribution (of the original documents). We show that our mechanism satisfies privacy with respect to a metric for semantic similarity, thereby providing a balance between utility, defined by the semantic content of texts, with the obfuscation of stylistic clues. We demonstrate our implementation on a "fan fiction" dataset, confirming that it is indeed possible to disguise writing style effectively whilst preserving enough information and variation for accurate content classification tasks.

연구 동기 및 목표

• 텍스트 문서에서 저자 가림 문제를 해결하면서도 내용 유틸리티를 유지하고자 한다.
• 일반화된 차별적 비밀보장 기반으로 저자 추론에 대한 공식적인 비밀보장 보장을 제공하고자 한다.
• 주제 분류 정확도(의미적 유틸리티)와 스타일 가림(저자 익명성) 사이의 균형을 이루고자 한다.
• 지구이동거리 측정 기준을 활용하여 비구조적 텍스트 데이터에 대해 $d_{\mathcal{X}}$-비밀보장을 확장하고자 한다.
• 실제 텍스트 데이터(예: 팬 픽션)에서 이 메커니즘의 실현 가능성과 효과성을 입증하고자 한다.

제안 방법

• 문서를 단어 빈도를 유지하지만 어순을 제거한 백오브워즈 표현으로 모델링한다.
• 단어 빈도를 훼손하기 위해 라플라스 확률 밀도 함수 기반의 노이즈 메커니즘을 적용한다.
• 노이즈 스케일은 문서 간 유사도 측정 기준으로 지구이동거리(EMD)를 사용하여 조정한다.
• 유사한 주제를 가진 문서(EMD 기준)는 원본 저자와 관계없이 유사한 노이즈 출력을 생성함으로써 보장된다.
• 비밀보장은 지구이동거리를 기반 거리로 사용하는 메트릭 기반의 차별적 비밀보장 확장인 $E_{d_{\mathcal{X}}}$-비밀보장으로 공식화된다.
• 백오브워즈의 실수값 벡터 표현에 이 방법을 구현하고, 비밀보장 및 유틸리티 성질을 증명하였다.

실험 결과

연구 질문

• RQ1 주제 분류 유틸리티를 유지하면서도 텍스트 문서의 저자 정보를 효과적으로 가림으로써 비밀보장 메커니즘을 설계할 수 있는가?
• RQ2 의미적 유사도 측정 기준을 활용하여 일반화된 차별적 비밀보장을 비구조적 텍스트 데이터에 어떻게 적용할 수 있는가?
• RQ3 지구이동거리 측정 기준을 사용할 경우, 텍스트 가림에서 비밀보장과 유틸리티가 어느 정도 보장되는가?
• RQ4 제안된 메커니즘이 구조적 데이터베이스의 차별적 비밀보장과 유사한 공식적 사전 비밀보장 보장을 제공할 수 있는가?
• RQ5 실제로 비밀보장($\epsilon$로 제어)과 유틸리티(주제 분류 정확도) 사이의 트레이드오프는 어떻게 나타나는가?

주요 결과

• 제안된 메커니즘은 가림 처리 후에도 주제 분류 정확도를 효과적으로 유지하여 강력한 유틸리티 유지 능력을 입증하였다.
• 가림 처리를 적용한 후 저자 추론 정확도가 크게 감소하여 스타일 가림이 효과적으로 이루어졌음을 확인하였다.
• 지구이동거리 기반으로 $E_{d_{\mathcal{X}}}$-비밀보장이 만족됨을 입증하여 공식적인 비밀보장 보장을 확보하였다.
• EMD 기반 스케일링을 적용한 라플라스 노이즈는 유사 주제 문서가 원본 저자와 관계없이 유사한 노이즈 출력을 생성함을 보장한다.
• 팬 픽션 데이터셋을 대상으로 한 실험 평가를 통해 비밀보장과 유틸리티 사이의 균형을 확보하였으며, 비밀보장 파rameter $\epsilon$에 의해 제어 가능한 측정 가능한 트레이드오프가 존재함을 확인하였다.
• 결과적으로, 가림 처리된 백오브워즈 출력에서 읽을 수 있는 텍스트를 재구성하는 것이 가능할 것으로 보이며, 인간이 읽을 수 있는 개인 정보 보호 문서로의 전환 가능성을 열어준다.