[논문 리뷰] Privacy Protection for Natural Language Records: Neural Generative Models for Releasing Synthetic Twitter Data

Alexander G. Ororbia, Fridolin Linder외 1명|arXiv (Cornell University)|2016. 06. 03.

Privacy-Preserving Technologies in Data참고 문헌 54인용 수 4

한 줄 요약

이 논문은 사생활 보호 기능을 갖춘 트위터 데이터를 합성하기 위한 신경망 생성 모델을 제안하며, 위험도와 유효성 지표를 바탕으로 세 가지 방법—삭제, 차별적 보장 모델링, 신경망 생성—을 평가한다. 연구 결과, 복잡한 작업에 대해 더 높은 유효성을 보이며, 삭제나 간단한 모델보다 낮은 신원 식별 위험도를 유지하는 것으로 나타났다.

ABSTRACT

In this paper we consider methods for sharing free text Twitter data, with the goal of protecting the privacy of individuals in the data while still releasing data that carries research value, i.e. minimizes risk and maximizes utility. We propose three protection methods: simple redaction of hashtags and twitter handles, an epsilon-differentially private Multinomial-Dirichlet synthesizer, and novel synthesis models based on a neural generative model. We evaluate these three methods using empirical measures of risk and utility. We define risk based on possible identification of users in the Twitter data, and we define utility based on two general language measures and two model-based tasks. We find that redaction maintains high utility for simple tasks but at the cost of high risk, while some neural synthesis models are able to produce higher levels of utility, even for more complicated tasks, while maintaining lower levels of risk. In practice, utility and risk present a trade-off, with some methods offering lower risk or higher utility. This work presents possible methods to approach the problem of privacy for free text and which methods could be used to meet different utility and risk thresholds.

연구 동기 및 목표

• 자유형 텍스트 트위터 데이터를 공유하면서도 개인의 사생활을 보호하는 데 도전 과제를 해결하기 위해.
• 자연어 처리 작업을 위한 높은 연구 유효성을 유지하는 사생활 보호 방법을 평가하기 위해.
• 사생활 보호 위험도와 데이터 유효성 사이의 유리한 트레이드오프를 달성하는 방법을 특정하기 위해.
• 위험도와 유효성 측면에서 삭제, 차별적 보장 모델링, 신경망 생성 합성 기법을 비교하기 위해.
• 원하는 위험도 및 유효성 기준에 따라 합성 방법을 선택하는 데 실용적인 지침을 제공하기 위해.

제안 방법

• 저자들은 개인 식별자 잔류를 줄이기 위해 해시태그와 트위터 ID를 단순히 삭제하는 방법을 구현한다.
• 공식적인 사생활 보장 보장을 확보하기 위해 이psilon-차별적 보장 다항-디리클레 합성 모델을 개발한다.
• 원시 트위터 텍스트를 기반으로 훈련된 새로운 신경망 생성 모델을 제안하여 언어 패턴이 유지된 합성 시퀀스를 생성한다.
• 합성 데이터는 사용자 재식별 가능성에 기반한 경험적 위험 측도를 통해 평가된다.
• 유효성은 두 가지 일반적인 언어 지표와 두 가지 모델 기반의 후행 작업을 통해 측정된다.
• 위험도와 유효성 차원에서 각 방법을 비교하여 트레이드오프를 규명한다.

실험 결과

연구 질문

• RQ1 다양한 데이터 공개 방법이 트위터 텍스트 내에서 개인을 식별할 위험에 어떤 영향을 미치는가?
• RQ2 신경망 생성 모델은 얼마나 높은 언어 유효성을 유지하면서도 사생활 보호 위험을 최소화할 수 있는가?
• RQ3 다양한 합성 기법 간에 사생활 보호 위험도와 유효성 사이에 존재하는 트레이드오프는 무엇인가?
• RQ4 차별적 보장 모델은 자연어 처리 연구 작업에 충분한 유효성을 유지할 수 있는가?
• RQ5 특정 연구 필요 조건을 충족시키기 위해 가장 우수한 사생활 보호와 유효성의 균형을 이루는 방법은 무엇인가?

주요 결과

• 삭제 방법은 단순한 작업에 대해 높은 유효성을 유지하지만, 잔류 식별자로 인해 높은 사생활 보호 위험이 발생한다.
• 차별적 보장 다항-디리클레 모델은 위험도를 낮추지만, 복잡한 언어 작업에 대해서는 유효성이 떨어진다.
• 신경망 생성 모델은 삭제 및 차별적 보장 모델보다 더 높은 유효성을 달성하며, 특히 복잡한 후행 작업에서 뚜렷한 우수성을 보인다.
• 일부 신경망 합성 모델은 낮은 신원 식별 위험도를 유지하면서도 고급 NLP 작업을 지원할 수 있어 강력한 사생활-유효성 트레이드오프를 보여준다.
• 결과적으로 유효성과 위험도는 본질적으로 상호 트레이드오프이며, 모든 기준에서 최적의 방법이 존재하지 않음을 확인했다.
• 본 연구는 신경망 생성 모델이 강력한 사생활 보장과 높은 연구가치를 동시에 확보할 수 있음을 입증했다.