[論文レビュー] Privacy Protection for Natural Language Records: Neural Generative Models for Releasing Synthetic Twitter Data

Alexander G. Ororbia, Fridolin Linder+1 more|arXiv (Cornell University)|Jun 3, 2016

Privacy-Preserving Technologies in Data参考文献 54被引用数 4

ひとこと要約

本稿では、プライバシーを守るためのTwitterデータ合成のためのニューラル生成モデルを提案し、リスクとユーティリティの指標に基づいて3つの手法—削除処理、微分プライバシー保証モデル、ニューラル生成—を評価している。ニューラル生成は、複雑なタスクにおいてより高いユーティリティを達成するとともに、削除処理や単純なモデルよりも低い識別リスクを維持していることが判明した。

ABSTRACT

In this paper we consider methods for sharing free text Twitter data, with the goal of protecting the privacy of individuals in the data while still releasing data that carries research value, i.e. minimizes risk and maximizes utility. We propose three protection methods: simple redaction of hashtags and twitter handles, an epsilon-differentially private Multinomial-Dirichlet synthesizer, and novel synthesis models based on a neural generative model. We evaluate these three methods using empirical measures of risk and utility. We define risk based on possible identification of users in the Twitter data, and we define utility based on two general language measures and two model-based tasks. We find that redaction maintains high utility for simple tasks but at the cost of high risk, while some neural synthesis models are able to produce higher levels of utility, even for more complicated tasks, while maintaining lower levels of risk. In practice, utility and risk present a trade-off, with some methods offering lower risk or higher utility. This work presents possible methods to approach the problem of privacy for free text and which methods could be used to meet different utility and risk thresholds.

研究の動機と目的

• 自由なテキストを含むTwitterデータを共有する際の個人のプライバシー保護という課題に対処すること。
• 自然言語処理タスクに適した高い研究ユーティリティを維持するプライバシー保護手法を評価すること。
• プライバシーリスクとデータユーティリティの間で良好なトレードオフを達成する手法を同定すること。
• 識別リスクとユーティリティの観点から、削除処理、微分プライバシー保証モデル、ニューラル生成的合成の3つを比較すること。
• 望ましいリスクとユーティリティの閾値に基づいて、合成手法の選定に関する実用的ガイダンスを提供すること。

提案手法

• 著者たちは、プライバシーリスクを低減するために、ハッシュタグとTwitterアカウント名の単純な削除処理を実装した。
• 形式的なプライバシー保証を確保するため、エプシロン・マイナス・プライバシー保証付きの多項分布-ディリクレ分布シンセサイザーを開発した。
• 生のTwitterテキストを学習データとして用い、言語的パターンを保持した合成シーケンスを生成する、新しいニューラル生成モデルを提案した。
• 合成データは、ユーザーの再識別可能性に基づく経験的リスク指標を用いて評価された。
• ユーティリティは、2つの一般的な言語指標と2つのモデルベースの下流タスクを用いて測定された。
• リスクとユーティリティの両面から各手法を比較し、トレードオフを同定した。

実験結果

リサーチクエスチョン

• RQ1 異なるデータ公開手法は、Twitterテキストにおける個人の識別リスクにどのように影響を与えるか？
• RQ2 ニューラル生成モデルは、プライバシーリスクを最小限に抑えると同時に、言語的ユーティリティをどの程度維持できるか？
• RQ3 さまざまな合成手法において、プライバシーリスクとユーティリティの間にはどのようなトレードオフが存在するか？
• RQ4 微分プライバシー保証モデルは、自然言語処理研究タスクに十分なユーティリティを維持できるか？
• RQ5 特定の研究ニーズに最も適した、プライバシーとユーティリティのバランスが取れた手法は何か？

主な発見

• 削除処理は、簡単なタスクでは高いユーティリティを維持するが、残留識別子のため、高いプライバシーリスクを引き起こす。
• 微分プライバシー保証付きの多項分布-ディリクレ分布モデルはリスクを低減するが、複雑な言語処理タスクではユーティリティが低下する。
• ニューラル生成モデルは、削除処理や微分プライバシー保証モデルよりも高いユーティリティを達成しており、特に複雑な下流タスクにおいて顕著である。
• 一部のニューラル合成モデルは、低い識別リスクを維持しながら、高度なNLPタスクをサポートできており、強力なプライバシー-ユーティリティのトレードオフを示している。
• 結果から、ユーティリティとリスクは本質的にトレードオフの関係にあり、すべての閾値において最適な手法は存在しないことが明らかになった。
• 本研究は、強力なプライバシー保証と高い研究価値を備えた合成Twitterデータの公開が、ニューラル生成モデルによって実現可能であることを示した。