[论文解读] No Intruder, no Validity: Evaluation Criteria for Privacy-Preserving Text Anonymization

Maximilian Mozes, Bennett Kleinberg|arXiv (Cornell University)|Mar 16, 2021

Privacy-Preserving Technologies in Data参考文献 10被引用 8

一句话总结

本文提出了TILD，一种全面的隐私保护文本匿名化评估框架，整合了技术检测性能、信息损失（效用与结构损失）以及人为去匿名化抵抗能力。研究表明，仅依赖技术指标不足以确保隐私安全，因为即使缺少一个标识性属性，也可能导致重新识别，因此主张通过人工参与的渗透测试来验证匿名化方案的鲁棒性。

ABSTRACT

For sensitive text data to be shared among NLP researchers and practitioners, shared documents need to comply with data protection and privacy laws. There is hence a growing interest in automated approaches for text anonymization. However, measuring such methods' performance is challenging: missing a single identifying attribute can reveal an individual's identity. In this paper, we draw attention to this problem and argue that researchers and practitioners developing automated text anonymization systems should carefully assess whether their evaluation methods truly reflect the system's ability to protect individuals from being re-identified. We then propose TILD, a set of evaluation criteria that comprises an anonymization method's technical performance, the information loss resulting from its anonymization, and the human ability to de-anonymize redacted documents. These criteria may facilitate progress towards a standardized way for measuring anonymization performance.

研究动机与目标

• 为解决现有自动化文本匿名化系统评估标准中的关键空白问题，这些标准通常忽视了即使技术性能优异，仍存在重新识别风险。
• 论证当前评估方法未能反映现实世界中的隐私保护需求，特别是当缺少单一标识性属性即可破坏匿名性时。
• 提出TILD——一种标准化的、多维度评估框架，结合技术检测、信息损失与人为去匿名化测试，以提升匿名化系统评估的可靠性与可比性。
• 鼓励研究者与从业者采用更严格的评估实践，以真实反映其系统在隐私保护方面的能力。

提出的方法

• 提出TILD，一种三元评估框架：技术工具评估、信息损失评估与去匿名化测试。
• 使用标准NLP指标（如精确率、召回率）评估个人身份信息（PII）检测的准确性。
• 通过统计检验比较原始文本与匿名化文本在模型性能（如情感分类）上的差异，衡量效用损失。
• 通过语言学特征（如情感、句法复杂度）评估结构损失，以检测高层次文本属性的失真。
• 采用人工攻击者测试——利用MTurk或Prolific Academic等众包平台，让参与者尝试使用公开资源重新识别个体。
• 将成功去匿名化次数与总尝试次数的比率作为关键性能指标，模拟真实世界中的重新识别风险。

实验结果

研究问题

• RQ1 仅依靠现有技术评估指标能否确保文本匿名化系统真正保护个人隐私？
• RQ2 匿名化在多大程度上改变了文本的语言学特性和预测效用？这种损失如何实现定量测量？
• RQ3 有动机的人工攻击者能否利用公开信息从匿名化文本中重新识别个体？其成功频率如何？
• RQ4 当结合技术、语言学与人工评估标准时，不同匿名化系统之间的表现如何比较？

主要发现

• 仅依赖技术检测指标的现有评估标准不足以确保隐私保护，因为它们无法识别出因缺少单一标识性属性而导致重新识别的情况。
• 信息损失（包括效用损失与结构损失）可被定量测量，是判断匿名化数据是否仍适用于二次分析的关键因素。
• 人为去匿名化测试，特别是通过众包渗透测试，揭示了自动化指标所忽略的漏洞，成功去匿名化即表明系统失效。
• 所提出的TILD框架提供了一种标准化、多维的匿名化系统评估方法，提升了隐私保护NLP技术的透明度与可靠性。
• 研究表明，即使匿名化过程中存在微小遗漏（如遗漏一个昵称或独特引用），也可能导致极高的重新识别风险，从而彻底破坏整个匿名化努力。