[论文解读] Collective Privacy Recovery: Data-sharing Coordination via Decentralized Artificial Intelligence

Evangelos Pournaras, Mark C. Ballandies+2 more|arXiv (Cornell University)|Jan 15, 2023

Privacy-Preserving Technologies in Data参考文献 56被引用 5

一句话总结

本文提出了一种去中心化的AI系统，通过协调个体之间的集体数据共享，在维持服务质量的同时最小化隐私损失。基于27,403次真实数据披露的高保真生活实验室实验，结果表明，AI中介的协调机制可实现显著的隐私恢复——隐私预测的R²最高达84%，同时降低服务提供商的成本，优于基于态度、内在动机和奖励机制的数据共享模型。

ABSTRACT

Collective privacy loss becomes a colossal problem, an emergency for personal freedoms and democracy. But, are we prepared to handle personal data as scarce resource and collectively share data under the doctrine: as little as possible, as much as necessary? We hypothesize a significant privacy recovery if a population of individuals, the data collective, coordinates to share minimum data for running online services with the required quality. Here we show how to automate and scale-up complex collective arrangements for privacy recovery using decentralized artificial intelligence. For this, we compare for first time attitudinal, intrinsic, rewarded and coordinated data sharing in a rigorous living-lab experiment of high realism involving >27,000 real data disclosures. Using causal inference and cluster analysis, we differentiate criteria predicting privacy and five key data-sharing behaviors. Strikingly, data-sharing coordination proves to be a win-win for all: remarkable privacy recovery for people with evident costs reduction for service providers.

研究动机与目标

• 探究去中心化AI是否能够协调集体数据共享以最小化隐私损失。
• 评估四种数据共享条件（基于态度、内在动机、奖励机制和协调机制）的有效性。
• 识别隐私敏感型数据共享行为的行为聚类及预测标准。
• 评估AI中介协调在真实场景中的可扩展性与隐私保护特性。
• 证明协调型数据共享可实现双赢：提升用户隐私保护水平，同时降低服务提供商的运营成本。

提出的方法

• 一项持续48小时、包含84名参与者的现场实验室实验，涉及智能手机的实时数据披露。
• 四种实验条件：基于态度（自我报告的隐私敏感度）、内在动机（自愿共享）、奖励机制（激励型共享）和协调机制（AI中介协调）。
• 采用因果推断与聚类分析，识别行为群体并预测数据共享行为。
• 结合联合分析与多元线性回归，估算数据共享标准及要素（传感器、数据收集者、使用情境）的相对重要性。
• 使用自助法验证（clusterboot）评估五个行为聚类的稳定性：隐私无视者、中立者、保护者、奖励寻求者与机会主义者。
• 去中心化、无监督的多智能体AI系统，实现无需信任、隐私保护的协调，且无需集中式数据存储。

实验结果

研究问题

• RQ1 与基于态度、内在动机和奖励机制的数据共享相比，AI中介协调在隐私保护与服务质量方面表现如何？
• RQ2 在不同条件下，哪些是隐私敏感型数据共享行为的关键预测因子？
• RQ3 去中心化AI能否有效协调集体数据共享，在最小化隐私损失的同时维持服务质量？
• RQ4 从真实世界的数据共享决策中，会浮现哪些行为聚类？它们与既有的隐私类型分类是否一致？
• RQ5 协调型数据共享在多大程度上降低了个体的隐私成本以及服务提供商的运营成本？

主要发现

• 协调型数据共享条件在隐私保护方面表现最佳，其对极高隐私水平的预测R²达到0.84，显著优于内在动机（R²=0.86）和奖励机制（R²=0.73）条件。
• 传感器数据（GPS、噪音、光线）在隐私保护中的相对重要性最高（分别为46.82%、41.4%、16.04%），而教育与环境情境的影响最低。
• 与非协调共享相比，AI中介协调系统可将隐私损失最高减少84%，证明对用户和服务提供商均实现双赢。
• 识别出五个稳定的聚类：隐私无视者（16.7%）、中立者（57.14%）、保护者（26.2%）、奖励寻求者（18%）与机会主义者（13%），其自助法稳定性高（Jaccard指数>0.79）。
• 感知隐私敏感度与实际行为存在显著差异：GPS与社交网络被感知为最敏感（分别为51.44%与44.37%），而加速度计与光线传感器则被感知为最不敏感（分别为−48.56%与−44.28%）。
• 在协调条件下，意图与行为之间的不一致显著减少，隐私预测的R²达到0.84，表明用户期望的隐私结果与实际达成结果高度一致。