[论文解读] Measuring Discrepancies in Airbnb Guest Acceptance Rates Using Anonymized Demographic Data

Siddhartha Basu, Ruthie Berman+7 more|arXiv (Cornell University)|Apr 25, 2022

Sharing Economy and Platforms被引用 4

一句话总结

本文提出了一种保护隐私的系统，用于使用匿名化的人口统计学数据测量 Airbnb 客人预订流程中的种族体验差距，通过 p-sensitive k-匿名化方法防止重新识别。仿真结果表明，该方法的精度与非匿名化数据相当，可在不损害用户隐私的前提下实现公平的平台政策评估。

ABSTRACT

In order to make technological systems and platforms more equitable, organizations must be able to measure the scale of potential inequities as well as the efficacy of proposed solutions. In this paper, we present a system that measures discrepancies in platform user experience that are attributable to perceived race (experience gaps) using anonymized data. This allows for progress to be made in this area while limiting any potential privacy risk. Specifically, the system enforces the privacy model of p-sensitive k-anonymity to conduct measurement without ever storing or having access to a 1:1 mapping between user identifiers and perceived race. We test this system in the context of the Airbnb guest booking experience. Our simulation-based power analysis shows that the system can measure the efficacy of proposed platform-wide interventions with comparable precision to non-anonymized data. Our work establishes that measurement of experience gaps with anonymized data is feasible and can be used to guide the development of policies to promote equitable outcomes for users of Airbnb as well as other technology platforms.

研究动机与目标

• 开发一种在不损害用户隐私的前提下测量 Airbnb 客人接受率中感知种族差异的方法。
• 确保永远不会存储或访问用户标识符与感知种族之间的 1:1 映射关系。
• 使用与非匿名化方法精度相当的匿名化数据，评估平台级干预措施在公平性方面的有效性。
• 建立一个可扩展的、保护隐私的框架，适用于面临类似公平性挑战的其他数字平台。

提出的方法

• 该系统使用 p-sensitive k-匿名化对用户数据进行匿名化处理，确保每个用户记录在至少 k-1 个具有相同感知种族的其他记录中无法被区分。
• 匿名化的人口统计学数据源自基于公开数据训练的名称推断模型，用于估计感知种族。
• 通过基于仿真的统计功效分析，评估在不同感知种族群体之间检测客人接受率差异的统计精度。
• 该方法避免存储或访问用户标识符与感知种族之间的直接关联，从而最大限度降低隐私风险。
• 通过合成数据仿真验证该框架，评估其检测接受率中显著差异的能力。

实验结果

研究问题

• RQ1 能否使用匿名化的人口统计数据准确测量 Airbnb 客人预订流程中的体验差距？
• RQ2 p-sensitive k-匿名化模型在多大程度上保护了隐私，同时保持了测量精度？
• RQ3 使用匿名化数据检测差异的精度与非匿名化数据相比如何？
• RQ4 该系统能否可靠地评估平台级公平性干预措施的影响？

主要发现

• 仿真统计功效分析证实，该系统实现的测量精度与非匿名化数据相当。
• p-sensitive k-匿名化模型通过确保用户 ID 与感知种族之间不存在 1:1 映射，成功防止了重新识别。
• 该方法能够以高置信度检测出不同感知种族群体之间客人接受率的统计显著差异。
• 该框架具有可扩展性和通用性，可适用于其他希望审计和改善用户体验公平性的数字平台。