[論文レビュー] Measuring Discrepancies in Airbnb Guest Acceptance Rates Using Anonymized Demographic Data

Siddhartha Basu, Ruthie Berman+7 more|arXiv (Cornell University)|Apr 25, 2022

Sharing Economy and Platforms被引用数 4

ひとこと要約

本論文は、匿名化された人種的背景データを用いて、Airbnbのゲスト予約プロセスにおける人種的経験格差をプライバシーを守りつつ測定するためのシステムを提案する。p-感度k-匿名性を適用することで、再特定が不可能となる。シミュレーションにより、非匿名化データと同等の精度を達成できることを示しており、ユーザーのプライバシーを損なうことなく公平性の高いプラットフォーム政策の評価が可能となる。

ABSTRACT

In order to make technological systems and platforms more equitable, organizations must be able to measure the scale of potential inequities as well as the efficacy of proposed solutions. In this paper, we present a system that measures discrepancies in platform user experience that are attributable to perceived race (experience gaps) using anonymized data. This allows for progress to be made in this area while limiting any potential privacy risk. Specifically, the system enforces the privacy model of p-sensitive k-anonymity to conduct measurement without ever storing or having access to a 1:1 mapping between user identifiers and perceived race. We test this system in the context of the Airbnb guest booking experience. Our simulation-based power analysis shows that the system can measure the efficacy of proposed platform-wide interventions with comparable precision to non-anonymized data. Our work establishes that measurement of experience gaps with anonymized data is feasible and can be used to guide the development of policies to promote equitable outcomes for users of Airbnb as well as other technology platforms.

研究の動機と目的

• ユーザーのプライバシーを損なわず、Airbnbゲストの受け入れ率における人種に基づく差別の測定手法を開発すること。
• ユーザー識別子と人種の認識の間の1対1マッピングが、いかなる場合にも保存されないしアクセスされないことを保証すること。
• 非匿名化アプローチと同等の精度で、プラットフォーム全体の介入が公平性に与える影響を評価すること。
• 他のデジタルプラットフォームが同様の公平性課題に直面する場合に適用可能なスケーラブルでプライバシーを守るフレームワークを確立すること。

提案手法

• システムはp-感度k-匿名性を用いてユーザーのデータを匿名化し、各ユーザーの記録が同じ人種的認識を持つk-1人以上の他の記録と区別できないように保証する。
• 匿名化された人種的背景データは、公開データを用いて訓練された名前ベースの推定モデルから得られる。
• 客観的な差の検出における統計的精度を評価するために、シミュレーションに基づくパワー分析が実施される。
• ユーザー識別子と人種の認識の直接的なリンクを保存またはアクセスしないため、プライバシーのリスクが最小限に抑えられる。
• 合成データを用いたシミュレーションにより、フレームワークが人種的認識グループ間での受け入れ率の有意差を検出できる能力を評価する。

実験結果

リサーチクエスチョン

• RQ1 匿名化された人種的背景データを用いて、Airbnbのゲスト予約プロセスにおける経験格差を正確に測定できるか？
• RQ2 p-感度k-匿名性モデルは、測定精度を維持しつつ、どれほどプライバシーを保護できるか？
• RQ3 匿名化データを用いた格差検出の精度は、非匿名化データと比べてどの程度か？
• RQ4 このシステムは、プラットフォーム全体の公平性向上施策の影響を信頼性高く評価できるか？

主な発見

• シミュレーションに基づくパワー分析により、非匿名化データと同等の測定精度を達成していることが確認された。
• p-感度k-匿名性モデルにより、ユーザーIDと人種の認識の間の1対1マッピングがないため、再特定が防止された。
• 高い信頼性で、人種的認識グループごとのゲスト受け入れ率に統計的に有意な差を検出できる。
• スケーラブルかつ一般化可能であり、他のデジタルプラットフォームがユーザー体験の公平性を監査・向上させたい場合に応用可能である。