[论文解读] Statistical Discrimination in Ratings-Guided Markets

Yeon‐Koo Che, Kyungmin Kim+1 more|arXiv (Cornell University)|Apr 24, 2020

Names, Identity, and Discrimination Research参考文献 19被引用 4

一句话总结

本文表明，在数字市场中，基于评分的社会学习可能在群体身份与收益无关的情况下，无意中导致对社会群体的统计歧视。通过构建一个带有不完美评分的定向搜索与贝叶斯更新模型，研究发现，由买家注意力驱动的选择性采样会形成反馈回路，当评分准确性处于中等水平时，这些回路会维持歧视性均衡。

ABSTRACT

We study statistical discrimination of individuals based on payoff-irrelevant social identities in markets that utilize ratings and recommendations for social learning. Even though rating/recommendation algorithms can be designed to be fair and unbiased, ratings-based social learning can still lead to discriminatory outcomes. Our model demonstrates how users' attention choices can result in asymmetric data sampling across social groups, leading to discriminatory inferences and potential discrimination based on group identities.

研究动机与目标

• 调查在群体身份与收益无关的情况下，数字市场中基于评分的社会学习如何可能导致对社会群体的统计歧视。
• 分析由定向搜索中买家注意力驱动的选择性数据采样在生成歧视性推断中的作用。
• 考察在算法无偏且评分不完美时，歧视性均衡是否以及在何种条件下会出现。
• 将本模型中的统计歧视机制与Coate和Loury（1993a）的机制进行比较，尤其关注自我实现预言和均衡稳定性方面的异同。
• 探讨监管交易关系和设计更公平的评分引导型平台算法的政策含义。

提出的方法

• 构建一个双边、具有摩擦的市场模型，其中买家和卖家为长期参与者，卖家属于两个社会群体之一（j=1,2），其生产类型（H或L）随时间随机演变。
• 引入二元评分（G或B），每次交易后更新，评分准确性由参数α ∈ (0,1) 表示，即纠正错误评分的概率。
• 通过注意力分配来刻画买家的搜索行为：买家根据评分和群体身份进行定向搜索，导致对不同卖家的采样存在差异。
• 使用贝叶斯更新来建模买家如何基于观察到的评分和群体身份形成对卖家类型的信念，且信念随时间演变。
• 通过一组联立方程分析稳态均衡，这些方程关联了信念形成、注意力分配与匹配概率。
• 采用变换 λ′ ≡ λβ^(1/k) 对系统进行重参数化，推导出歧视性均衡存在的条件，表明其存在取决于评分质量的中间范围。

实验结果

研究问题

• RQ1 当群体身份与收益无关且算法无偏时，基于评分的市场中是否仍可能出现统计歧视？
• RQ2 由买家注意力驱动的选择性采样在促成或持续歧视性推断方面起到何种作用？
• RQ3 在何种条件下存在歧视性均衡？其存在如何依赖于评分的准确性以及对不同群体注意力的分配水平？
• RQ4 与Coate和Loury（1993a）相比，歧视性与非歧视性均衡的稳定性有何不同，特别是在自我实现预言方面？
• RQ5 注意力、采样与信念形成之间的反馈回路在多大程度上会强化或削弱算法社会学习中的公平性？

主要发现

• 只有当评分质量参数 β 落在中间范围（β ∈ (β̲, β̄)）时，歧视性均衡才会存在，表明当评分既不太嘈杂也不太准确时，歧视最可能发生。
• 反馈回路的产生是因为获得更高注意力的群体其卖家获得更多匹配机会，从而积累更多数据，这进一步强化了对其更有利的信念——即使其评分完全相同。
• 即使存在唯一的非歧视性均衡，歧视仍可能持续存在，表明歧视的出现并不要求存在多重均衡。
• 非歧视性均衡通常不稳定，而歧视性均衡则稳定，这使得在模型中歧视成为更稳健的结果。
• 该机制与Coate和Loury（1993a）不同，因为本模型中的歧视是由过去的数据采样和信念形成驱动，而非由内生的人力资本投资驱动。
• 模型表明，若底层数据采样过程因注意力分配而产生偏差，则仅靠推荐算法的公平性不足以防止歧视。