[論文レビュー] Statistical Discrimination in Ratings-Guided Markets

Yeon‐Koo Che, Kyungmin Kim+1 more|arXiv (Cornell University)|Apr 24, 2020

Names, Identity, and Discrimination Research参考文献 19被引用数 4

ひとこと要約

この論文は、報酬に影響しないグループアイデンティティであっても、デジタルマーケットプレイスにおけるレーティングベースのソーシャルリーニングが、意図せず統計的差別を引き起こす可能性があることを示している。部分的レーティングの下での指向的探索とベイズ更新のモデルを通じて、購入者の注目によって引き起こされる選択的サンプリングが、中程度のレーティング精度の下で、差別の的均衡を維持するフィードバックループを生じることを示している。

ABSTRACT

We study statistical discrimination of individuals based on payoff-irrelevant social identities in markets that utilize ratings and recommendations for social learning. Even though rating/recommendation algorithms can be designed to be fair and unbiased, ratings-based social learning can still lead to discriminatory outcomes. Our model demonstrates how users' attention choices can result in asymmetric data sampling across social groups, leading to discriminatory inferences and potential discrimination based on group identities.

研究の動機と目的

• グループアイデンティティが報酬に影響しない状況下でも、デジタルマーケットプレイスにおけるレーティングベースのソーシャルリーニングが、どのように社会的グループに対する統計的差別を引き起こすかを調査すること。
• 指向的探索における購入者の注目によって引き起こされる選択的データサンプリングが、どのように差別的推論を生じさせるかを分析すること。
• アルゴリズムが偏りがなく、レーティングが不完全であっても、差別的均衡が発生するかどうか、およびその条件を特定すること。
• コートとルリー（1993a）のモデルと比較し、自己実現的予言と均衡安定性の観点から、統計的差別のメカニズムの違いを検討すること。
• レーティングに従うプラットフォームにおける取引関係の規制と、より公平なアルゴリズムの設計に向けた政策的含意を検討すること。

提案手法

• 長期的な買い手と売り手が存在する二面的で、摩擦のある市場をモデル化し、売り手は二つの社会的グループ（j=1,2）に属し、確率的に変化する生産的タイプ（H または L）を持つ。
• 二値のレーティング（G または B）を導入し、取引後に更新され、精度は α ∈ (0,1) でパrameterizedされ、誤ったレーティングを是正する確率を表す。
• 購入者の探索行動を注目配分として捉え、レーティングとグループアイデンティティに基づいて検索が行われ、売り手の差別のサンプリングが生じる。
• ベイズ更新を用いて、購入者が観察したレーティングとグループアイデンティティに基づき、売り手タイプに関する信念を形成するプロセスをモデル化し、信念が時間とともに変化することを示す。
• 信念形成、注目配分、マッチング確率を結びつける方程式系を用いて、定常状態の均衡を分析する。
• 変換 λ′ ≡ λβ^(1/k) を用いてシステムを再パラメータ化し、差別的均衡が存在する条件を導出し、その存在がレーティング品質の中程度の範囲に依存することを示している。

実験結果

リサーチクエスチョン

• RQ1 グループアイデンティティが報酬に影響しない状況下でも、レーティングに従う市場において統計的差別が発生する可能性があるか？
• RQ2 購入者の注目によって引き起こされる選択的サンプリングが、社会的グループに関する差別的推論の生成または継続に果たす役割は何か？
• RQ3 差別的均衡が存在する条件は何か。また、その条件はレーティングの正確性と、異なるグループに対する注目のレベルにどのように依存するか？
• RQ4 自己実現的予言の観点から、自己実現的予言の観点から、本モデルにおける差別的均衡と非差別的均衡の安定性は、コートとルリー（1993a）のモデルとどのように異なるか？
• RQ5 注目、サンプリング、信念形成の間のフィードバックループは、アルゴリズム的ソーシャルリーニングにおける公平性を強化するか、それとも損なうか？

主な発見

• 差別的均衡が存在するのは、レーティング品質パラメータ β が中程度の範囲（β ∈ (β̲, β̄)）にある場合に限る。これは、レーティングがあまりにノイジーでも、あまりに正確でもない場合に差別が最も生じやすいことを示している。
• フィードバックループは、注目がより高いグループの売り手がより多くのマッチングを獲得し、より多くのデータが得られることに起因する。これにより、同じレーティングであっても、より好意的な信念が強化される。
• 非差別的均衡が一意に存在する場合でも、差別は持続可能であり、複数の均衡が存在する必要はないことが示されている。
• 非差別的均衡はしばしば不安定である一方、差別的均衡は安定的であり、モデル内では差別がより強固な結果となる。
• 本モデルのメカニズムは、コートとルリー（1993a）とは異なり、差別は内生的ヒューマンキャピタル投資ではなく、過去のデータサンプリングと信念形成に起因する。
• 本モデルは、レコメンデーションにおけるアルゴリズム的公平性が、注目配分によるデータサンプリングのバイアスが存在する限り、差別を防げないことを示している。