[논문 리뷰] Statistical Discrimination in Ratings-Guided Markets

Yeon‐Koo Che, Kyungmin Kim외 1명|arXiv (Cornell University)|2020. 04. 24.

Names, Identity, and Discrimination Research참고 문헌 19인용 수 4

한 줄 요약

이 논문은 디지털 마켓플레이스에서 평가 기반 사회적 학습이, 그룹 신분이 수익과 관련이 없음에도 불구하고 사회적 집단에 대한 통계적 차별을 암묵적으로 유도할 수 있음을 보여준다. 지정된 검색과 부정확한 평가에 기반한 베이지안 업데이트 모델을 통해, 구매자 주의 집중에 의해 유도되는 선택적 샘플링이 중간 정도의 평가 정확도일 경우, 차별적 평형을 유지하는 피드백 루프를 생성함을 밝혀낸다.

ABSTRACT

We study statistical discrimination of individuals based on payoff-irrelevant social identities in markets that utilize ratings and recommendations for social learning. Even though rating/recommendation algorithms can be designed to be fair and unbiased, ratings-based social learning can still lead to discriminatory outcomes. Our model demonstrates how users' attention choices can result in asymmetric data sampling across social groups, leading to discriminatory inferences and potential discrimination based on group identities.

연구 동기 및 목표

• 평가 기반 사회적 학습이 그룹 신분이 수익과 관련이 없음에도 불구하고 사회적 집단에 대한 통계적 차별을 유도할 수 있는지 조사하기 위해.
• 지정된 검색에서 구매자 주의 집중에 의해 유도되는 선택적 데이터 샘플링이 어떻게 차별적 추론을 생성하는지 분석하기 위해.
• 알고리즘이 편향이 없고 평가가 불완전할 때조차도 차별적 평형이 어떻게 발생할 수 있는지, 그리고 어떤 조건에서 발생하는지 조사하기 위해.
• Coate와 Loury(1993a)의 모델과 비교하여, 자가실현적 예언과 평형 안정성 측면에서 통계적 차별의 메커니즘을 분석하기 위해.
• 평가 지도 플랫폼에서 거래 관계를 규제하고 공정한 알고리즘을 설계하기 위한 정책적 함의를 탐색하기 위해.

제안 방법

• 장기적인 구매자와 판매자를 포함하는 이원적이고 마찰이 있는 시장 모델을 설정하며, 판매자는 두 사회적 집단(j=1,2)에 속하고 확률적으로 변화하는 생산적 유형(H 또는 L)을 가진다.
• 이진 평가(G 또는 B)를 도입하며, 각 거래 후 업데이트되며, 정확도는 α ∈ (0,1)로 매개변수화되어 잘못된 평가를 수정할 확률을 나타낸다.
• 구매자 검색 행동은 주의 집중 할당을 통해 기술되며, 구매자는 평가와 집단 신분에 따라 판매자를 타겟으로 검색하여 판매자의 샘플링 방식을 차별화한다.
• 베이지안 업데이트를 사용하여, 구매자가 관측된 평가와 집단 신분에 기반해 판매자 유형에 대한 믿음을 형성하고, 이 믿음이 시간에 따라 변화함을 모델링한다.
• 믿음 형성, 주의 집중 할당, 매칭 확률 간의 관계를 연결하는 방정식 시스템을 사용하여 정적 평형을 분석한다.
• 시스템을 재매개변수화하기 위해 변환 λ′ ≡ λβ^(1/k)를 사용하며, 이는 차별적 평형 존재 조건을 유도하고, 평형 존재 여부가 중간 범위의 평가 품질에 의존함을 보여준다.

실험 결과

연구 질문

• RQ1 그룹 신분이 수익과 관련이 없고 알고리즘이 편향이 없을 때조차도 평가 지도 시장에서 통계적 차별이 발생할 수 있는가?
• RQ2 선택적 샘플링(구매자 주의 집중에 의해 유도됨)이 사회적 집단에 대한 차별적 추론을 어떻게 가능하게 하거나 지속시키는가?
• RQ3 차별적 평형이 존재하는 조건은 무엇이며, 이는 평가 정확도와 다양한 집단에 할애된 주의 수준에 따라 어떻게 달라지는가?
• RQ4 자기실현적 예언 측면에서 Coate와 Loury(1993a)의 모델과 비교할 때, 차별적 평형과 비차별적 평형의 안정성은 어떻게 다를까?
• RQ5 주의, 샘플링, 믿음 형성 간의 피드백 루프가 알고리즘 사회적 학습의 공정성을 강화하거나 약화시키는 정도는 어느 정도인가?

주요 결과

• 차별적 평형은 평가 품질 매개변수 β가 중간 범위(β ∈ (β̲, β̄))에 있을 때만 존재하며, 이는 평가가 너무 노이즈가 많거나 너무 정확하지 않을 경우 차별이 발생하기 어려움을 시사한다.
• 피드백 루프는 주로 더 많은 주의를 받는 집단의 판매자들이 더 많은 매칭을 얻고, 그로 인해 더 많은 데이터를 확보함으로써 더 유리한 믿음을 강화함으로써 발생한다—심지어 평가가 동일하더라도 말이다.
• 비차별적 평형이 유일하게 존재하더라도 차별은 지속될 수 있으며, 이는 다수의 평형이 존재하지 않아도 차별이 발생할 수 있음을 보여준다.
• 비차별적 평형은 종종 불안정한 반면, 차별적 평형은 안정적이므로 모델에서 차별은 더 강력한 결과로 나타난다.
• Coate와 Loury(1993a)의 모델과 달리, 이 모델의 메커니즘은 내재된 인간 자본 투자 대신 과거의 데이터 샘플링과 믿음 형성에 의해 차별이 유도됨을 보여준다.
• 알고리즘적 공정성이 추천 시스템에만 존재할 경우, 주의 집중 할당에 의해 편향된 기초 데이터 샘플링 과정이 존재한다면 차별을 방지할 수 없다는 점을 모델이 보여준다.