[논문 리뷰] Discrimination through Optimization: How Facebook's Ad Delivery Can Lead to Biased Outcomes

Muhammad Ali, Piotr Sapieżyński외 4명|arXiv (Cornell University)|2019. 11. 07.

Consumer Market Behavior and Pricing참고 문헌 33인용 수 116

한 줄 요약

이 논문은 광고주가 중립적인 타겟팅을 사용할 때조차도 플랫폼 수준의 관련성 및 광고 성과 최적화로 인해 페이스북의 광고 배달 알고리즘이 성별 및 인종 기반으로 차별적인 결과를 낳을 수 있음을 입증한다. 연구는 예산 배분과 광고 콘텐츠가 심각하게 영향을 미치며, 포함적 타겟팅 설정에도 불구하고 주거 및 취업 광고의 시각화에 불균형을 초래함을 드러낸다.

ABSTRACT

The enormous financial success of online advertising platforms is partially due to the precise targeting features they offer. Although researchers and journalists have found many ways that advertisers can target---or exclude---particular groups of users seeing their ads, comparatively little attention has been paid to the implications of the platform's ad delivery process, comprised of the platform's choices about which users see which ads. It has been hypothesized that this process can ad delivery in ways that the advertisers do not intend, making some users less likely than others to see particular ads based on their demographic characteristics. In this paper, we demonstrate that such skewed delivery occurs on Facebook, due to market and financial optimization effects as well as the platform's own predictions about the relevance of ads to different groups of users. We find that both the advertiser's budget and the content of the ad each significantly contribute to the skew of Facebook's ad delivery. Critically, we observe significant skew in delivery along gender and racial lines for real ads for employment and housing opportunities despite neutral targeting parameters. Our results demonstrate previously unknown mechanisms that can lead to potentially discriminatory ad delivery, even when advertisers set their targeting parameters to be highly inclusive. This underscores the need for policymakers and platforms to carefully consider the role of the ad delivery optimization run by ad platforms themselves---and not just the targeting choices of advertisers---in preventing discrimination in digital advertising.

연구 동기 및 목표

• 광고주가 타겟팅 선택을 독립적으로 할 때 페이스북의 광고 배달 시스템이 차별적인 결과를 낳을 수 있는지 조사하기 위해.
• 관련성 예측과 재정적 인centives에 의해 이끄는 플랫폼 수준 최적화가 다양한 인구 집단 간 광고 노출에 어떻게 영향을 미치는지 검토하기 위해.
• 광고 콘텐츠와 예산이 취업 및 주거 광고의 왜곡된 배달에 미치는 영향을 평가하기 위해.
• 플랫폼의 배달 알고리즘이 디지털 광고에서 이전에 간과되었던 체계적 편향의 원천임을 부각하기 위해.

제안 방법

• 중립적 타겟팅 파rameters를 사용한 실제 페이스북 광고를 활용해 통제된 실험을 수행하였다.
• 배달 격차를 측정하기 위해 다양한 인구 집단 간 광고 콘텐츠와 예산 수준을 변화시켰다.
• 광고 시각화 및 참여도에 대한 플랫폼 보고 지표를 사용해 결과를 분석하였다.
• 성별 및 인종 집단 간의 배달 비율을 비교하여 체계적인 편향을 탐지하였다.
• 페이스북의 관련성 점수 및 최적화 알고리즘이 광고 배포에 미치는 영향을 평가하였다.

실험 결과

연구 질문

• RQ1 광고주가 중립적 타겟팅을 사용할 때조차도 페이스북의 광고 배달 시스템이 차별적인 결과를 낳을 수 있는가?
• RQ2 광고 콘텐츠와 예산이 다양한 인구 집단 간 광고 배달의 왜곡에 어느 정도 기여하는가?
• RQ3 관련성 예측 및 재정적 인센티브와 같은 플랫폼 수준 최적화 메커니즘이 불균형한 광고 시각화에 어떻게 기여하는가?
• RQ4 성별 및 인종 기반으로 취업 및 주거 광고의 측정 가능한 배달 격차가 존재하는가?

주요 결과

• 중립적 타겟팅 파rameters가 적용되었음에도 불구하고 페이스북의 광고 배달 시스템은 취업 및 주거 광고의 성별 및 인종 기반으로 심각한 시각화 편향을 초래하였다.
• 광고 콘텐츠와 예산 배분이 배달 결과의 편향에 크게 기여하는 것으로 밝혀졌다.
• 관련성 및 성과 최적화로 인해 광고주 의도와는 달리 일부 인구 집단의 시각화가 감소하였다.
• 광고주가 특정 집단을 명시적으로 배제하지 않았음에도 불구하고 편향된 배달가 발생했으며, 이는 플랫폼의 알고리즘적 프로세스가 차별의 핵심 원천임을 시사한다.
• 이 연구는 플랫폼 기반의 배달 메커니즘이 광고주 의도와는 무관하게 편향을 지속시킬 수 있음을 드러내며, 디지털 광고 생태계에서의 체계적 문제를 강조한다.