[논문 리뷰] Discrimination through optimization: How Facebook's ad delivery can lead to skewed outcomes

Muhammad Ali, Piotr Sapieżyński외 4명|arXiv (Cornell University)|2019. 04. 03.

Consumer Market Behavior and Pricing참고 문헌 32인용 수 74

한 줄 요약

본 논문은 페이스북의 광고 노출이 예산과 크리에이티브 콘텐츠에 따라 고용 및 주거 광고를 보는 사람을 왜곡할 수 있으며, 포괄적 타게팅에도 불구하고 플랫폼 최적화와 시장 효과가 차별적 결과를 야기하는 메커니즘을 드러낸다.

ABSTRACT

The enormous financial success of online advertising platforms is partially due to the precise targeting features they offer. Although researchers and journalists have found many ways that advertisers can target---or exclude---particular groups of users seeing their ads, comparatively little attention has been paid to the implications of the platform's ad delivery process, comprised of the platform's choices about which users see which ads. It has been hypothesized that this process can "skew" ad delivery in ways that the advertisers do not intend, making some users less likely than others to see particular ads based on their demographic characteristics. In this paper, we demonstrate that such skewed delivery occurs on Facebook, due to market and financial optimization effects as well as the platform's own predictions about the "relevance" of ads to different groups of users. We find that both the advertiser's budget and the content of the ad each significantly contribute to the skew of Facebook's ad delivery. Critically, we observe significant skew in delivery along gender and racial lines for "real" ads for employment and housing opportunities despite neutral targeting parameters. Our results demonstrate previously unknown mechanisms that can lead to potentially discriminatory ad delivery, even when advertisers set their targeting parameters to be highly inclusive. This underscores the need for policymakers and platforms to carefully consider the role of the ad delivery optimization run by ad platforms themselves---and not just the targeting choices of advertisers---in preventing discrimination in digital advertising.

연구 동기 및 목표

• 페이스북의 광고 노출이 타깃 매개변수에 관계없이 인구통계학적 그룹 간에 편향된 노출을 초래할 수 있는지 평가한다.
• 성별과 인종을 따라 노출 편향에 미치는 예산, 광고 크리에이티브, 이미지의 영향을 정량화한다.
• 자동화된 관련성 분류가 초기 노출 편향에 기여하는지 조사한다.
• 고용 및 주거 광고의 실제 세계에 대한 함의와 규제 고려사항을 제시한다.

제안 방법

• 제어된 타깃팅과 다양한 예산 및 크리에이티브를 가진 수십 건의 페이스북 광고 캠페인을 실행한다.
• 페이스북 마케팅 API를 활용해 인구통계학적 차원에서 2분 간격으로 노출 통계치를 수집한다.
• DMA 수준 위치 프록시와 공개된 유권자 인종 데이터를 사용해 인종별 노출을 추정하는 방법을 개발한다.
• 타깃팅을 일정하게 유지한 채 예산 수준, 광고 크리에이티브 콘텐츠, 이미지 요소에 따른 노출 편향을 비교한다.
• 실제 고용 및 주거 광고를 대상으로 실험을 수행해 차별대상 집단 표시에 따른 편향을 관찰한다.

실험 결과

연구 질문

• RQ1 타깃팅이 중립적이거나 포괄적이어도 시장/최적화 효과 하에서 광고 노출의 편향이 발생하는가?
• RQ2 예산, 크리에이티브 콘텐츠, 그리고 이미지가 노출된 대상의 인구통계학적 구성에 어떻게 영향을 미치는가?
• RQ3 자동화된 관련성 평가가 사용자 상호작용과 무관하게 초기 노출 편향에 기여할 수 있는가?
• RQ4 동일한 타깃팅 하에서도 실제 고용 및 주거 광고가 배달에서 상당한 인구통계학적 편향을 보이는가?

주요 결과

• 시장 효과만으로 편향된 노출이 발생하며 예산에 따라 청중 구성가 달라진다(예: 매우 낮은 예산에서 남성 비율이 >55%, 높은 예산에서 남성 비율이 <45%).
• 광고 크리에이티브 콘텐츠는 노출 편향에 강하게 영향을 주며, 특정 고정관념이 동일한 타깃팅 하에서 남성 >80% 또는 여성 >90%의 노출을 유도한다.
• 광고 이미지가 독립적으로 노출에 영향을 미치며, 헤드라인/본문/이미지를 바꿔도 노출 패턴이 달라지므로 이미지 기반의 관련성 신호를 시사한다.
• 페이스북의 자동 이미지 분류는 광고 실행 초기부터 편향에 기여하는 경향이 있으며, 시각적으로 구분되지 않는 이미지가 다른 노출을 보인다.
• 실제 고용 및 주거 광고는 동일한 타깃팅 하에서도 상당한 편향을 보이며, 예를 들어 특정 직업 광고는 백인 72%, 남성 90%에 도달하거나 캐셔 광고의 경우 85%가 여성이며, 주거 광고는 일부 변형에서 흑인 비율이 >72%, 다른 변형에서 >51%까지 흑인 비율이 나타난다.
• 이 연구 결과는 광고 전달 최적화와 시장 효과가 타깃팅 컨트롤을 넘어 차별적 결과를 만들어 낼 수 있음을 시사하며, 규제 및 플랫폼 고려를 촉발한다.