[論文レビュー] Discrimination through optimization: How Facebook's ad delivery can lead to skewed outcomes

Muhammad Ali, Piotr Sapieżyński+4 more|arXiv (Cornell University)|Apr 3, 2019

Consumer Market Behavior and Pricing参考文献 32被引用数 74

ひとこと要約

本論文は、Facebookの広告配信が雇用・住宅の広告を誰が見るかを、広告予算とクリエイティブ内容に基づいて偏らせ得ることを示しており、包摂的なターゲティングがあっても、プラットフォームの最適化と市場効果が差別的な結果を生み出す仕組みを明らかにする。

ABSTRACT

The enormous financial success of online advertising platforms is partially due to the precise targeting features they offer. Although researchers and journalists have found many ways that advertisers can target---or exclude---particular groups of users seeing their ads, comparatively little attention has been paid to the implications of the platform's ad delivery process, comprised of the platform's choices about which users see which ads. It has been hypothesized that this process can "skew" ad delivery in ways that the advertisers do not intend, making some users less likely than others to see particular ads based on their demographic characteristics. In this paper, we demonstrate that such skewed delivery occurs on Facebook, due to market and financial optimization effects as well as the platform's own predictions about the "relevance" of ads to different groups of users. We find that both the advertiser's budget and the content of the ad each significantly contribute to the skew of Facebook's ad delivery. Critically, we observe significant skew in delivery along gender and racial lines for "real" ads for employment and housing opportunities despite neutral targeting parameters. Our results demonstrate previously unknown mechanisms that can lead to potentially discriminatory ad delivery, even when advertisers set their targeting parameters to be highly inclusive. This underscores the need for policymakers and platforms to carefully consider the role of the ad delivery optimization run by ad platforms themselves---and not just the targeting choices of advertisers---in preventing discrimination in digital advertising.

研究の動機と目的

• Facebookの広告配信だけで、ターゲット設定のパラメータに関係なく、人口統計グループ間で歪んだ配信を生み出すかを評価する。
• 予算、広告クリエイティブ、画像がジェンダーおよび人種に沿った配信の歪みに与える影響を定量化する。
• 自動的な関連性分類が初期の配信歪みに寄与するかを調査する。
• 雇用および住宅広告の実世界の影響と規制上の検討を実証する。

提案手法

• ターゲットを統制し、予算とクリエイティブを変えて、Facebookの広告キャンペーンを数十件実施する。
• Facebook Marketing APIを用いて、人口統計的ディメンションごとに2分間隔で配信統計を収集する。
• DMAレベルの位置プロキシと公開されている選挙人の人種データを用いて、人種に関する配信を推定する方法を構築する。
• ターゲットを一定に保ちながら、予算水準、広告クリエイティブの内容、および画像要素間で配信の歪みを比較する。
• 実際の雇用および住宅広告を用いた実験を実施し、保護された階級の表現における歪みを観察する。

実験結果

リサーチクエスチョン

• RQ1 ターゲットがニュートラルまたは包括的である場合でも、市場効果/最適化効果の下で広告配信の歪みが生じるのか？
• RQ2 予算、クリエイティブ内容、画像は、配信先オーディエンスの人口統計的構成にどのような影響を与えるか？
• RQ3 自動的な関連性評価は、ユーザーの相互作用とは独立して初期の配信歪みに寄与するか？
• RQ4 同一のターゲティングの下で、実世界の雇用広告や住宅広告は配信において有意な人口統計的歪みを示すか？

主な発見

• 市場効果のみで歪んだ配信が発生し、予算によってオーディエンス構成が変化する（例：非常に低い予算で男性が>55%、高い予算で男性が<45%）。
• 広告クリエイティブは配信の歪みに強く影響し、同じターゲティングでも特定のステレオタイプが>80%の男性配信や>90%の女性配信を引き起こす。
• 広告画像は独立して配信に影響を与え、見出し/テキスト/画像を入れ替えると配信パターンが変化し、画像主導の関連性信号を示唆する。
• Facebookによる自動画像分類は、広告実行の開始時点から歪みに寄与している可能性が高く、視覚的に区別できない画像でも異なる配信を生む。
• 実際の雇用広告と住宅広告は、同一ターゲティングの下でも実質的な歪みを示す。例として、求人広告が白人72%、男性90%に達するケースや、キャッシャー広告で85%の女性オーディエンス、住宅広告は一部変種で黒人>72%、別の変種で黒人>51%など。
• 本研究の知見は、広告配信の最適化と市場効果が、ターゲティングの制御を超えた差別的な結果を生み出す可能性があることを示しており、規制とプラットフォームの検討を促している。