[論文レビュー] Discrimination through Optimization: How Facebook's Ad Delivery Can Lead to Biased Outcomes

Muhammad Ali, Piotr Sapieżyński+4 more|arXiv (Cornell University)|Nov 7, 2019

Consumer Market Behavior and Pricing参考文献 33被引用数 116

ひとこと要約

この論文は、広告主が中立的なターゲティングを使用しても、プラットフォームレベルでの関連性および広告パフォーマンス最適化に起因して、フェイスブックの広告配信アルゴリズムが性別および人種的側面で差別的結果を生じることを示している。研究では、予算配分と広告コンテンツが配信に顕著な歪みをもたらし、包括的なターゲティング設定があるにもかかわらず、住宅および雇用広告の可視性に不平等をもたらしていることが明らかになった。

ABSTRACT

The enormous financial success of online advertising platforms is partially due to the precise targeting features they offer. Although researchers and journalists have found many ways that advertisers can target---or exclude---particular groups of users seeing their ads, comparatively little attention has been paid to the implications of the platform's ad delivery process, comprised of the platform's choices about which users see which ads. It has been hypothesized that this process can ad delivery in ways that the advertisers do not intend, making some users less likely than others to see particular ads based on their demographic characteristics. In this paper, we demonstrate that such skewed delivery occurs on Facebook, due to market and financial optimization effects as well as the platform's own predictions about the relevance of ads to different groups of users. We find that both the advertiser's budget and the content of the ad each significantly contribute to the skew of Facebook's ad delivery. Critically, we observe significant skew in delivery along gender and racial lines for real ads for employment and housing opportunities despite neutral targeting parameters. Our results demonstrate previously unknown mechanisms that can lead to potentially discriminatory ad delivery, even when advertisers set their targeting parameters to be highly inclusive. This underscores the need for policymakers and platforms to carefully consider the role of the ad delivery optimization run by ad platforms themselves---and not just the targeting choices of advertisers---in preventing discrimination in digital advertising.

研究の動機と目的

• フェイスブックの広告配信システムが、広告主のターゲティング選択とは独立して差別的結果を生じるかどうかを調査すること。
• 関連性予測と財務的インcentiveに駆動されるプラットフォームレベルの最適化が、人種的・性別的グループ間での広告可視性にどのように影響するかを検討すること。
• 広告コンテンツと予算が、雇用および住宅広告の配信歪みに与える影響を評価すること。
• プラットフォームの配信アルゴリズムが、これまでにあまり注目されていなかったデジタル広告におけるシステム的バイアスの原因である役割を浮き彫りにすること。

提案手法

• 中立的なターゲティングパラメータを用いた実際のフェイスブック広告を用いて、制御された実験を実施した。
• 広告コンテンツと予算水準をさまざまな人種的・性別的グループで変化させ、配信格差を測定した。
• 広告可視性およびエンゲージメントに関するプラットフォームが報告する指標を用いて、配信結果を分析した。
• 性別および人種的グループ間での配信レートを比較し、体系的な歪みを検出した。
• フェイスブックの関連性スコアリングおよび最適化アルゴリズムが広告配布に与える影響を評価した。

実験結果

リサーチクエスチョン

• RQ1 広告主が中立的なターゲティングを使用しても、フェイスブックの広告配信システムが差別的結果を生じる可能性があるか？
• RQ2 広告コンテンツと予算が、人種的・性別的グループ間での広告配信の歪みにどの程度影響を及ぼすか？
• RQ3 関連性予測や財務的インcentiveを含む、プラットフォームレベルの最適化メカニズムが、不均等な広告可視性にどのように寄与するか？
• RQ4 雇用および住宅広告について、性別および人種的側面で測定可能な配信格差が存在するか？

主な発見

• 中立的なターゲティングパラメータがあるにもかかわらず、フェイスブックの広告配信システムは、雇用および住宅広告において性別および人種的側面で顕著な可視性の歪みを生じた。
• 広告コンテンツと予算配分が、配信結果の歪みに顕著に寄与することが判明した。
• 関連性およびパフォーマンスの最適化に起因して、特定のグループの可視性が低下したが、広告主が包括的である意図を示していたにもかかわらずである。
• 広告主が明示的にどのグループも除外していなくても、歪んだ配信が発生した。これは、プラットフォームのアルゴリズム的プロセスが差別のの主要因であることを示している。
• 本研究は、プラットフォーム主導の配信メカニズムが、広告主の意図とは独立してバイアスを継続させることを明らかにした。これは、デジタル広告エコシステムにおけるシステム的問題を示している。