[論文レビュー] Auditing Digital Platforms for Discrimination in Economic Opportunity Advertising

Sara Kingsley, Clara Wang+3 more|arXiv (Cornell University)|Aug 21, 2020

Impact of AI and Big Data on Business and Society参考文献 18被引用数 11

ひとこと要約

本論文は、住宅、雇用、クレジットなどの経済的機会分野における差別的広告を監査するための手法とソフトウェアツールを提示する。Facebook広告ライブラリAPIから抽出した141,063件の広告を機械学習を用いて分類することで、年齢および性別による広告配信の顕著な格差が明らかになった。これは、差別的排除のリスクを浮き彫りにし、スケーラブルで政策に基づいた監査フレームワークの必要性を提唱する。

ABSTRACT

Digital platforms, including social networks, are major sources of economic information. Evidence suggests that digital platforms display different socioeconomic opportunities to demographic groups. Our work addresses this issue by presenting a methodology and software to audit digital platforms for bias and discrimination. To demonstrate, an audit of the Facebook platform and advertising network was conducted. Between October 2019 and May 2020, we collected 141,063 ads from the Facebook Ad Library API. Using machine learning classifiers, each ad was automatically labeled by the primary marketing category (housing, employment, credit, political, other). For each of the categories, we analyzed the distribution of the ad content by age group and gender. From the audit findings, we considered and present the limitations, needs, infrastructure and policies that would enable researchers to conduct more systematic audits in the future and advocate for why this work must be done. We also discuss how biased distributions impact what socioeconomic opportunities people have, especially when on digital platforms some demographic groups are disproportionately excluded from the population(s) that receive(s) content regulated by law.

研究の動機と目的

• 経済的機会広告における差別を監査する再現可能で体系的な手法の開発を目的とする。
• Facebook広告プラットフォーム上での年齢および性別などのデモグラフィックグループごとの広告露出格差を特定・定量化することを目的とする。
• 公開APIと機械学習を活用した自動監査のスケーラビリティを実証することを目的とする。
• 規制された社会的経済的機会へのアクセスにおいて、マイノリティグループが不当に排除されるというシステム的リスクを浮き彫りにすることを目的とする。
• 継続的かつ体系的なデジタルプラットフォーム監査を可能にする制度的基盤と政策改正を提唱することを目的とする。

提案手法

• 2019年10月から2020年5月の間、Facebook広告ライブラリAPIから141,063件の広告を収集した。
• 広告の主なマーケティングカテゴリ（住宅、雇用、クレジット、政治、その他）を自動的にラベル付けるための機械学習分類器を訓練した。
• 各カテゴリ内での年齢層および性別ごとの広告コンテンツの分布を分析し、代表性の不均衡を特定した。
• 自動分類を活用して、膨大な量の広告に対する監査をスケーリングし、再現可能性と効率性を確保した。
• 監査の限界を評価し、今後の監査に向けたインfra構築、政策、研究設計の改善を提案した。
• 研究者がデジタルプラットフォームにおけるバイアスを体系的かつ継続的に監査できるフレームワークを提言した。

実験結果

リサーチクエスチョン

• RQ1 Facebookの広告プラットフォーム上では、住宅、雇用、クレジットなどの経済的機会広告が、どのように異なる年齢および性別グループに配信されているか。
• RQ2 広告露出におけるデモグラフィック格差が、社会的経済的機会へのアクセスにおけるシステム的不平等をどの程度反映または強化しているか。
• RQ3 スケーラブルかつ繰り返し可能なデジタル広告プラットフォーム監査を可能にするために、どのような技術的・制度的インfraが必要か。
• RQ4 自動監査手法は、どのように大規模なデジタル広告配信における差別的配信を検出・測定できるか。
• RQ5 デジタル経済的機会広告における差別的パターンを是正するために、どのような政策的・プラットフォームレベルの変更が必要か。

主な発見

• 監査では、Facebook上での主な経済的機会カテゴリにおいて、年齢および性別による広告配信格差が顕著に確認された。
• 特に高齢者および女性は、雇用およびクレジット関連の広告において体系的に代表されない傾向にあった。
• 本研究では、差別禁止法で規制される分野（例：フェア・ホームズ、等価クレジット機会）の内容が、マイノリティグループに不当に排除されていることが判明した。
• 本手法は141,063件の広告を高い正確性で分類でき、大規模な自動監査の実現可能性を示した。
• 現在のプラットフォームの透明性メカニズムでは、差別的広告配信の検出や防止が不十分であることが判明した。
• これらの発見は、公平なデジタル経済的機会へのアクセスを確保するため、標準化されたスケーラブルな監査インフラと政策改正の緊急の必要性を強調している。