[論文レビュー] Fairness in Online Social Network Timelines: Measurements, Models and Mechanism Design

Eduardo Hargreaves, Claudio Agosti+4 more|arXiv (Cornell University)|Sep 11, 2018

Complex Network Analysis Techniques参考文献 71被引用数 1

ひとこと要約

本稿では、測定、TTLに基づく解析的モデル、公平性を考慮したメカニズム設計を組み合わせた再現可能で包括的な手法を提案し、Facebook News Feedアルゴリズムのバイアスを監査する。特に、中立的なユーザーに対しても、タイムラインの上位に位置する場所で顕著な可視性および占有バイアスが生じており、コンテンツキュエーティブのための新たな透明性のある、ユーティリティに基づく公平性メカニズムを提案する。

ABSTRACT

Facebook News Feed personalization algorithm has a significant impact, on a daily basis, on the lifestyle, mood and opinion of millions of Internet users. Nonetheless, the behavior of such algorithm lacks transparency, motivating measurements, modeling and analysis in order to understand and improve its properties. In this paper, we propose a reproducible methodology encompassing measurements, an analytical model and a fairness-based News Feed design. The model leverages the versatility and analytical tractability of time-to-live (TTL) counters to capture the visibility and occupancy of publishers over a News Feed. Measurements are used to parameterize and to validate the expressive power of the proposed model. Then, we conduct a what-if analysis to assess the visibility and occupancy bias incurred by users against a baseline derived from the model. Our results indicate that a significant bias exists and it is more prominent at the top position of the News Feed. In addition, we find that the bias is non-negligible even for users that are deliberately set as neutral with respect to their political views, motivating the proposal of a novel and more transparent fairness-based News Feed design.

研究の動機と目的

• Facebook News Feedアルゴリズムの透明性と監査可能性の欠如に起因する、ユーザーの情報摂取行動や政治的見解に与える影響を是正すること。
• フィルタリングポリシーの影響を測定・モデル化し、特にパーソナライズドランキング下での、発信者によるタイムライン上での可視性および占有状況の偏りを明らかにすること。
• ユーザーの好みと発信者の公平な露出を両立させる公平性に配慮したメカニズムを設計し、コンテンツ多様性を促進すること。
• FacebookのAPIに依存しない、公開されたデータセットおよびブラウザベースの測定ツールを提供することで、一般公開・再現可能な研究を可能にすること。
• 説明可能で監査可能かつ原則に基づいたコンテンツ配分を実現し、GDPR準拠およびアルゴリズムの責任性を強化すること。

提案手法

• Facebookの制限付きAPIを回避するため、ユーザーのリアルタイムでのNews Feedコンテンツおよびメタデータを自動収集可能なブラウザ拡張機能を開発した。
• フィルタリングポリシーの関数として、発信者のタイムライン上での可視性および占有状況を定量化する解析的TTLベースのモデルを提案した。
• 2018年のイタリア選挙期間中に収集した実証データを用い、特にユーザーの「いいね」プロファイルと政治的コンテンツに焦点を当て、モデルをキャリブレーションおよび検証した。
• 凸型ユーティリティ関数（例：α-公平性）を用いたユーティリティベースのメカニズム設計により、ユーザーの好みと発信者の公平性のバランスを図った。
• 「もしも」シナリオ分析を通じて、フィルタリングなしの代替ポリシーをシミュレートし、ベースラインモデルと比較してバイアスの度合いを評価した。
• ユーティリティベースのキャッシュ設計の原則をソーシャルメディアのキュエーティブに統合し、限られたタイムライン空間における公平性に配慮した割り当てを可能にした。

実験結果

リサーチクエスチョン

• RQ1 ユーザーの『いいね』プロファイルに応じて、News Feedアルゴリズムのフィルタリング行動は、特にタイムライン上位の位置でどのように変化するか？
• RQ2 政治的コンテンツを明確に避ける（どのページにも『いいね』をしない）ユーザーに対しても、アルゴリズムは可視性および占有バイアスを導入するのか、その程度はどの程度か？
• RQ3 異なるフィルタリングポリシーが発信者の可視性に与える影響は何か？ また、バイアスを定量化するためにベースラインモデルをどのように用いることができるか？
• RQ4 ユーザーの好みと多様な発信者の公平な露出を両立させる公平性に配慮したメカニズムを設計することは可能か？
• RQ5 特許権限APIに依存せずに、ソーシャルメディアのコンテンツキュエーティブにおける透明性と監査可能性をどのように達成できるか？

主な発見

• News Feedアルゴリズムは、特にタイムライン上位の位置で顕著な可視性バイアスを著しく拡大しており、フォローユーザーのわずかな一部しか表示されない状況が生じている。
• 政治的コンテンツを明確に避けるユーザーですら、非一様なフィルタリングにさらされており、ユーザーの好みを超えたシステム的バイアスが存在することが示された。
• 提案されたTTLベースのモデルは、発信者の可視性および占有ダイナミクスを正確に捉えており、代替フィルタリングポリシーの信頼性ある「もしも」分析を可能にしている。
• 『フィルタリングなし』のシナリオでは、現在のアルゴリズムが顕著なバイアスを導入していることが判明し、一部の発信者に著しく高い可視性が割り当てられている。
• 公平性に配慮したメカニズム設計は、ユーザーの好みと発信者の公平性の両立に成功しており、透明性があり監査可能な、黙認的なランク付けシステムに対する代替手段を提供している。
• 測定手法および公開データセットにより、再現可能な研究が可能となり、アルゴリズム的キュエーティブにおけるGDPR準拠の透明性を支援している。