[論文レビュー] The Paradox of Information Access: Growing Isolation in the Age of Sharing

Tarek Abdelzaher, Heng Ji+6 more|arXiv (Cornell University)|Apr 4, 2020

Misinformation and Its Impacts被引用数 7

ひとこと要約

本論文は、グローバルな情報の可用性が向上する一方で、偏ったキュレーショングループと選択的露出によってイデオロギー的分断が生じるという「情報アクセスのパラドックス」を特定する。これに対し、安全なコンテンツの出所追跡、アルゴリズムによる事実確認、バイアス低減型キュレーショングループ、要約型要約技術といった技術的対策を提案し、オンラインメディアにおける極端化と誤情報の是正を図る。

ABSTRACT

Modern online media, such as Twitter, Instagram, and YouTube, enable anyone to become an information producer and to offer online content for potentially global consumption. By increasing the amount of globally accessible real-time information, today's ubiquitous producers contribute to a world, where an individual consumes vanishingly smaller fractions of all produced content. In general, consumers preferentially select information that closely matches their individual views and values. The bias inherent in such selection is further magnified by today's information curation services that maximize user engagement (and thus service revenue) by filtering new content in accordance with observed consumer preferences. Consequently, individuals get exposed to increasingly narrower bands of the ideology spectrum. Societies get fragmented into increasingly ideologically isolated enclaves. These enclaves (or echo-chambers) then become vulnerable to misinformation spread, which in turn further magnifies polarization and bias. We call this dynamic the paradox of information access; a growing ideological fragmentation in the age of sharing. This article describes the technical, economic, and socio-cognitive contributors to this paradox, and explores research directions towards its mitigation.

研究の動機と目的

• 情報アクセスの増加がもたらす社会的影響を分析すること、特にイデオロギー的エコーチャンバーの拡大と極端化の進行を対象とする。
• オンラインメディアプラットフォームにおける情報アクセスのパラドックスの背後にある技術的・経済的・社会認知的要因を特定すること。
• 偏りの少ないキュレーショングループ、事実確認、バイアス低減型キュレーショングループといった、イデオロギー的分断を軽減することを目的とした実行可能な緩和戦略を提案すること。
• 異なる道徳的視点を要約する情報精錬ツールを導入するにあたり生じる倫理的・インcentive（インcentive）的・規制的課題を検討すること。
• アルゴリズム的キュレーションシステムにおけるコンテンツの中立性と品質を測定可能な指標や基準として整備する研究を提唱すること。

提案手法

• ユーザーの既存の信念を強化するコンテンツを軽視することで、バイアスを低減するアルゴリズム的情報キュレーションシステムを提案する。
• 認知的負荷を軽減し、多様な見解にさらされる機会を増やすために、要約型要約技術を導入する。
• 信頼できる情報源の特定と誤情報の追跡を可能にするために、安全なコンテンツの出所追跡を提唱する。
• 事実の整合性と情報源の信頼性に基づいて、誤情報を検出しマークする機械学習モデルの統合を提案する。
• 異なる道徳的視点からの主張を要約・提示するための道徳的推論モデルの活用を検討し、ユーザーが背後にある価値観に気づくのを助ける。
• エンゲージメントを重視するアルゴリズム的フィードバックループに反して、多様なコンテンツに接触する行動を報酬化するインcentive（インcentive）に配慮したシステム設計を提言する。

実験結果

リサーチクエスチョン

• RQ1 Twitter や YouTube のようなプラットフォームにおけるユーザーゲネレーテッドコンテンツの爆発的増加は、グローバルな情報アクセスが向上しているにもかかわらず、イデオロギー的分断をどのように助長しているのか？
• RQ2 ユーザーのエンゲージメントを最適化するアルゴリズム的キュレーションシステムは、既存の認知的バイアスをどの程度強化し、極端化を深めているのか？
• RQ3 機械知能ツールが、指定された道徳的立場から説得力のある、道徳的根拠に基づいた主張を自動生成できるか？
• RQ4 エコーチャンバーを是正するために、公開コンテンツから道徳的推論を分析・要約するシステムを導入するにあたり、生じるプライバシーと監視のトレードオフとは何か？
• RQ5 情報キュレーションシステムがコンテンツの可視性において中立的で、質が高く、公平であることを保証するためには、どのような規制的・技術的フレームワークが必要か？

主な発見

• 情報アクセスのパラドックスは、グローバルなコンテンツの可用性が向上する一方で、バイアスのあるキュレーショングループによって個人の情報カバレッジが低下し、イデオロギー的孤立が進行する状況に起因する。
• エンゲージメントを最適化する情報キュレーションシステムは、ユーザーの既存の信念を強化し、露出範囲を狭め、極端化を深める。特に誤情報と組み合わさると深刻な影響を及ぼす。
• 要約型要約技術とコンテンツの出所追跡メカニズムは、認知的負荷を軽減し、情報源への信頼を高めることで、エコーチャンバー効果の緩和に寄与する可能性がある。
• アルゴリズムによる事実確認とバイアス低減技術は、誤情報を抑止し、異なるユーザー層が消費するコンテンツの同質性を低下させることに貢献できる。
• 公開コンテンツから道徳的推論を分析する際には、プライバシーや監視の懸念が生じるが、こうしたツールはユーザーがエコーチャンバーを越えるのを支援する可能性を秘めている。
• 現在の情報キュレーションシステムには、中立性や品質を測定可能な基準が欠如しているため、公平な情報アクセスを確保するための新しい指標と規制フレームワークの整備が急務である。