[論文レビュー] Subscriptions and external links help drive resentful users to alternative and extremist YouTube videos

Annie Y. Chen, Brendan Nyhan+3 more|arXiv (Cornell University)|Apr 22, 2022

Hate Speech and Cyberbullying Detection被引用数 16

ひとこと要約

本研究では、米国の参加者1,181名から得られたペaired行動データとアンケートデータを用いて、代替的および極端派的YouTubeコンテンツへの露出が、主に、性別および人種に対する憎悪を強く示すユーザーが、こうしたチャンネルに積極的に登録し、外部リンクをたどることによって引き起こされていることが示された。アルゴリズムによる推薦によるものではなく、ユーザーの行動に起因する。2019年のYouTubeのアルゴリズム変更により境界に近いコンテンツの推薦が減少したものの、プラットフォームは依然としてユーザー主導の行動によって、標的的な露出を可能にしている。

ABSTRACT

Do online platforms facilitate the consumption of potentially harmful content? Using paired behavioral and survey data provided by participants recruited from a representative sample in 2020 (n=1,181), we show that exposure to alternative and extremist channel videos on YouTube is heavily concentrated among a small group of people with high prior levels of gender and racial resentment. These viewers often subscribe to these channels (prompting recommendations to their videos) and follow external links to them. In contrast, non-subscribers rarely see or follow recommendations to videos from these channels. Our findings suggest YouTube's algorithms were not sending people down "rabbit holes" during our observation window in 2020, possibly due to changes that the company made to its recommender system in 2019. However, the platform continues to play a key role in facilitating exposure to content from alternative and extremist channels among dedicated audiences.

研究の動機と目的

• YouTubeの推薦システムとユーザー行動が、過激派的および代替的コンテンツへの露出にどのように寄与しているかを調査すること。
• 2019年以降の変更を含めたアルゴリズムによる推薦—特に「ラビットホール」への誘導—が、有害なコンテンツへの露出の主な要因となっているかどうかを評価すること。
• 高水準の怒り（性別および人種的怒り）を示すユーザーが、過激派的チャンネルにアクセスするのを助けるために、ユーザーのサブスクリプションと外部リンクの役割を検討すること。
• 実世界の行動データを用いて、YouTubeで有害な可能性のあるコンテンツを消費しているユーザーの構成と行動を特定すること。
• 行動データと実際のユーザーの閲覧履歴および推薦ログを統合することで、過去のアルゴリズムによる過激化の主張の生態的妥当性を評価すること。

提案手法

• 米国の参加者1,181名から、ブラウザ拡張機能を介してリアルタイムで収集したデータを用い、閲覧履歴、動画視聴、埋め込みURLの露出、YouTubeおよび他のプラットフォームとの相互作用を記録した。
• YouTubeが表示する動画推薦のメタデータ（タイムスタンプ、コンテンツタイプなど）を収集・分析し、ユーザーの露出経路をマッピングした。
• 閲覧行動からユーザーのチャンネル登録を推定し、推薦露出およびコンテンツ消費の分析を層別化した。
• 人種的・性別の怒りとコンテンツ消費パターンの相関関係を調べるために、人種的・性別の怒り、政治的態度、メディア嗜好に関するアンケートデータを統合した。
• 先行研究に基づいて定義された「ラビットホール」イベント基準を適用し、アルゴリズムによる過激化経路の頻度を測定した。
• 米国の成人人口における主要な人口統計的および態度的変数の代表性を確保するために、重み付けされたアンケートデータを用いた。

実験結果

リサーチクエスチョン

• RQ1 性別および人種的怒りが強いユーザーが、代替的および極端派的YouTubeコンテンツにどれほど露出しているか。
• RQ2 サブスクリプションと外部リンクが、アルゴリズムによる推薦と比較して、過激派的コンテンツへのアクセスにどのように影響しているか。
• RQ3 YouTubeの2019年アルゴリズム変更により、境界に近いまたは有害なコンテンツへの推薦の頻度が低下したか。
• RQ4 ユーザー主導の行動（例：サブスクリプション、リンクのたどり）が、受動的なアルゴリズムによる推薦と比較して、過激派的コンテンツへの露出に果たす役割は何か。
• RQ5 2019年以降の米国のYouTubeユーザーにおいて、「ラビットホール」イベント（過激派的コンテンツに至る推薦の連鎖）は一般的に見られるか。

主な発見

• 代替的および極端派的YouTubeコンテンツへの露出は、性別および人種的怒りの水準が著しく高い少数のユーザーに集中している。
• 極端派的チャンネルにサブスクライブしているユーザーは、そのチャンネルからの推薦を著しく多く受信・閲覧するが、非サブスクライブ者はほとんどそのような推薦を見ない。
• 主流または関連するコンテンツからの外部リンクは、怒りを抱える思想にすでに傾倒しているユーザーにとって、極端派的チャンネルへの主要なアクセス経路である。
• YouTubeの2019年アルゴリズム変更により境界に近いコンテンツの推薦が減少したものの、プラットフォームは依然としてアルゴリズムによるプッシュではなく、ユーザー主導の行動によって露出を促進している。
• 2020年の調査では、アルゴリズムによる「ラビットホール」の強い証拠は得られず、この期間における過激化の主な要因は推薦システムではなかったと考えられる。
• サブスクリプションと外部リンクの組み合わせは、アルゴリズムによる拡大がなくても、過激派的コンテンツへの標的的露出を可能にする自己強化型エコシステムを形成している。