[論文レビュー] Analyzing Right-wing YouTube Channels: Hate, Violence and Discrimination

Raphael Ottoni, Evandro Cunha+4 more|arXiv (Cornell University)|Apr 11, 2018

Hate Speech and Cyberbullying Detection参考文献 32被引用数 43

ひとこと要約

本論は、右派系YouTubeコンテンツにおける憎悪、暴力、そして discriminatory bias を、キャプションとコメントをベースラインデータセットと比較して、語彙分析・主題分析・暗黙の偏見分析を用いて検討する。右派系チャンネルでは否定的な語の頻度が高く、イスラム教徒に対する特定の偏見が見られ、コメント者は動画ホストよりもしばしば過激である。

ABSTRACT

As of 2018, YouTube, the major online video sharing website, hosts multiple channels promoting right-wing content. In this paper, we observe issues related to hate, violence and discriminatory bias in a dataset containing more than 7,000 videos and 17 million comments. We investigate similarities and differences between users' comments and video content in a selection of right-wing channels and compare it to a baseline set using a three-layered approach, in which we analyze (a) lexicon, (b) topics and (c) implicit biases present in the texts. Among other results, our analyses show that right-wing channels tend to (a) contain a higher degree of words from "negative" semantic fields, (b) raise more topics related to war and terrorism, and (c) demonstrate more discriminatory bias against Muslims (in videos) and towards LGBT people (in comments). Our findings shed light not only into the collective conduct of the YouTube community promoting and consuming right-wing content, but also into the general behavior of YouTube users.

研究の動機と目的

• 一群の右翼系YouTubeチャンネルにおける憎悪語彙、暴力的な内容、そして差別的偏見を調査する。
• 右翼系チャンネル内のキャプションとコメントを比較し、ベースラインのチャンネル集合と対比する。
• テキスト分析のためのオープンソースツールを用いた3層の方法論（語彙分析、トピック分析、暗黙の偏見分析）を提案する。
• YouTubeにおける憎悪と差別に関連するホストとコメント者の両方の行動に関する洞察を提供する。

提案手法

• 3層のアプローチ：語彙分析、トピック分析、暗黙の偏見分析。
• 語彙分析：語をEmpathの意味場に対応づけ、原形化（lemmatize）し、動画とチャンネルごとに正規化されたカテゴリーベクトルを計算する。キャプションとコメントの類似度はコサイン類似度で測定する。
• トピック分析：キャプションとコメントに潜在ディリクレ分布（LDA）を適用して潜在トピックを識別する。トピックは300件、alpha=beta=1.0/num_topicsを用いる。
• 暗黙の偏見分析：Wikipediaおよびドメインデータで学習したword2vec埋め込みを用いてWEAT（Word Embedding Association Tests）を構築する。効果量（Cohen’s d）とp値を置換検定で計算する。
• データ：右翼系動画3,731件とコメント5,071,728件を収集。ベースライン：動画3,942件とコメント12,519,590件。分析には英語フィルタ適用サブセットを使用。

実験結果

リサーチクエスチョン

• RQ1 RQ-1: 右翼系チャンネルにおける憎悪語彙、暴力的内容、そして差別的偏見は、ベースラインチャンネルよりも強調されているか？
• RQ2 RQ-2: コメンテーターは動画ホストよりも憎悪と差別を表現する際に過激化しているのか、あるいは弱いのか？

主な発見

• 右翼系チャンネルは、否定的意味場の割合（例：攻撃、kill、暴力）をベースラインチャンネルより高く示す。
• 右翼系キャプションのトピックは戦争/テロリズムと情報戦を強調する。一方、ベースラインのトピックはより広範で（有名人、テレビ番組など）。
• 暗黙の偏見分析は、キャプションでイスラム教徒に対する偏見が強く、LGBTの人々に対する偏見は比較的異なることを示す。ベースラインの偏見は一部のケースでWikipediaに比べて拡大している。
• コメント者は多くのケースで、嫌悪関連語（disgust、hate、swearing）の水準が動画ホストより高い。
• キャプションとコメントの類似度はチャンネルによって異なる。より人気のあるチャンネルではキャプションとコメントの類似度が高い傾向がある。