[論文レビュー] "And We Will Fight For Our Race!" A Measurement Study of Genetic Testing Conversations on Reddit and 4chan

Alexandros Mittos, Savvas Zannettou+2 more|arXiv (Cornell University)|Jan 28, 2019

Hate Speech and Cyberbullying Detection被引用数 4

ひとこと要約

本研究では、27か月間にわたり、Redditと4chanの/pol/掲示板から130万件のコメントを分析し、280の遺伝子検査関連キーワードを用いて自然言語処理（NLP）、コンピュータビジョン、毒性検出を適用した。その結果、遺伝子検査は特に/pol/において、有毒で人種差別的、女性差別的な文脈で頻繁に議論されており、代替右翼（alt-right）思想、ユダヤ人差別的ミーム、人種的純粋性を求める主張と関連していることが明らかになった。研究結果は、遺伝子検査の議論と極右過激主義との強い関連性を示しており、語彙埋め込みと画像分析により、極端派から主流プラットフォームへのイdeオロギー的汚染が拡散していることが判明した。

ABSTRACT

Progress in genomics has enabled the emergence of a booming market for "direct-to-consumer" genetic testing. Nowadays, companies like 23andMe and AncestryDNA provide affordable health, genealogy, and ancestry reports, and have already tested tens of millions of customers. At the same time, alt- and far-right groups have also taken an interest in genetic testing, using them to attack minorities and prove their genetic "purity." In this paper, we present a measurement study shedding light on how genetic testing is being discussed on Web communities in Reddit and 4chan. We collect 1.3M comments posted over 27 months on the two platforms, using a set of 280 keywords related to genetic testing. We then use NLP and computer vision tools to identify trends, themes, and topics of discussion. Our analysis shows that genetic testing attracts a lot of attention on Reddit and 4chan, with discussions often including highly toxic language expressed through hateful, racist, and misogynistic comments. In particular, on 4chan's politically incorrect board (/pol/), content from genetic testing conversations involves several alt-right personalities and openly antisemitic rhetoric, often conveyed through memes. Finally, we find that discussions build around user groups, from technology enthusiasts to communities promoting fringe political views.

研究の動機と目的

• Reddit や 4chan などのオンラインプラットフォームにおける遺伝子検査議論の広がりと毒性を調査すること。
• 遺伝子検査がオンラインディスコースにおいて極右思想、憎悪スピーチ、白人至上主義と関連しているかどうかを検証すること。
• 遺伝子検査と人種差別的・女性差別的な修辞とを結びつける具体的なテーマ、言語的パターン、視覚的コンテンツ（例：ミーム）を同定すること。
• 4chan のようなプラットフォームにおける極端派思想が、主流のサブレdditコミュニティにどのように影響を与えているか、あるいはその影響が拡散しているかを評価すること。
• 直接消費者向け遺伝子検査（DTC）の誤用が、遺伝学的偏見や差別を助長する根拠となる定量的証拠を提供すること。

提案手法

• 遺伝子検査関連の280語のキーワードセットを用いて、4chanの/pol/掲示板から130万件のコメントと、Redditの7万7千件のコメントを収集した。
• ディスカッションに含まれる主要なトピックとテーマを特定するために、潜在ディリクレ配分（LDA）を適用した。
• 語彙埋め込みを用いて、Redditと/pol/間での言語使用における意味的類似性、特に民族的・人種的用語周辺の類似性を検出した。
• コメントのテキストコンテンツの毒性を測定するために、GoogleのPerspective APIを活用した。
• 再発行される画像やミームを検出・分析するために、感覚的ハッシュ（perceptual hashing）を用いた。特に、代替右翼的およびユダヤ人差別的画像に注目した。
• 定量的分析と定性的解釈を統合することで、イデオロギー的パターンとクロスプラットフォームへの影響を追跡した。

実験結果

リサーチクエスチョン

• RQ1 Redditと4chanにおける遺伝子検査議論の全体的な頻度はどの程度か？
• RQ2 ユーザーはどのような文脈で遺伝子検査を議論しており、その文脈はプラットフォームやコミュニティによってどのように異なるか？
• RQ3 遺伝子検査はオンラインディスコースにおいて、極右的見解、人種差別的イデオロギー、憎悪スピーチ、あるいは白人至上主義と関連しているか？
• RQ4 もしそうであるなら、その関連性が現れる具体的な文脈や、それらを特徴付けるテーマや言語的パターンは何か？
• RQ5 4chanの/pol/掲示板における極端派思想が、主流のRedditコミュニティにどの程度影響を与えているか、あるいはその影響が拡散しているか？

主な発見

• /pol/における遺伝子検査議論は、ランダムサンプルと比較して10倍以上も活発であり、極右コミュニティからの偏った注目が示された。
• 4chanの/pol/では、人種差別的・女性差別的・虐殺的スピーチを含む有害な言語が広く見られ、ユーザーは遺伝子検査を人種的マイノリティの排除や抹消のための道具として提案していた。
• /pol/で共有された遺伝子検査関連の画像には、代替右翼の人物や広く流通するユダヤ人差別的ミームが頻出しており、イデオロギー的ナラティブを強化していた。
• 語彙埋め込みの分析により、/pol/と一部の憎悪的サブレdditが類似した言語的パターンを共有していることが判明し、極端派から主流プラットフォームへのイデオロギー的汚染が示唆された。
• Redditでは、一部のコミュニティが遺伝子検査を健康や文化的ルーツの探求のために議論していた一方で、他のコミュニティでは人種差別的・性差別的イデオロギーを推進していた。これは、遺伝子検査技術のオンラインディスコースにおける二重利用性を示している。
• 本研究は、DTC遺伝子検査が遺伝学的偏見を助長する目的でオンライン空間で武器化されている定量的証拠を提供しており、社会的被害とプラットフォームの責任に関する重大な示唆を示している。