[論文レビュー] New threats to society from free-speech social media platforms

Dominik Bär, Nicolas Pröllochs+1 more|arXiv (Cornell University)|Feb 2, 2023

Hate Speech and Cyberbullying Detection被引用数 6

ひとこと要約

この論文は、『アルトテック』と呼ばれる自由な発言を許容するソーシャルメディアプラットフォームが、抑止のない憎悪スピーチ、誤情報、暴力的過激主義の共謀を助長するため、社会的に重大な脅威をもたらしていると主張している。January 6の議会襲撃事件のような出来事から明らかになったように、本論文は、根拠に基づいた政策、研究アクセスの強化、コンテンツモデレーションと透明性を義務付ける規制枠組みの構築を提言している。Parler、Gab、Telegramの事例研究を根拠に、学際的で制度的な監視を求めるものである。

ABSTRACT

In recent years, several free-speech social media platforms (so-called "alt-techs") have emerged, such as Parler, Gab, and Telegram. These platforms market themselves as alternatives to mainstream social media and proclaim "free-speech" due to the absence of content moderation, which has been attracting a large base of partisan users, extremists, and supporters of conspiracy theories. In this comment, we discuss some of the threats that emerge from such social media platforms and call for more policy efforts directed at understanding and countering the risks for society.

研究の動機と目的

• コンテンツモデレーションが欠如し、過激主義的・陰謀論的・憎悪に満ちたコンテンツを促進するアルトテックプラットフォームが社会に及ぼすリスクを分析すること。
• アルトテックが、January 6の議会襲撃やその他の銃撃事件を含む、現実世界の暴力をどのように共謀したかを検証すること。
• コンテンツモデレーションと透明性を義務付ける規制枠組みを含む、根拠に基づいた政策的介入を提言し、こうしたプラットフォームにおける有害コンテンツの拡散を抑制すること。
• アルトテックエコシステムのユーザー行動、コンテンツダイナミクス、社会的影響に関する学際的研究を促進すること。

提案手法

• January 6の議会襲撃やバッファローおよびピッツバーグの銃撃事件といった文書化された事例研究を用いて、アルトテックプラットフォームの定性的かつ根拠に基づいた分析を実施する。
• アルトテックにおける既存のコンテンツモデレーション政策とその欠如を検討し、ドイツの NetzDG や中国のサイバーセキュリティ法といった規制枠組みと比較する。
• ユーザー、コンテンツ、社会の3つの次元に焦点を当てた、体系的なアルトテックエコシステム研究を促進するための研究アジェンダを提言する。
• 自然言語処理（NLP）やクロスプラットフォーム分析といった計算的手法を活用し、誤情報、憎悪スピーチ、陰謀論の拡散を検出・追跡することを提言する。
• 大規模な現地実験を通じて、第三者によるコンテンツモデレーションツール（例：対抗スピーチ、事実確認）の評価を推奨する。
• Twitterのトランスパレンシー・センター や Meta の広告ライブラリを模範として、アルトテックにも拡張可能な、透明性とデータアクセスの政策的実施を求める。

実験結果

リサーチクエスチョン

• RQ1 アルトテックプラットフォームのユーザーの特徴は何か。特に、一部の支持者、過激主義者、陰謀論者といったグループ間でどのように異なるか。
• RQ2 アルトテックで広がっているコンテンツの種類（特に誤情報、憎悪スピーチ、過激主義的コンテンツ）は何か。それらの拡散を促進するメカニズムは何か。
• RQ3 アルトテックは、オンラインおよび現実世界の暴力において、社会的分断、政治的極化、および過激化をどの程度助長しているか。
• RQ4 監視がほとんどないアルトテックプラットフォームにおいて、対抗スピーチや誤情報フラグといったコンテンツモデレーション技術はどの程度効果的か。
• RQ5 自由表現を維持しつつ、アルトテックの社会的リスクを低減するための、最も効果的な政策的・規制的介入は何か。

主な発見

• Parler、Gab、Telegram のようなアルトテックプラットフォームは、January 6の議会襲撃の共謀に不可欠な役割を果たした。暴徒らはParlerを使って警察を避ける戦術や武器の密輸を共有した。
• 2022年のバッファロー銃撃事件の容疑者は4chanのコンテンツに影響を受けており、アルトテックが人種的動機の暴力の温床となっていることを示している。
• 2018年のピッツバーグ・シナゴーグ銃撃事件では、Gab が主な通信チャネルとして使用された。これは、アルトテックが憎悪に満ちたテロリズムを助長する役割を果たしていることを浮き彫りにしている。
• アルトテックではコンテンツモデレーションが欠如しているため、QAnonのような陰謀論や Breitbart.com のような誤情報サイトへのリンクが、抑止なく広がっている。
• アルトテックの均質的なユーザー基盤は、反対立場の見解にさらされる機会を減らし、エコ・チェンバー効果と過激化を加速させている。
• 一般および規制当局からの圧力（例：AppleおよびGoogleのアプリストアからParlerの削除）は、アルトテックの運用を深刻に脅かすことができ、外部からの強制の有効性を示している。