[論文レビュー] Content Moderation on Social Media in the EU: Insights From the DSA Transparency Database

Chiara Drolsbach, Nicolas Pröllochs|arXiv (Cornell University)|Dec 7, 2023

Hate Speech and Cyberbullying Detection被引用数 4

ひとこと要約

本研究は、EUのDSA透明性データベースから入手した1億5600万件の理由説明文（SoRs）を分析し、主要なソーシャルメディアプラットフォームにおけるコンテンツモデレーション実務を検証した。その結果、モデレーション頻度の顕著な格差、自動化への過度な依存、ルールの不一致な適用、断片的な執行——これらは、DSAが目指すEU域内での統一的で均一なプラットフォーム責任の実現を損なう、構造的な不整合を明らかにした。

ABSTRACT

The Digital Services Act (DSA) requires large social media platforms in the EU to provide clear and specific information whenever they remove or restrict access to certain content. These "Statements of Reasons" (SoRs) are collected in the DSA Transparency Database to ensure transparency and scrutiny of content moderation decisions of the providers of online platforms. In this work, we empirically analyze 156 million SoRs within an observation period of two months to provide an early look at content moderation decisions of social media platforms in the EU. Our empirical analysis yields the following main findings: (i) There are vast differences in the frequency of content moderation across platforms. For instance, TikTok performs more than 350 times more content moderation decisions per user than X/Twitter. (ii) Content moderation is most commonly applied for text and videos, whereas images and other content formats undergo moderation less frequently. (ii) The primary reasons for moderation include content falling outside the platform's scope of service, illegal/harmful speech, and pornography/sexualized content, with moderation of misinformation being relatively uncommon. (iii) The majority of rule-breaking content is detected and decided upon via automated means rather than manual intervention. However, X/Twitter reports that it relies solely on non-automated methods. (iv) There is significant variation in the content moderation actions taken across platforms. Altogether, our study implies inconsistencies in how social media platforms implement their obligations under the DSA -- resulting in a fragmented outcome that the DSA is meant to avoid. Our findings have important implications for regulators to clarify existing guidelines or lay out more specific rules that ensure common standards on how social media providers handle rule-breaking content on their platforms.

研究の動機と目的

• 新しく設立されたDSA透明性データベースを活用して、EUにおける実際のコンテンツモデレーション意思決定の最初の実証的分析を提供すること。
• デジタルサービス法（DSA）の下で、異なるソーシャルメディアプラットフォームがいかにコンテンツモデレーションルールを実施しているかを調査すること。
• コンテンツモデレーションにおける自動化の程度と、透明性および公平性に与える影響を評価すること。
• プラットフォーム間で、モデレーション頻度、標的となるコンテンツタイプ、措置の理由、および取られる措置の種類にどのような差があるかを特定すること。
• 規制当局がプラットフォームによるDSA義務の実施に見られる不整合を理解し、より明確で標準化されたガイドラインの必要性を示すこと。

提案手法

• 2か月間にわたり、大手ソーシャルメディアプラットフォームがDSA透明性データベースに提出した1億5600万件の理由説明文（SoRs）を収集・分析した。
• プラットフォーム、コンテンツタイプ（テキスト、動画、画像など）、モデレーション理由（例：違法な発言、ポルノ、誤情報）、措置タイプ（削除、可視性の低下）ごとにSoRsを分類した。
• SoRs内のプラットフォームの公表内容に基づき、モデレーション意思決定を自動的か非自動的かに分類した。
• 各プラットフォームにおけるユーザー1人あたりのモデレーション頻度を数量化し、執行の規模と強度を比較した。
• ルール適用と措置タイプのプラットフォーム間差異をマッピングし、準拠の乖離度を評価した。
• 記述的および比較的統計的分析を用いて、DSA準拠のコンテンツモデレーションにおけるパターンと不整合を同定した。

実験結果

リサーチクエスチョン

• RQ1 EU域内でソーシャルメディアのコンテンツはどの程度頻繁にモデレーション対象となるか？
• RQ2 テキスト、画像、動画など、異なる種類のコンテンツは、ソーシャルメディアプラットフォームでどの程度頻繁にモデレーションされるか？
• RQ3 コンテンツモデレーション意思決定に根拠として挙げられている具体的な法的根拠（理由）は何か？
• RQ4 コンテンツモデレーション意思決定の何パーセントが自動化されており、何パーセントが人為的レビューによって行われているか？
• RQ5 プラットフォームが実施するコンテンツモデレーション措置（例：削除、可視性の低下）の種類は何か、またそれらはどのように異なるか？

主な発見

• TikTokはX/Twitterの350倍以上もユーザー1人あたりのコンテンツモデレーション意思決定を実施しており、プラットフォーム間での執行強度の顕著な差が示された。
• コンテンツモデレーションは主にテキストおよび動画コンテンツに頻繁に適用されており、画像やその他のフォーマットは著しく少ない頻度でモデレーションされている。
• モデレーションの主な理由は、プラットフォームの適用範囲外のコンテンツ、違法または有害な発言、ポルノ・性的なコンテンツであり、誤情報は相対的にまれな根拠であった。
• 大部分の違反コンテンツは自動化システムによって検出・処理されているが、X/Twitterは非自動化手法を独自に使用しているという例外がある。
• プラットフォーム間でモデレーション措置に顕著な差が見られた。多くのプラットフォームは違反コンテンツを削除しているが、他のプラットフォームは可視性の低下を頻繁に実施しており、執行戦略の差が顕著に現れた。
• これらの発見は、プラットフォームがDSA義務を解釈・実施する方法に顕著な不整合があることを示しており、規制が目指すEU域内での統一的かつ透明なコンテンツモデレーションの実現を損なっている。