[논문 리뷰] Content Moderation on Social Media in the EU: Insights From the DSA Transparency Database

Chiara Drolsbach, Nicolas Pröllochs|arXiv (Cornell University)|2023. 12. 07.

Hate Speech and Cyberbullying Detection인용 수 4

한 줄 요약

이 연구는 유럽연합(DSA) 투명성 데이터베이스에서 제공한 1억 5,600만 건의 이유 서류(SoRs)를 분석하여 주요 소셜미디어 플랫폼의 콘텐츠 규제 방식을 조사한다. 연구 결과, 규제 빈도에 큰 격차가 있으며, 자동화에 크게 의존하고, 규칙 적용이 일관되지 않으며, 집행이 분산되어 있음을 확인했으며, 이는 DSA가 유럽연합 내 플랫폼 책임의 통합을 달성하려는 목표를 뒷받질하는 체계적 모순을 드러낸다.

ABSTRACT

The Digital Services Act (DSA) requires large social media platforms in the EU to provide clear and specific information whenever they remove or restrict access to certain content. These "Statements of Reasons" (SoRs) are collected in the DSA Transparency Database to ensure transparency and scrutiny of content moderation decisions of the providers of online platforms. In this work, we empirically analyze 156 million SoRs within an observation period of two months to provide an early look at content moderation decisions of social media platforms in the EU. Our empirical analysis yields the following main findings: (i) There are vast differences in the frequency of content moderation across platforms. For instance, TikTok performs more than 350 times more content moderation decisions per user than X/Twitter. (ii) Content moderation is most commonly applied for text and videos, whereas images and other content formats undergo moderation less frequently. (ii) The primary reasons for moderation include content falling outside the platform's scope of service, illegal/harmful speech, and pornography/sexualized content, with moderation of misinformation being relatively uncommon. (iii) The majority of rule-breaking content is detected and decided upon via automated means rather than manual intervention. However, X/Twitter reports that it relies solely on non-automated methods. (iv) There is significant variation in the content moderation actions taken across platforms. Altogether, our study implies inconsistencies in how social media platforms implement their obligations under the DSA -- resulting in a fragmented outcome that the DSA is meant to avoid. Our findings have important implications for regulators to clarify existing guidelines or lay out more specific rules that ensure common standards on how social media providers handle rule-breaking content on their platforms.

연구 동기 및 목표

• 최근 구축된 DSA 투명성 데이터베이스를 활용하여 실제 세계의 콘텐츠 규제 결정에 대한 첫 번째 실증 분석을 제공하기 위해.
• 디지털 서비스법(DSA)에 따라 다양한 소셜미디어 플랫폼이 콘텐츠 규제 규칙을 어떻게 시행하는지 조사하기 위해.
• 콘텐츠 규제에서 자동화의 정도와 투명성 및 공정성에 미치는 영향을 평가하기 위해.
• 플랫폼 간 규제 빈도, 대상 콘텐츠 유형, 조치 사유, 취해지는 조치 유형의 차이를 특정하기 위해.
• 규제 당국이 플랫폼의 DSA 의무 이행 방식에 나타나는 비일관성과 더 명확하고 표준화된 지침이 필요한 점을 안내하기 위해.

제안 방법

• 두 달 동안 대규모 소셜미디어 플랫폼이 DSA 투명성 데이터베이스에 제출한 1억 5,600만 건의 이유 서류(SoRs)를 수집하고 분석함.
• 플랫폼, 콘텐츠 유형(문자, 영상, 이미지 등), 규제 사유(예: 불법 발언, 포르노그래피, 오락성 정보), 조치 유형(삭제, 노출도 감소)별로 SoRs를 분류함.
• SoRs 내 플랫폼 공개 자료를 바탕으로 규제 결정을 자동화된 것인지 비자동화된 것인지 분류함.
• 플랫폼 간 사용자당 규제 빈도를 수량화하여 집행의 규모와 강도를 비교함.
• 규칙 적용 및 조치 유형의 플랫폼 간 변동성을 맵핑하여 준수 이격도를 평가함.
• 기술통계 및 비교 분석을 통해 DSA 준수 콘텐츠 규제의 패턴과 비일관성을 규명함.

실험 결과

연구 질문

• RQ1 유럽연합 내 소셜미디어 콘텐츠는 얼마나 자주 규제되는가?
• RQ2 다양한 유형의 콘텐츠(문자, 이미지, 영상 등)는 소셜미디어 플랫폼에서 얼마나 자주 규제되는가?
• RQ3 콘텐츠 규제 결정에 근거로 제시된 구체적인 법적 근거(사유)는 무엇인가?
• RQ4 콘텐츠 규제 결정의 어느 정도가 자동화된 방식으로 이루어지고, 어느 정도는 수동 검토를 통해 이루어지는가?
• RQ5 플랫폼에서 시행하는 콘텐츠 규제 조치 유형(예: 삭제, 노출도 감소)은 무엇이며, 이는 어떻게 다를까?

주요 결과

• 틱톡은 X/트위터보다 사용자당 350배 이상 많은 콘텐츠 규제 결정을 내려, 플랫폼 간 규제 강도에 큰 격차가 있음을 시사한다.
• 콘텐츠 규제는 주로 문자 및 영상 콘텐츠에 가장 자주 적용되며, 이미지 및 기타 형식은 상대적으로 훨씬 덜 규제된다.
• 주요 규제 사유는 플랫폼의 범위를 벗어난 콘텐츠, 불법 또는 해로운 발언, 포르노그래피/성적 콘텐츠이며, 오락성 정보는 비교적 드문 근거로 제시된다.
• 다수의 규제 위반 콘텐츠는 자동화된 시스템을 통해 감지되고 처리되지만, X/트위터는 유일하게 비자동화된 방법을 전면적으로 사용하고 있음을 보여주며 이는 예외적인 경우이다.
• 플랫폼 간 규제 조치에 큰 차이가 있으며, 대부분의 플랫폼은 위반 콘텐츠를 삭제하지만, 일부는 빈번히 노출도를 감소시키므로, 이는 다른 집행 전략을 의미한다.
• 이러한 결과는 플랫폼 간 DSA 의무 이행 방식에 상당한 비일관성이 있음을 드러내며, 이는 규제가 유럽연합 전역에서 통합되고 투명한 콘텐츠 규제를 달성하려는 목표를 뒷받질하고 있음을 시사한다.