[논문 리뷰] Social Media, Content Moderation, and Technology

Yi Liu, Pınar Yıldırım외 1명|arXiv (Cornell University)|2021. 01. 12.

Media Influence and Politics참고 문헌 26인용 수 13

한 줄 요약

이 논문은 광고 모델과 구독 모델을 기반으로 하는 이기적인 소셜미디어 플랫폼이 콘텐츠 모더레이션을 어떻게 최적화하는지 분석하는 이론적 모델을 개발한다. 광고 기반 플랫폼은 구독 기반 플랫폼보다 더 자주 콘텐츠를 모더레이션하며, 그 방식도 덜 과도하게 이루어지며, 65개 플랫폼에 대한 설문 조사로 그 결과를 실증적으로 뒷받침한다. 이 설문 조사에서는 구독 기반 플랫폼이 더 많은 콘텐츠 유형을 모더레이션하는 것으로 나타났다. 주요 기여는 콘텐츠 모더레이션을 플랫폼의 브랜드 위치화와 사용자 유지를 위한 전략적 마케팅 수단으로 재구성한 데 있다.

ABSTRACT

This paper develops a theoretical model to study the economic incentives for a social media platform to moderate user-generated content. We show that a self-interested platform can use content moderation as an effective marketing tool to expand its installed user base, to increase the utility of its users, and to achieve its positioning as a moderate or extreme content platform. The optimal content moderation strategy differs for platforms with different revenue models, advertising or subscription. We also show that a platform's content moderation strategy depends on its technical sophistication. Because of imperfect technology, a platform may optimally throw away the moderate content more than the extreme content. Therefore, one cannot judge how extreme a platform is by just looking at its content moderation strategy. Furthermore, we show that a platform under advertising does not necessarily benefit from a better technology for content moderation, but one under subscription does. This means that platforms under different revenue models can have different incentives to improve their content moderation technology. Finally, we draw managerial and policy implications from our insights.

연구 동기 및 목표

• 자기 이익을 추구하는 플랫폼이 다양한 비즈니스 모델 하에서 수익을 극대화하기 위해 콘텐츠 모더레이션 전략을 어떻게 설계하는지 이해하기 위해.
• 수익 모델(광고 대비 구독)이 플랫폼의 콘텐츠 모더레이션에 대한 유인과 전략에 영향을 미치는지 분석하기 위해.
• 플랫폼이 항상 더 나은 모더레이션 기술에 투자하는지 평가하고, 이로 인해 사용자 기반과 지불의사가 어떻게 영향을 받는지 분석하기 위해.
• 자유시장의 콘텐츠 모더레이션 결과가 사회적 최적 상태와 비교할 때 콘텐츠의 극단성과 사용자 복지 측면에서 어떻게 다른지 밝혀내기 위해.

제안 방법

• 사용자가 콘텐츠를 게시하고 읽는 데서 유용성을 얻고, 극단적인 콘텐츠에서 불편함을 느끼는 이론적 모델을 개발한다.
• 플랫폼 수익을 광고 기반(사용자 참여도 비례) 또는 구독 기반(사용자당 고정 요금)으로 모델링한다.
• 사용자 선호도, 수익 모델, 기술 능력에 따라 최적의 콘텐츠 모더레이션 전략을 유도한다.
• 콘텐츠 유형에 대한 10개의 예/아니요 질문에 답변하는 평가자들을 통해 65개 플랫폼의 콘텐츠 모더레이션 정책을 평가하는 설문 조사를 실시한다.
• 이론적 예측을 실증적으로 검증하기 위해 두 가지 집계 방법을 사용한다: 예상 답변 비율(PER)과 다数결정( MR)이다.
• OLS 회귀 분석을 수행하며, 종속변수로 플랫폼의 모더레이션 강도(카테고리_PER 또는 카테고리_MR)를, 독립변수로 광고 수익 가짜변수(AD)를 사용한다.

실험 결과

연구 질문

• RQ1 플랫폼의 수익 모델(광고 대비 구독)이 콘텐츠 모더레이션 전략에 어떤 영향을 미치는가?
• RQ2 플랫폼은 수익 극대화를 위해 항상 더 나은 콘텐츠 모더레이션 기술을 선호하는가?
• RQ3 자유시장의 콘텐츠 모더레이션은 콘텐츠의 극단성과 사용자 복지 측면에서 사회적 최적 상태와 어떻게 비교되는가?
• RQ4 사용자 간 극단적 콘텐츠에 대한 내성의 다양성이 다양한 모더레이션 전략을 정당화하는 데 얼마나 기여하는가?

주요 결과

• 광고 기반 플랫폼은 구독 기반 플랫폼보다 콘텐츠를 더 자주 모더레이션하며, 67개의 모더레이션 플랫폼 중 65개에서 이와 같은 경향을 보였다.
• 다수결정 모델에서 AD의 회귀 계수는 음수이며 유의미하다(β′₁ = -0.751, p < 0.05), 이는 구독 기반 플랫폼이 더 많은 콘텐츠 유형을 모더레이션한다는 것을 의미한다.
• 비율 기반 측정치(categories_PER)는 음수이지만 덜 정밀한 추정치를 보이며(β₁ = -0.235, p > 0.05), 이는 데이터에 더 많은 노이즈가 있음을 시사한다.
• 결과는 이론적 예측을 지지하며, 구독 기반 플랫폼이 모더레이션을 시행할 경우 광고 기반 플랫폼보다 더 과도하게 모더레이션한다는 것을 보여준다.
• 이 연구는 콘텐츠 모더레이션이 이중 마케팅 수단으로 작용한다는 것을 발견했다: 극단적인 사용자를 제거함으로써 사용자 기반을 확장하고, 독서에 따른 불편함을 줄여 지불의사를 높이는 데 기여한다.
• 실증적 증거는 구독 수익 모델을 채택한 플랫폼이 혐오 발언, 폭력, 오락성 정보 등 다양한 유형의 콘텐츠를 더 많이 모더레이션한다는 것을 확인한다.