[論文レビュー] Social Media, Content Moderation, and Technology

Yi Liu, Pınar Yıldırım+1 more|arXiv (Cornell University)|Jan 12, 2021

Media Influence and Politics参考文献 26被引用数 13

ひとこと要約

本稿は、広告型とサブスクリプション型の収益モデルの下で、自己利益を最大化するソーシャルメディアプラットフォームがコンテンツモデレーションをどのように最適化するかを分析する理論的モデルを開発している。広告型プラットフォームはサブスクリプション型に比べてコンテンツモデレーションをより積極的に行うが、その程度はやや穏やかである。65のプラットフォームを対象とした調査の実証的証拠により、サブスクリプション型プラットフォームはより多くのコンテンツ分野をモデレーションしていることが示された。主な貢献は、コンテンツモデレーションをプラットフォームの位置づけとユーザーロイヤルティに影響を与える戦略的マーケティングツールとして捉えることにある。

ABSTRACT

This paper develops a theoretical model to study the economic incentives for a social media platform to moderate user-generated content. We show that a self-interested platform can use content moderation as an effective marketing tool to expand its installed user base, to increase the utility of its users, and to achieve its positioning as a moderate or extreme content platform. The optimal content moderation strategy differs for platforms with different revenue models, advertising or subscription. We also show that a platform's content moderation strategy depends on its technical sophistication. Because of imperfect technology, a platform may optimally throw away the moderate content more than the extreme content. Therefore, one cannot judge how extreme a platform is by just looking at its content moderation strategy. Furthermore, we show that a platform under advertising does not necessarily benefit from a better technology for content moderation, but one under subscription does. This means that platforms under different revenue models can have different incentives to improve their content moderation technology. Finally, we draw managerial and policy implications from our insights.

研究の動機と目的

• 自己利益志向のプラットフォームが、異なるビジネスモデルのもとで収益を最大化するためにコンテンツモデレーションをどのように設計するかを理解すること。
• 収益モデル（広告型対サブスクリプション型）が、プラットフォームのコンテンツモデレーションにおけるインcentive（インcentive）と戦略に与える影響を分析すること。
• プラットフォームが常により優れたモデレーション技術に投資するとは限らないこと、およびその影響がユーザーベースと支払い意思額に与える影響を評価すること。
• 自由市場におけるコンテンツモデレーションの結果と社会的最適状態を比較し、規制の正当化を特定すること。

提案手法

• ユーザーが投稿やコンテンツ閲覧から効用を得るが、極端なコンテンツには不快感（負の効用）を覚える理論的モデルを構築する。
• プラットフォームの収益を、ユーザーの関与度に比例する広告型（広告収益）または1ユーザーあたり固定料金のサブスクリプション型（サブスクリプション収益）としてモデル化する。
• ユーザーの好み、収益モデル、技術的能力を関数として最適なコンテンツモデレーション戦略を導出する。
• 65のプラットフォームを対象とした調査を通じて、10の「はい／いいえ」質問によるコンテンツ分野別モデレーション方針を評価する。
• 理論的予測の実証的検証として、各コンテンツ分野について「はい」回答の割合（PER）と過半数ルール（MR）の2つの集計法を用いる。
• OLS回帰分析を実施し、従属変数としてプラットフォームのモデレーション強度（categories_PER または categories_MR）を、独立変数として広告収益ダミー変数（AD）を用いる。

実験結果

リサーチクエスチョン

• RQ1 プラットフォームの収益モデル（広告型対サブスクリプション型）は、そのコンテンツモデレーション戦略にどのように影響を与えるか？
• RQ2 プラットフォームは利益を最大化するために、常に優れたコンテンツモデレーション技術を好むとは限らないか？
• RQ3 自由市場におけるコンテンツモデレーションは、コンテンツの極端さとユーザーフェアウェルフェアの観点から社会的最適状態と比べてどの程度異なるか？
• RQ4 ユーザーが極端なコンテンツに対する耐性にばらつきを示す場合、モデレーション戦略の差を説明づける要因としてどの程度の役割を果たすか？

主な発見

• 広告型プラットフォームはサブスクリプション型に比べて、67のモデレーション対象プラットフォームのうち65でコンテンツモデレーションをより積極的に行う傾向にある。
• 過半数ルールモデルでは、ADの係数が負かつ有意（β′₁ = -0.751, p < 0.05）であり、サブスクリプション型プラットフォームがより多くのコンテンツ分野をモデレーションしていることを示している。
• 割合ベースの測定（categories_PER）では負の推定値が得られるが、有意性は低い（β₁ = -0.235, p > 0.05）ため、データのノイズが大きいと示唆されている。
• 結果は、モデレーションを行う限りにおいて、サブスクリプション型プラットフォームが広告型に比べてより積極的にモデレーションを行うという理論的予測を支持している。
• 本研究では、コンテンツモデレーションが二重のマーケティングツールとして機能することを明らかにした。すなわち、極端なユーザーを除外することでユーザーベースを拡大し、閲覧による不快感を軽減することで支払い意思額を向上させる。
• 実証的証拠により、サブスクリプション収益モデルを採用するプラットフォームが、嫌がらせ、暴力、誤情報など複数のコンテンツタイプにおいてより多くの分野をモデレーションしていることが確認された。