[論文レビュー] Personalizing Content Moderation on Social Media: User Perspectives on Moderation Choices, Interface Design, and Labor

Shagun Jhaver, Alice Qian Zhang+4 more|arXiv (Cornell University)|May 17, 2023

Hate Speech and Cyberbullying Detection被引用数 5

ひとこと要約

本研究は、24名のユーザーに対するインタビューを通じて、ソーシャルメディアにおける個人コンテンツモデレーションツールのユーザーの好みを調査し、毒性スライダー、ワードフィルター、ブール型トグルなどのシミュレートされたインターフェースを評価した。研究結果から、ユーザーはモデレーションツールにおいて明確さ、文脈、透明性を重視しており、プラットフォームや信頼できる第三者機関による開発を好むことが明らかになった。これは、ユーザーのコントロールとプラットフォームの責任を高めるために、より直感的で説明責任のある個人モデレーション設計の必要性を示している。

ABSTRACT

Social media platforms moderate content for each user by incorporating the outputs of both platform-wide content moderation systems and, in some cases, user-configured personal moderation preferences. However, it is unclear (1) how end users perceive the choices and affordances of different kinds of personal content moderation tools, and (2) how the introduction of personalization impacts user perceptions of platforms' content moderation responsibilities. This paper investigates end users' perspectives on personal content moderation tools by conducting an interview study with a diverse sample of 24 active social media users. We probe interviewees' preferences using simulated personal moderation interfaces, including word filters, sliders for toxicity levels, and boolean toxicity toggles. We also examine the labor involved for users in choosing moderation settings and present users' attitudes about the roles and responsibilities of social media platforms and other stakeholders towards moderation. We discuss how our findings can inform design solutions to improve transparency and controllability in personal content moderation tools.

研究の動機と目的

• エンドユーザーがスライダー、フィルター、トグルなどの異なる種類の個人コンテンツモデレーションツールをどのように認識・好むかを理解すること。
• ユーザーが個人モデレーション設定の設定に伴うとされる作業負荷および認知的負担をどのように認識しているかを検討すること。
• プラットフォームの責任と第三者開発者の役割についてのユーザーの態度を調査すること。
• 個人モデレーションシステムにおける透明性、制御可能性、ユーザーの信頼を高める設計原則を特定すること。

提案手法

• 24名のアクティブなソーシャルメディア利用者を対象に、半構造化インタビューを実施し、個人モデレーションツールの好みを調査した。
• 毒性スライダー、ワードフィルター、ブール型毒性トグルの3種類のモデレーション制御をテストするためのシミュレートされたソーシャルメディアインターフェースを設計・配信した。
• 参加者のフィードバックをもとに、インターフェースの明確さ、認識されたコントロール感、プラットフォームおよび第三者の役割に対するユーザーの態度を分析した。
• モデレーション設定における「毒性」や「感受性」などの用語の曖昧さに対するユーザーの認識を評価した。
• ユーザーが自ら設定したモデレーションとプラットフォーム全体のルールの間で、公平性と正当性をどのように認識しているかを検討した。
• 学術機関や信頼できる非営利団体が開発したツールの採用意欲についてのインサイトを収集した。

実験結果

リサーチクエスチョン

• RQ1 ユーザーは、スライダー、フィルター、トグルなどの異なるインターフェースデザインに対して、どのように認識・好むか？
• RQ2 ユーザーは、個人モデレーション設定の設定に伴う認知的および感情的負担をどのように関連付けているか？
• RQ3 ユーザーは、プラットフォームと第三者が個人モデレーションツールの開発・維持に果たす責任をどのように認識しているか？
• RQ4 明確さ、文脈、根拠が、ユーザーの信頼および個人モデレーションツールの採用にどのように寄与するか？
• RQ5 ユーザーの個人モデレーションの好みは、毒性、攻撃性、ミソジニーなどの異なる種類のコンテンツによってどのように変化するか？

主な発見

• ユーザーは、特に「毒性」といった曖昧な用語を扱う際の明確さとコントロール感を重視し、スライダーよりもワードフィルターとブール型トグルを強く好んだ。
• 多くの参加者が、『攻撃性』や『ミソジニー』といった抽象的なカテゴリのためのスライダーを混乱しやすく、深刻な言語的害悪を正常化または軽視する恐れがあると感じた。
• 用語が曖昧で文脈が欠落している場合、モデレーション設定の設定に大きな認知的負担を感じ、不満や関与の放棄を引き起こした。
• 参加者は、商業的プラットフォームよりも、学術機関や信頼できる非営利団体が開発した個人モデレーションツールをより信頼し、採用しやすいと感じた。
• モデレーション用語の明確な定義と、コンテンツフィルタリング意思決定の根拠が、透明性を高める上で不可欠であると強調した。
• 個人化への関心はあったが、参加者は個人用ツールがプラットフォームの効果的な基本的コンテンツモデレーション責任を免除するものではないと強く強調した。