[論文レビュー] But Who Protects the Moderators? The Case of Crowdsourced Image Moderation

Brandon Dang, Martin Riedl+1 more|arXiv (Cornell University)|Apr 29, 2018

Hate Speech and Cyberbullying Detection参考文献 29被引用数 26

ひとこと要約

本研究では、コンテンツモデレーターが露出する心理的ダメージを軽減しつつ、モデレーションの正確性を維持するため、不快な画像をぼかす手法の有効性を検証した。アマゾン・メカニカル・トゥーカー（AMT）を用いて、ぼかし強度（σ = 0, 7, 14）とインタラクティブなぼかし解除ツールの効果をテストした結果、中程度のぼかしは分類の正確性を保ちつつ、感情的ストレスを軽減し、作業者が画像の表示を制御できる仕組みは使いやすさとメンタル・ウェルビーイングの向上に寄与することがわかった。

ABSTRACT

Though detection systems have been developed to identify obscene content such as pornography and violence, artificial intelligence is simply not good enough to fully automate this task yet. Due to the need for manual verification, social media companies may hire internal reviewers, contract specialized workers from third parties, or outsource to online labor markets for the purpose of commercial content moderation. These content moderators are often fully exposed to extreme content and may suffer lasting psychological and emotional damage. In this work, we aim to alleviate this problem by investigating the following question: How can we reveal the minimum amount of information to a human reviewer such that an objectionable image can still be correctly identified? We design and conduct experiments in which blurred graphic and non-graphic images are filtered by human moderators on Amazon Mechanical Turk (AMT). We observe how obfuscation affects the moderation experience with respect to image classification accuracy, interface usability, and worker emotional well-being.

研究の動機と目的

• オンラインで公開されるグロテスクなコンテンツにさらされるコンテンツモデレーターの心理的ダメージを軽減すること。
• 画像をぼかすことで視覚的情報の露出を最小限に抑えることで、モデレーションの正確性が維持されるかを調査すること。
• インタラクティブなぼかし解除ツールが作業者の制御感、使いやすさ、感情的ウェルビーイングに与える影響を評価すること。
• 性別、人種、年齢などの社会的・文化的要因がモデレーションパフォーマンスと感情的反応に与える影響を評価すること。
• 人間のレビュアーの作業環境を改善しつつ、コンテンツモデレーションの正確性を保つシステムを設計すること。

提案手法

• アマゾン・メカニカル・トゥーカー（AMT）上で6段階の実験を実施：ぼかしなしのベースライン、ガウスぼかし（σ = 7 および σ = 14）、およびインタラクティブなぼかし解除機能を備えた3段階。
• 標準偏差 σ ∈ {0, 7, 14} を用いたガウスぼかしを適用し、画像の視認性を保ちつつ段階的に視覚的詳細を低下させた。
• 3種類のインタラクティブなぼかし解除メカニズムを実装：クリックで画像を表示、マウスオーバーで一時的にぼかしを解除、スライダでぼかし強度を動的に調整。
• 分類の正確性、感情状態に関するアンケート、SPANE、PANAS、TAMに基づく尺度を用いた使いやすさの評価を含むデータ収集。
• ポジティブ・アフェクト／ネガティブ・アフェクト、感情的消耗、インターフェースの有用性と使いやすさを測定する標準化されたアンケートを実施。
• 研究倫理委員会（IRB）の承認（件名：2018-01-0004）を得て、人間被験に関する倫理基準を満たすように研究を設計した。

実験結果

リサーチクエスチョン

• RQ1 画像のぼかしが増加することで、AMT上での人間によるコンテンツモデレーションの正確性にどのような影響を与えるか？
• RQ2 クリック、ホーバー、スライダといったインタラクティブなぼかし解除ツールが、モデレーションの正確性と作業者の制御感に与える影響は何か？
• RQ3 画像の不鮮明化（ぼかし）が、作業者の感情的ウェルビーイングおよび感情的消耗の認識に与える影響は何か？
• RQ4 性別、人種、年齢といった文化的要因が、モデレーションパフォーマンスと感情的反応に与える影響は何か？
• RQ5 作業者がぼかし処理されたインターフェースを、有用で使いやすいと感じるのはどの程度か？

主な発見

• 中程度のぼかし（σ = 14）でも、不快なコンテンツの分類精度が高く維持された。これは、正確なモデレーション意思決定に顕著な視覚的詳細が必ずしも必要でないことを示している。
• クリック、ホーバー、スライダといったインタラクティブなぼかし解除機能により、作業者はグロテスクなコンテンツへの初期露出を減らしつつも、高い正確性を維持できた。
• 特に σ = 14 のぼかし状態では、作業者がネガティブ・アフェクトおよび感情的消耗のレベルを低く報告した。これは、心理的ウェルビーイングの向上を示唆している。
• ぼかし解除ツールの導入により、インターフェースの有用性と使いやすさに対する評価が向上した。これは、視覚的露出の制御が使いやすさに寄与していることを示している。
• アンケートデータから、作業者がこのタスクを完全な職務として行うと、感情的消耗が著しく増加すると予想していた。これは、フィルタリングなしのコンテンツモデレーションが心理的負担を伴うことを示している。
• ぼかし処理による視覚的情報の削減に加え、ユーザーが制御可能なぼかし解除機能を組み合わせることで、モデレーションの質を損なわせることなくモデレーターを保護する戦略が有効であると示された。