[論文レビュー] Detecting Abusive Language on Online Platforms: A Critical Analysis.
この論文は、オンラインプラットフォームのコンテンツモデレーションの目的と、いびつな言語検出に関する現在のNLP研究の間にあるギャップを批判的に分析し、現実のモデレーションの優先事項と学術的関心の間の不一致を明らかにしている。既存の検出手法とプラットフォームのポリシーを調査し、公平性と有効性を高めるために、文脈に配慮し、包摂的で、倫理的根拠を持つアプローチを提唱する。多様なコミュニティにおけるいびつな言語の特定に貢献する。
Abusive language on online platforms is a major societal problem, often leading to important societal problems such as the marginalisation of underrepresented minorities. There are many different forms of abusive language such as hate speech, profanity, and cyber-bullying, and online platforms seek to moderate it in order to limit societal harm, to comply with legislation, and to create a more inclusive environment for their users. Within the field of Natural Language Processing, researchers have developed different methods for automatically detecting abusive language, often focusing on specific subproblems or on narrow communities, as what is considered abusive language very much differs by context. We argue that there is currently a dichotomy between what types of abusive language online platforms seek to curb, and what research efforts there are to automatically detect abusive language. We thus survey existing methods as well as content moderation policies by online platforms in this light, and we suggest directions for future work.
研究の動機と目的
- オンラインプラットフォームがモデレーションを目的としているいびつな言語のタイプと、現在のNLP研究の範囲との間の乖離を特定すること。
- 既存のNLP手法がいびつな言語を検出する方法を検討し、それらが実際のプラットフォームのコンテンツモデレーションポリシーとどの程度整合しているかを評価すること。
- いびつな言語の定義が文脈によって異なることが、検出やモデレーションの結果に一貫性の欠如をもたらす方法を浮き彫りにすること。
- 文脈理解、公平性、包摂性を重視する未来の研究方向性を提言すること。
- 学術的イノベーションと実際のモデレーションニーズの間のギャップを埋めるために、NLP研究者とプラットフォーム開発者との協働を促すこと。
提案手法
- 技術的アプローチと限界に焦点を当て、既存のNLP手法によるいびつな言語検出の比較的サーベイを実施すること。
- 主要なオンラインプラットフォームの公開されたコンテンツモデレーションポリシーを分析し、いびつな言語に関する定義と優先事項を理解すること。
- 研究に焦点を当てた検出技術とプラットフォーム固有のポリシー目標との整合性をマッピングし、主要な不一致を特定すること。
- 文脈への感受性、コミュニティ固有の適用可能性、代表されていないグループにおける公平性に基づいて検出手法を評価すること。
- 定性的かつ比較的分析を用いて、現在の研究における繰り返しの欠陥を同定すること。たとえば、狭いデータセットへの過剰依存や二値分類タスクへの依存。
- 文脈に配慮し、マルチコンテキストで、公平性を重視する検出モデルを強調する、今後の研究のためのフレームワークを提言すること。
実験結果
リサーチクエスチョン
- RQ1オンラインプラットフォームは、コンテンツモデレーションポリシーにおいて、どのような種類のいびつな言語を優先的にモデレーションしようとしているか？
- RQ2現在のNLP研究におけるいびつな言語検出手法は、これらのプラットフォームの優先事項とどの程度整合しているか？
- RQ3文脈的およびコミュニティ固有のいびつな言語の定義が、既存の検出モデルの一般化可能性にどのような挑戦をもたらすか？
- RQ4現在のNLPアプローチが、多様な社会的文脈におけるいびつな言語の繊細な側面をどの程度捉えられていないか、その主な限界は何か？
- RQ5今後のNLP研究は、オンラインプラットフォームにおける公平で効果的なコンテンツモデレーションをどのようによりよく支援できるか？
主な発見
- プラットフォームがモデレーションを目的としているいびつな言語のタイプと、現在のNLP研究の範囲との間に顕著な不一致がある。研究はしばしば、ヘイトスピーチのような狭く目立つ形に限定されている。
- 多くのNLP検出手法は、文脈に特化したいびつな表現を考慮していないため、実世界の応用において高い偽陽性または偽陰性のレートを生じている。
- 研究活動はしばしば、代表されていないコミュニティのニーズを無視しており、すでに脆弱なグループをさらに排除する偏ったモデルを生み出している。
- プラットフォームのポリシーには、マイクロアグレッションやトーンに基づくいじめといった洗練されたカテゴリのいびつな言語が含まれているが、これらは学術的データセットやモデルでほとんど無視されている。
- 現在の検出システムは主に、公開された英語データセットに基づいて訓練されており、多言語的または文化的に特異な形のいびつな言語への適用可能性が制限されている。
- 現実のモデレーションの優先事項を反映する標準化された評価ベンチマークの欠如が、公平で文脈に配慮した検出システムの進歩を妨げている。
より良い研究を、今すぐ始めましょう
論文の読解から最終レビューまで、研究時間を劇的に削減しましょう。
クレジットカード登録不要
このレビューはAIが作成し、人間の編集者が確認しました。