[論文レビュー] In the Service of Online Order: Tackling Cyber-Bullying with Machine Learning and Affect Analysis

Michał Ptaszyński, Paweł Dybała+5 more|arXiv (Cornell University)|Mar 4, 2022

Bullying, Victimization, and Aggression参考文献 15被引用数 50

ひとこと要約

本論文は、 affect analysis と SVM を用いて、非公式の日本の学校サイト上のサイバーいじめエントリを自動検出するシステムを開発し、バランスF-measure 88.2%を達成した。

ABSTRACT

One of the burning problems lately in Japan has been cyber-bullying, or slandering and bullying people online. The problem has been especially noticed on unofficial Web sites of Japanese schools. Volunteers consisting of school personnel and PTA (Parent-Teacher Association) members have started Online Patrol to spot malicious contents within Web forums and blogs. In practise, Online Patrol assumes reading through the whole Web contents, which is a task difficult to perform manually. With this paper we introduce a research intended to help PTA members perform Online Patrol more efficiently. We aim to develop a set of tools that can automatically detect malicious entries and report them to PTA members. First, we collected cyber-bullying data from unofficial school Web sites. Then we performed analysis of this data in two ways. Firstly, we analysed the entries with a multifaceted affect analysis system in order to find distinctive features for cyber-bullying and apply them to a machine learning classifier. Secondly, we applied a SVM based machine learning method to train a classifier for detection of cyber-bullying. The system was able to classify cyber-bullying entries with 88.2% of balanced F-score.

研究の動機と目的

• PTAメンバーがオンラインパトロールをより効率的に行えるようツールを促進する。
• 分析のために非公式な学校ウェブサイトからサイバーいじめデータを収集する。
• 感情特徴を用いてサイバーいじめと善良な content を識別する。
• サイバーいじめ検出のための機械学習分類器を評価する。

提案手法

• 非公式の学校ウェブサイトからサイバーいじめデータを収集する。
• 多面的な感情分析システムを適用して特徴を抽出する。
• 感情特徴を用いてサポートベクターマシン（SVM）分類器を訓練する。
• バランスFスコアを用いて分類性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 感情特徴はサイバーいじめエントリを他のオンラインコンテンツと区別できるか。
• RQ2 学校関連フォーラムで感情ベースの特徴を用いたSVM分類器はサイバーいじめ検出にどれだけ有効か。
• RQ3 提案手法の分類性能（バランスFスコア）はどのくらいか。

主な発見

• 本システムは多面的な感情分析を用いてサイバーいじめ検出の特徴を導出する。
• これらの特徴で訓練したSVM分類器は88.2%のバランスF-scoreでサイバーいじめを検出する。
• 本アプローチは有害コンテンツの自動検出を通じてオンラインパトロール活動を支援することを目指す。
• 分析のために非公式の学校ウェブサイトからデータを収集した。