[論文レビュー] RF-GNN: Random Forest Boosted Graph Neural Network for Social Bot Detection

Shuhao Shi, Kai Qiao+4 more|arXiv (Cornell University)|Apr 14, 2023

Network Security and Intrusion Detection被引用数 5

ひとこと要約

本稿では、社会的ボット検出のための新しいランダムフォレストブースト型グラフニューラルネットワーク（RF-GNN）を提案する。この手法は、アンサンブルフレームワーク内でのベース分類器としてGNNを統合する。ノードサンプリング、特徴選択、エッジドロップアウトを用いて多様な部分グラフを構築し、GNNとFCNの出力をアライメントすることで、モデルのロバスト性と精度を向上させ、ベンチマークデータセット上で最先端のGNNベースラインを上回る性能を達成する。

ABSTRACT

The presence of a large number of bots on social media leads to adverse effects. Although Random forest algorithm is widely used in bot detection and can significantly enhance the performance of weak classifiers, it cannot utilize the interaction between accounts. This paper proposes a Random Forest boosted Graph Neural Network for social bot detection, called RF-GNN, which employs graph neural networks (GNNs) as the base classifiers to construct a random forest, effectively combining the advantages of ensemble learning and GNNs to improve the accuracy and robustness of the model. Specifically, different subgraphs are constructed as different training sets through node sampling, feature selection, and edge dropout. Then, GNN base classifiers are trained using various subgraphs, and the remaining features are used for training Fully Connected Netural Network (FCN). The outputs of GNN and FCN are aligned in each branch. Finally, the outputs of all branches are aggregated to produce the final result. Moreover, RF-GNN is compatible with various widely-used GNNs for node classification. Extensive experimental results demonstrate that the proposed method obtains better performance than other state-of-the-art methods.

研究の動機と目的

• ユーザー間の相互作用関係を無視する従来の特徴ベースのボット検出手法の限界を解消すること。
• 敵対的かつ進化するボット行動に対して、単体のGNNが示すロバストネスの欠如を克服すること。
• アンサンブル学習（ランダムフォレスト）とグラフニューラルネットワーク（GNN）の長所を統合し、より優れた検出性能を実現すること。
• ノード分類タスクにおけるさまざまなGNNバックボーンと互換性を持つ柔軟なフレームワークを設計すること。
• 新規な出力アライメント機構を用いて、破棄された特徴を効果的に活用することで、モデルのロバスト性を向上させること。

提案手法

• 元のソーシャルグラフに対してノードサンプリング、特徴選択、エッジドロップアウトを適用することで、学習用の多様な部分グラフを構築する。
• 残りの特徴を入力として全結合ニューラルネットワーク（FCN）に与えることにより、異なる部分グラフ上で複数のGNNベース分類器を学習する。
• GNNとFCNブランチの予測を統合する出力アライメント機構を実装し、特徴の効率的活用を図る。
• ランダムフォレストアンサンブルで一般的な投票メカニズムを用いて、すべてのブランチからの予測を集約する。
• GNNアーキテクチャを相互に交換可能なベース分類器として扱うことで、さまざまなGNNアーキテクチャとの互換性を実現する。
• ランダムフォレストのアンサンブル特性を活用し、過学習を低減し、部分グラフの変化に対してロバスト性を高める。

実験結果

リサーチクエスチョン

• RQ1 ランダムフォレストフレームワーク内にGNNをベース分類器として統合することで、社会的ボット検出性能が向上するか？
• RQ2 ノードサンプリング、特徴選択、エッジドロップアウトによる部分グラフの多様性が、モデルのロバスト性と精度にどのように影響するか？
• RQ3 提案された出力アライメント機構は、GNN学習時に破棄された特徴を活用することで、性能をどの程度向上させるか？
• RQ4 RF-GNNフレームワークは、複数のベンチマークデータセットにおいて、常に最先端のGNNベースのベースラインを上回るか？
• RQ5 社会的ボット検出の文脈において、さまざまなGNNアーキテクチャとの間で、このフレームワークの一般化性能はどの程度高いか？

主な発見

• RF-GNNは、複数の公開された社会的ボット検出ベンチマークデータセットにおいて、最先端のGNNベースのベースラインを上回る優れた性能を達成した。
• 提案された出力アライメント機構は、GNN学習時に破棄された特徴を効果的に活用することで、モデルのロバスト性を顕著に向上させた。
• ノードサンプリング、特徴選択、エッジドロップアウトによる部分グラフ構築は、多様なベース分類器を生成し、アンサンブルの一般化性能を向上させた。
• フレームワークは、広く使われているさまざまなGNNモデルと強い互換性を示し、その柔軟性と拡張性を確認した。
• 広範な実験により、RF-GNNが異なるデータセットや設定において一貫して検出精度とロバスト性を向上させることを確認した。
• ソースコード、データ、アーティファクトはすべてhttps://github.com/GraphDetec/RF-GNNで公開されており、再現性とさらなる研究を支援している。