[論文レビュー] HOFA: Twitter Bot Detection with Homophily-Oriented Augmentation and Frequency Adaptive Attention

Sen Ye, Zhaoxuan Tan+5 more|arXiv (Cornell University)|Jun 22, 2023

Spam and Phishing DetectionComputer Science被引用数 3

ひとこと要約

HOFAは、本物のユーザーをフォローすることで検出を避けようとする『異種結合的 disguise（heterophilous disguise）』に立ち向かうために、同型性指向のグラフ拡張（Homo-Aug）と周波数適応型アテンション機構（FaAt）を用いた、新しいグラフベースのTwitterボット検出フレームワークを提案する。この手法は、3つのベンチマークで最先端の性能を達成し、従来のグラフベースおよび異種結合的ベースラインを著しく上回る。

ABSTRACT

Twitter bot detection has become an increasingly important and challenging task to combat online misinformation, facilitate social content moderation, and safeguard the integrity of social platforms. Though existing graph-based Twitter bot detection methods achieved state-of-the-art performance, they are all based on the homophily assumption, which assumes users with the same label are more likely to be connected, making it easy for Twitter bots to disguise themselves by following a large number of genuine users. To address this issue, we proposed HOFA, a novel graph-based Twitter bot detection framework that combats the heterophilous disguise challenge with a homophily-oriented graph augmentation module (Homo-Aug) and a frequency adaptive attention module (FaAt). Specifically, the Homo-Aug extracts user representations and computes a k-NN graph using an MLP and improves Twitter's homophily by injecting the k-NN graph. For the FaAt, we propose an attention mechanism that adaptively serves as a low-pass filter along a homophilic edge and a high-pass filter along a heterophilic edge, preventing user features from being over-smoothed by their neighborhood. We also introduce a weight guidance loss to guide the frequency adaptive attention module. Our experiments demonstrate that HOFA achieves state-of-the-art performance on three widely-acknowledged Twitter bot detection benchmarks, which significantly outperforms vanilla graph-based bot detection techniques and strong heterophilic baselines. Furthermore, extensive studies confirm the effectiveness of our Homo-Aug and FaAt module, and HOFA's ability to demystify the heterophilous disguise challenge.

研究の動機と目的

• 本物のユーザーを多数フォローすることで検出を回避するという、『異種結合的 disguise（heterophilous disguise）』と呼ばれる手法を用いるTwitterボットの増加する脅威に対処すること。
• 近隣ノードの平均化に起因する特徴の過剰平滑化（feature over-smoothing）を引き起こす、同型性仮説に依存する従来のグラフベースボット検出手法の限界を克服すること。
• エッジの種別に基づいて情報を適応的にフィルタリングするフレームワークを設計すること。具体的には、同型的エッジではローパスフィルタリングを、異種的エッジではハイパスフィルタリングを適用すること。
• 周波数適応型アテンション機構を監督するための重みガイドランス損失を導入することで、モデルのロバストネスと一般化性能を向上させること。
• 標準的なTwitterボット検出データセットを用いた広範なアブレーションおよびベンチマーク実験を通じて、提案手法の有効性を検証すること。

提案手法

• Homo-Augは、ユーザー表現を抽出するためのMLPを用いてk近傍（k-NN）グラフを計算することで、グラフデータ拡張を実行する。これによりグラフの同型性が向上し、異種的接続の影響が軽減される。
• FaAtモジュールは、アテンション機構を用い、同型的エッジでは特徴の平滑化（ローパスフィルタリング）を、異種的エッジでは類似性の保持（ハイパスフィルタリング）を適応的に行う。これによりボット特徴の過剰平滑化を防ぐ。
• アテンション重みは、ノード表現の類似度に基づいて同型的エッジと異種的エッジを区別する学習可能な周波数応答関数によって学習される。
• FaAtモジュールを監督するための重みガイドランス損失（WeGL）を導入。これにより、ボットと本物のユーザーを区別する上で重要なエッジに高いアテンションを割り当てるよう促進される。
• 2段階のトレーニングパイプラインを採用：まずHomo-Augモジュールを訓練して拡張グラフを生成し、次にFaAtベースのGNNを微調整して最終的なボット分類を実行する。
• ユーザー表現は事前学習済み言語モデル（PLM）で符号化され、最終的なGNN層は周波数適応型アテンション機構を介して特徴をアグリゲートし、最終予測を出力する。

Figure 1. An example of heterophilous disguise where a bot account follows a vast majority of genuine users and the suspicious features are smoothed by neighboring genuine users’ normal features.

実験結果

リサーチクエスチョン

• RQ1 同型性仮説に依存するグラフベースボット検出モデルが、本物のユーザーを多数フォローすることで隠蔽する『異種結合的 disguise（heterophilous disguise）』を効果的に検出できるか。
• RQ2 同型性指向のグラフ拡張は、ボット検出における異種的エッジの干渉に対して、グラフニューラルネットワークのロバストネスをどの程度向上できるか。
• RQ3 周波数適応型アテンション機構は、エッジの種別（同型的 vs. 異種的）に基づいてフィルタリング動作を動的に調整でき、ボット特徴の過剰平滑化をどの程度軽減できるか。
• RQ4 重みガイドランス損失（WeGL）の統合は、アテンション機構が本物アカウントとボットアカウントを区別する能力をどの程度向上させるか。
• RQ5 提案されたHOFAフレームワークは、複数の標準ベンチマークデータセットにおいて、従来のグラフベースおよび異種結合的ベースラインよりも一般化性能に優れているか。

主な発見

• HOFAは、広く使われている3つのTwitterボット検出ベンチマーク（TwiBot-20、MGTAB-22、および別の未名前ベンチマーク）で最先端の性能を達成。TwiBot-20では82.29%の精度、MGTAB-22では88.68%の精度を記録。
• アブレーションスタディの結果、Homo-Augモジュールを削除すると、TwiBot-20で0.36%、MGTAB-22で0.25%の精度低下が生じ、同型性の向上に果たすその重要性が確認された。
• FaAtを通常のアテンションまたは平均プーリングに置き換えると、MGTAB-22でF1スコアが4.14%も低下し、周波数適応型フィルタリングの優位性が裏付けられた。
• 重みガイドランス損失（WeGL）を削除すると、TwiBot-20でF1スコアが0.95%、MGTAB-22で0.98%低下し、アテンション機構を効果的にガイドする有効性が証明された。
• ボット同士のアテンション重みは一貫して正（ローパスフィルタリングを示す）であり、ボットと本物ユーザー間のアテンション重みは負（ハイパスフィルタリングを示す）であることが確認され、FaAtの適応的動作が検証された。
• アテンション機構が本物ユーザーに囲まれてもボットの特徴を保持できるため、異種結合的 disguise の挑戦に対して効果的に対処できていることが実証された。

Figure 2. Distribution of bots’ individual homophily and GCN’s accuracy on MGTAB-22 (Shi et al . , 2023a ) .