[論文レビュー] BotSim: Mitigating The Formation Of Conspiratorial Societies with Useful Bots

Lynnette Hui Xian Ng, Kathleen M. Carley|arXiv (Cornell University)|Jan 6, 2026

Misinformation and Its Impacts被引用数 0

ひとこと要約

tldr: BotSim は小世界ネットワークのエージェントベースモデルを用いて、情報訂正ボットと良いボットが悪ボットによって推進される陰謀社会の台頭を抑制できるかを検証する。積極的な良ボットは陰謀の支配を防ぐのに最も効率的であることを示している。

ABSTRACT

Societies can become a conspiratorial society where there is a majority of humans that believe, and therefore spread, conspiracy theories. Artificial intelligence gave rise to social media bots that can spread conspiracies in an automated fashion. Currently, organizations combat the spread of conspiracies through manual fact-checking processes and the dissemination of counter-narratives. However, the effects of harnessing the same automation to create useful bots are not well explored. To address this, we create BotSim, an Agent-Based Model of a society in which useful bots are introduced into a small world network. These useful bots are: Info-Correction Bots, which correct bad information into good, and Good Bots, which put out good messaging. The simulated agents interact through generating, consuming and propagating information. Our results show that, left unchecked, Bad Bots can create a conspiratorial society, and this can be mitigated by either Info-Correction Bots or Good Bots; however, Good Bots are more efficient and sustainable than Info-Correction Bots . Proactive good messaging is more resource-effective than reactive information correction. With our observations, we expand the concept of bots as a malicious social media agent towards automated social media agent that can be used for both good and bad purposes. These results have implications for designing communication strategies to maintain a healthy social cyber ecosystem.

研究の動機と目的

• 悪性の悪ボットが社会ネットワークに陰謀的な社会の形成を促進するメカニズムを調査する。
• 有用なボットの二種類—情報訂正ボットと良いボット—の陰謀形成抑制における有効性を評価する。
• 陰謀支配の遅延とリソース効率の観点から、積極的な良いメッセージングと反応的情報訂正を比較する。
• 悪ボットと有用ボットの最適な導入比率を特定し、陰謀形成への抵抗を最大化する。

提案手法

• 1000人間エージェントと比例的なボットエージェントを含む、小世界ネットワーク上のエージェントベースモデル「BotSim」を構築する。
• 四つのエージェントタイプ（良い人間、悪い人間、悪ボット、情報訂正ボット、良ボット）と二つの情報タイプ（良情報、悪情報）を定義する。
• ティックごとに情報生成、消費、伝播、状態更新のサイクルを実装し、暴露閾値 t=72 に基づいて人間の状態を更新する。
• 情報訂正ボットと良ボットは100% 信頼でき、状態を変えないと仮定する。
• Bad Bots(alpha1)、情報訂正ボット(alpha2)、良ボット(alpha3) を変化させたパラメータスイープを複数のリプリケーションで実行する。
• NetLogo と BehaviorSpace を用いて、3,675 回のシミュレーションを5つの実験で実施し、悪人多数派到達時間と全悪人到達時間を測定する。

実験結果

リサーチクエスチョン

• RQ1 悪ボットが存在する場合でも、自動化された有用ボットは陰謀社会の形成を防げるか。
• RQ2 情報訂正ボットと良ボットは、対策としての有効性と資源効率の点でどのように異なるか。
• RQ3 陰謀形成への抵抗を最大化する悪ボットと有用ボットの導入比率はどれで、積極的戦略は反応的戦略より効果的か。

主な発見

• 対策がない場合、悪ボットは陰謀社会を生み、悪人多数派到達時間の平均は 13.51 ± 1.07 ティック。
• 情報訂正ボットは抵抗を高め、悪人多数派到達時間をベースラインよりも遅延させ 17.85 ± 2.27 ティックへ。
• 良ボットはさらに陰謀形成を遅延させ、悪人多数派到達時間は 18.52 ± 4.86 ティックとなり、alpha3 ≥ 1.6 のとき悪人が多数派に達するのを防げることがある。
• 全悪人収束はベースラインで 22.82 ± 2.26 ティック、情報訂正ボットを導入すると 24.73 ± 1.18 ティック（DNC は他所）となる。
• 実験は情報訂正ボットの導入効果に凹性（利益が逓減すること）、良ボットは導入量が増えるとほぼ線形に有益な効果を示すことを示している。