[論文レビュー] Adversarial Coordination on Social Networks

Chen Hajaj, Sixie Yu+2 more|arXiv (Cornell University)|Aug 3, 2018

Opinion Dynamics and Social Influence参考文献 42被引用数 3

ひとこと要約

本稿は、人間被験とデータ駆動型エージェントベースモデリングを用いて、ソーシャルネットワーク上の悪意ある協調行動を調査し、ネットワークの隣接ノード間での通信が、悪意あるノードに対するコンセンサスのレジリエンスを顕著に向上させることを示している。一方、信頼できるノードは、悪意あるノードが多数存在し、通信が可能である場合にのみ有効である。悪意あるノードは、局所的コンセンサスに反発し、誤った情報を送信することで、静かに協調を破壊するが、検知を避けるために意図的に目立たない形を取る。

ABSTRACT

Decentralized coordination is one of the fundamental challenges for societies and organizations. While extensively explored from a variety of perspectives, one issue which has received limited attention is human coordination in the presence of adversarial agents. We study this problem by situating human subjects as nodes on a network, and endowing each with a role, either regular (with the goal of achieving consensus among all regular players), or adversarial (aiming to prevent consensus among regular players). We show that adversarial nodes are, indeed, quite successful in preventing consensus. However, we demonstrate that having the ability to communicate among network neighbors can considerably improve coordination success, as well as resilience to adversarial nodes. Our analysis of communication suggests that adversarial nodes attempt to exploit this capability for their ends, but do so in a somewhat limited way, perhaps to prevent regular nodes from recognizing their intent. In addition, we show that the presence of trusted nodes generally has limited value, but does help when many adversarial nodes are present and players can communicate. Finally, we use experimental data to develop a computational model of human behavior, and explore a number of additional parametric variations, such as features of network topologies, using the resulting data-driven agent-based model.

研究の動機と目的

• 一部のエージェントが協調を妨害する悪意ある影響下における、分散型コンセンサスの研究。
• 隣接ノード間の通信が、悪意あるエージェントが存在する状況でのコンセンサス成功に与える影響の評価。
• 悪意ある改ざんに対する協調のレジリエンスを向上させるために、信頼できるノードの有効性の評価。
• 実験結果に基づくデータ駆動型エージェントベースモデルの構築。このモデルは、シミュレーションとパrametric解析に用いられる。

提案手法

• 参加者がネットワーク化されたソーシャル構造上で、通常または悪意あるエージェントとして割り当てられる人間被験を実施。
• 2つの主要な設計変数を実装：隣接ノード間でのピアツーピア通信の有効化、ネットワーク内への信頼できるノードの埋め込み。
• 人間被験から得た行動データを用いて、観察された人間の意思決定パターンを反映する計算的エージェントベースモデルをキャリブレーション。
• キャリブレーション済みモデルを用いて、さまざまなネットワークトポロジーと悪意ある設定下でのコンセンサスの結果をシミュレート。
• 密度、クラスタリング係数、次数分布などのネットワークパラメータを系統的に変化させ、それらがコンセンサス率に与える影響を分析。
• 悪意あるノードおよび信頼できるノードの配置を最適化し、異なるネットワーク設定における戦略的利点を評価。

実験結果

リサーチクエスチョン

• RQ1 悪意あるノードが存在する状況で、隣接ノード間の通信を有効化すると、コンセンサス成功にどのような影響を与えるか？
• RQ2 悪意あるノードが存在する状況で、信頼できるノードを埋め込むと、協調のレジリエンスにどのような影響を与えるか？
• RQ3 悪意あるノードは、どのようにしてコンセンサスを戦略的に破壊するのか。また、その悪意ある意図はどの程度明確にあらわれるのか？
• RQ4 ネットワークトポロジーの特徴（密度、クラスタリング、次数分布など）は、悪意ある状況下でのコンセンサス率にどのように影響を与えるか？
• RQ5 エージェント行動モデルやノード配置戦略における小さなパrameterの変更が、コンセンサス結果にどの程度の影響を与えるか？

主な発見

• 特に悪意あるノードの数が増えた場合に顕著に、隣接ノード間の通信がコンセンサス率を向上させることを示しており、従来の研究で限界的影響であるとされた結果とは対照的である。
• 信頼できるノードは全体としての恩恵が限定的であるが、悪意あるノードの存在が顕著で、通信が可能である場合には価値が高まる。
• 悪意あるノードは、周囲の多数派とは反対の色を選択し、誤った情報を送信することで、協調を能動的に破壊するが、検知を避けるために意図的に抑えめに行動する。
• ネットワークの密度が高まると、コンセンサス率が向上し、信頼できるノードの価値も高まる。特に複数の信頼できるノードが存在する場合に顕著である。
• 高いクラスタリングは協調を損なう傾向があるが、悪意あるノードの存在が増えるとその負の影響は軽減され、この状況下では信頼できるノードが有意義な改善をもたらさない。
• 重い尾を持つ次数分布（例：スケールフリーネットワーク）は、悪意あるノードが少ない場合にはコンセンサスを改善するが、5つ以上の悪意あるノードが存在するようになると、高次元ノードが標的になりやすいため、その利点は消失する。