[論文レビュー] Gaussian Process Based Message Filtering for Robust Multi-Agent Cooperation in the Presence of Adversarial Communication

Rupert Mitchell, Jan Blumenkamp+1 more|arXiv (Cornell University)|Dec 1, 2020

Gaussian Processes and Bayesian Inference被引用数 7

ひとこと要約

本稿では、敵対的通信に対して耐性を高めるために、マルチエージェントシステムにおけるガウス過程ベースのメッセージフィルタリングフレームワークを提案する。空間的に相関するメッセージ符号化を学習可能なGPカーネルでモデル化することで、エージェントは通信相手の誠実性に関する信頼性スコアを算出し、多様な敵対的状況下でも最小限の性能コストで誤解を招くメッセージを効果的にフィルタリングできる。

ABSTRACT

In this paper, we consider the problem of providing robustness to adversarial communication in multi-agent systems. Specifically, we propose a solution towards robust cooperation, which enables the multi-agent system to maintain high performance in the presence of anonymous non-cooperative agents that communicate faulty, misleading or manipulative information. In pursuit of this goal, we propose a communication architecture based on Graph Neural Networks (GNNs), which is amenable to a novel Gaussian Process (GP)-based probabilistic model characterizing the mutual information between the simultaneous communications of different agents due to their physical proximity and relative position. This model allows agents to locally compute approximate posterior probabilities, or confidences, that any given one of their communication partners is being truthful. These confidences can be used as weights in a message filtering scheme, thereby suppressing the influence of suspicious communication on the receiving agent's decisions. In order to assess the efficacy of our method, we introduce a taxonomy of non-cooperative agents, which distinguishes them by the amount of information available to them. We demonstrate in two distinct experiments that our method performs well across this taxonomy, outperforming alternative methods. For all but the best informed adversaries, our filtering method is able to reduce the impact that non-cooperative agents cause, reducing it to the point of negligibility, and with negligible cost to performance in the absence of adversaries.

研究の動機と目的

• 敵対的通信下でのマルチエージェントシステムの脆さを解消すること、特に非協力的エージェントが誤った情報や誤解を招く情報を送信する状況を想定する。
• 事前にその行動を把握していない状況下でも、敵対的メッセージを検出しフィルタリングできる分散型で学習可能な通信アーキテクチャを開発すること。
• 近接するエージェント間のメッセージの相互情報量を、微分可能で確率的フレームワークに基づくGPを用いてモデル化し、空間的依存性を捉えること。
• このモデルをグラフニューラルネットワーク（GNN）ベースの通信アーキテクチャに統合し、不確実性下でのスケーラブルで局所的な意思決定を可能とすること。
• 異なる情報アクセスレベルを持つ敵対的エージェントの分類体系を用いて評価し、性能の劣化が最小限であるにもかかわらず耐性を示すことを実証すること。

提案手法

• 分散型で隣人同士のみのメッセージ交換を可能とするGNNベースの通信アーキテクチャを採用し、メッセージは学習可能な自己符号化器による観測値の符号化である。
• 空間的に近接するエージェント間の潜在的メッセージ符号化の同時分布を、学習可能なカーネル関数を有するガウス過程（GP）でモデル化し、期待される相互情報量を捉える。
• GPはエージェントの位置を条件として、潜在的メッセージ符号化の事前分布をモデリングするために、自己符号化変分ベイズ（AEVB）フレームワークで学習する。
• 事後信頼性スコア（信頼度）は、GPの予測分布を用いて各通信相手ごとに計算され、メッセージの信頼性に関する確率的評価が可能になる。
• メッセージフィルタリング機構は、計算された信頼性スコアに重みを付けて入力メッセージを処理し、懸念されるまたは敵対的なエージェントからの信号を抑制する。
• エージェントの順序に依存しない耐性を確保するため、$ \frac{1}{2}(\mathbf{c}_{ij} + \mathbf{c}_{ji}^T) $ を平均化することで、この手法を対称化・置換不変性にしている。

実験結果

リサーチクエスチョン

• RQ1 GPベースのモデルは、マルチエージェントシステムにおけるメッセージ符号化の空間的依存性を効果的に捉え、異常通信を検出できるか？
• RQ2 提案されたフィルタリング機構は、情報アクセスレベルが異なる多様な敵対的エージェントのスケーラーにわたって、どのように性能を発揮するか？
• RQ3 非協力的エージェントの影響をどれほど低減できるか、一方で敵対者が存在しない状況では性能にどの程度の影響があるか？
• RQ4 この手法は、分散性やスケーラビリティを損なわずにGNNベースの通信アーキテクチャに統合可能か？
• RQ5 このモデルの信頼性推定は、代替の異常検出手法と比較して、耐性と効率性の面で優れているか？

主な発見

• 提案手法は、最も情報が豊富な敵対的エージェントを除き、すべての敵対的エージェントの影響を顕著に低減し、ほぼ無視できる水準までにまで低下させる。
• 最も情報が豊富でない敵対的エージェントに対しては、すべてのタイプで誤った情報を効果的に抑制するが、システム全体の性能劣化は最小限に抑えられる。
• 悪意のない状況下でも高い性能を維持し、敵対者が存在しない場合の協力的タスク実行においても、ほとんどコストを要しない。
• GPベースの信頼性推定により、メッセージ符号化の空間的相関をモデル化することで、異常メッセージの正確な検出が可能になる。
• 定義された敵対的行動の分類体系において、ベースライン手法に比べて本手法は耐性と適応性の両面で優れている。
• 微分可能なGPカーネルのおかげで、エンドツーエンドの学習が可能であり、未観測のエージェント構成への一般化も示しており、スケーラビリティと耐性を実証している。