[论文解读] Resilient Learning-Based Control for Synchronization of Passive Multi-Agent Systems under Attack

Arash Rahnama, Panos J. Antsaklis|arXiv (Cornell University)|Sep 28, 2017

Distributed Control Multi-Agent Systems参考文献 43被引用 5

一句话总结

本文提出了一种鲁棒的、基于学习的控制框架，用于在拜占庭攻击下实现被动多智能体系统的同步，采用分布式事件触发控制和去中心化检测，以识别并缓解数据伪造和权重操纵问题。该方法使诚实智能体能够估计攻击参数并恢复同步，而无需排除恶意邻居，从而在对抗性条件下实现稳定性能。

ABSTRACT

In this paper, we show synchronization for a group of output passive agents that communicate with each other according to an underlying communication graph to achieve a common goal. We propose a distributed event-triggered control framework that will guarantee synchronization and considerably decrease the required communication load on the band-limited network. We define a general Byzantine attack on the event-triggered multi-agent network system and characterize its negative effects on synchronization. The Byzantine agents are capable of intelligently falsifying their data and manipulating the underlying communication graph by altering their respective control feedback weights. We introduce a decentralized detection framework and analyze its steady-state and transient performances. We propose a way of identifying individual Byzantine neighbors and a learning-based method of estimating the attack parameters. Lastly, we propose learning-based control approaches to mitigate the negative effects of the adversarial attack.

研究动机与目标

• 解决多智能体系统在对抗性条件下缺乏安全机制的问题。
• 建立并分析具有强大能力的拜占庭智能体通过伪造数据和操纵通信权重所造成的影响。
• 开发一种去中心化检测框架，使诚实智能体能够在不依赖中心化机构的情况下识别拜占庭邻居。
• 设计基于学习的缓解策略，利用伪造数据估计攻击参数并恢复同步。
• 在攻击下确保系统保持同步，同时维持网络连通性并避免Zeno行为。

提出的方法

• 设计一种分布式事件触发控制框架，在保证被动多智能体系统同步的同时降低通信负载。
• 将拜占庭攻击建模为通信图中控制反馈权重的数据伪造和动态操纵。
• 通过基于接收数据的局部检验统计量实现去中心化检测单元，以检测异常。
• 使用基于学习的算法，通过400个数据点的迭代学习，估计攻击参数，包括攻击概率 $P_1$ 和偏移量 $\Delta_1$。
• 应用一种缓解策略，用学习到的攻击参数生成的校正估计值替换被污染的数据，以恢复同步。
• 分析检测框架的瞬态和稳态性能，以确保其可靠性与收敛性。

实验结果

研究问题

• RQ1 在拜占庭攻击下，如何在伪造数据和改变通信权重的情况下维持被动多智能体系统的同步？
• RQ2 在无中心融合单元的情况下，去中心化检测框架在识别拜占庭智能体方面的性能如何？
• RQ3 诚实智能体能否仅通过本地信息和接收到的数据学习并估计对抗性攻击的参数？
• RQ4 基于学习的缓解策略如何在不排除拜占庭邻居的情况下恢复同步？
• RQ5 在攻击下，事件触发控制机制中何种条件可确保无Zeno行为？

主要发现

• 所提出的事件触发控制框架在显著降低通信负载的同时确保了同步，并避免了Zeno行为。
• 去中心化检测框架成功基于局部检验统计量识别出拜占庭智能体，即使在对抗性操纵下亦有效。
• 诚实智能体 $G_3$ 估计的攻击参数为 $\tilde{P}_1 = 0.68$ 和 $\tilde{\Delta}_1 = 6.35$，与真实值 $P_1 = 0.70$ 和 $\Delta_1 = 8$ 非常接近。
• 在 $t = 8$ 秒时缓解措施启动后，系统恢复了同步，如图15和图16所示的输出偏差减小所证实。
• 基于学习的缓解策略有效抵消了对抗性影响，而无需排除拜占庭邻居，从而保持了网络连通性与平衡性。
• 该框架在攻击下实现了稳定性能，瞬态与稳态分析证实了检测的可靠性与收敛性。