[论文解读] Robust Resilient Signal Reconstruction under Adversarial Attacks

Yu Zheng, Olugbenga Moses Anubi+2 more|arXiv (Cornell University)|Jul 20, 2018

Adversarial Robustness in Machine Learning被引用 6

一句话总结

本文提出了一种在对抗性攻击下具有鲁棒性的信号重建方法，通过整合数据驱动的攻击定位与对称剪枝算法，减少攻击支持估计中的误报。该方法通过量化并补偿攻击定位中的不确定性，提升了重建精度，在水力分配系统仿真中实现了95%的攻击支持估计精度和相较于未剪枝方法95%的估计误差降低。

ABSTRACT

We consider the problem of signal reconstruction for a system under sparse signal corruption by a malicious agent. The reconstruction problem follows the standard error coding problem that has been studied extensively in the literature. We include a new challenge of robust estimation of the attack support. The problem is then cast as a constrained optimization problem merging promising techniques in the area of deep learning and estimation theory. A pruning algorithm is developed to reduce the ``false positive" uncertainty of data-driven attack localization results, thereby improving the probability of correct signal reconstruction. Sufficient conditions for the correct reconstruction and the associated reconstruction error bounds are obtained for both exact and inexact attack support estimation. Moreover, a simulation of a water distribution system is presented to validate the proposed techniques.

研究动机与目标

• 解决在稀疏、对抗性信号污染下网络物理系统中鲁棒信号重建的挑战。
• 通过量化并减少估计攻击支持中误报的不确定性，提升数据驱动攻击检测与定位（AADL）的可靠性。
• 开发一种剪枝算法，以提升攻击支持估计的精度，用于弹性信号重建。
• 为在精确和不精确攻击支持估计下建立信号重建的理论误差界。
• 在具有移动时域最小二乘估计的现实水力分配系统仿真中验证该方法。

提出的方法

• 使用伯努利分布对攻击支持估计的不确定性进行建模，以表示AADL输出中误报的概率。
• 开发一种对称剪枝算法，基于不确定性模型去除可能的误报攻击位置，从而提升攻击支持估计的精度。
• 将剪枝后的攻击支持先验整合进最小二乘估计框架，以实现对对抗性污染的鲁棒信号重建。
• 推导在精确和不精确攻击支持假设下信号重建的充分条件及理论误差界。
• 采用移动时域最小二乘估计器（LSE）对水力分配系统中的状态进行估计，利用剪枝后的支持来清理被污染的测量数据。
• 使用高斯过程回归器（GPR）进行AADL，基于测量似然偏差检测攻击。

实验结果

研究问题

• RQ1 如何量化并有效减少数据驱动攻击定位中的误报不确定性，以提升信号重建性能？
• RQ2 当攻击支持仅近似已知时，可为弹性信号重建建立何种理论误差界？
• RQ3 在对抗性攻击存在的情况下，剪枝在多大程度上提升了攻击定位精度和信号重建准确性？
• RQ4 尽管存在固有不确定性，能否有效利用数据驱动的攻击定位输出构建鲁棒重建框架？
• RQ5 与缺乏攻击支持知识或使用未剪枝支持的基线重建方案相比，所提方法表现如何？

主要发现

• 剪枝算法将攻击定位精度从约90%提升至95%，显著减少了误报不确定性。
• 估计误差（MSE）从无支持先验时的0.3085降低至剪枝支持先验时的0.0054，误差降低98.2%。
• 在剪枝支持先验下，估计误差降低至0.0176，相较于未剪枝AADL（MSE为0.0639）提升了72.3%。
• 为精确和不精确攻击支持估计建立了理论误差界，提供了性能保证。
• 仿真结果表明，即使攻击定位不完美，所提方法仍能实现接近最优的重建性能，趋近于已知精确攻击知识的理想情况。
• 该方法可推广至其他基于2-范数的估计器（如Luenberger观测器），表明其具有更广泛的应用潜力。