[論文レビュー] Robust Resilient Signal Reconstruction under Adversarial Attacks

Yu Zheng, Olugbenga Moses Anubi+2 more|arXiv (Cornell University)|Jul 20, 2018

Adversarial Robustness in Machine Learning被引用数 6

ひとこと要約

本稿では、敵対的攻撃下におけるサイバーフィジカルシステムのロバストでレジilエントな信号再構成手法を提案する。データドリブンな攻撃局所化と対称的プルーニングアルゴリズムを統合し、攻撃支援推定における誤検出を低減する。攻撃局所化における不確実性を定量化・補正することで、信号再構成の精度を向上させ、水道分配システムのシミュレーションにおいて、攻撃支援推定の正確性が95%に達し、プルーニングされていない手法と比較して推定誤差が95%削減された。

ABSTRACT

We consider the problem of signal reconstruction for a system under sparse signal corruption by a malicious agent. The reconstruction problem follows the standard error coding problem that has been studied extensively in the literature. We include a new challenge of robust estimation of the attack support. The problem is then cast as a constrained optimization problem merging promising techniques in the area of deep learning and estimation theory. A pruning algorithm is developed to reduce the ``false positive" uncertainty of data-driven attack localization results, thereby improving the probability of correct signal reconstruction. Sufficient conditions for the correct reconstruction and the associated reconstruction error bounds are obtained for both exact and inexact attack support estimation. Moreover, a simulation of a water distribution system is presented to validate the proposed techniques.

研究の動機と目的

• スパースで敵対的な信号の破壊が加わる状況下におけるサイバーフィジカルシステムのロバストな信号再構成の課題に対処すること。
• 推定された攻撃支援における誤検出の不確実性を定量化・低減することで、データドリブンな攻撃検出・局所化（AADL）の信頼性を向上させること。
• 攻撃支援推定の精度を向上させるためのプルーニングアルゴリズムを開発し、レジリエントな信号再構成に活用すること。
• 攻撃支援が正確に既知である場合と近似的にしか分からない場合の両方において、信号再構成の理論的誤差バウンダリーを確立すること。
• 移動ホライズン最小二乗推定を用いた、現実的な水道分配システムのシミュレーションで本手法を検証すること。

提案手法

• AADL出力における誤検出確率を表すために、ベルヌーイ分布を用いて攻撃支援推定の不確実性をモデル化する。
• 不確実性モデルに基づき、誤検出の可能性が高い攻撃位置を除去する対称的プルーニングアルゴリズムを開発し、攻撃支援の正確性を向上させる。
• プルーニング済みの攻撃支援事前分布を最小二乗推定フレームワークに統合し、敵対的汚染に対してレジリエントな信号再構成を実現する。
• 攻撃支援が正確に既知である場合と不正確にしか分からない場合の両方において、信号再構成の十分条件および理論的誤差バウンダリーを導出する。
• 移動ホライズン最小二乗推定器（LSE）を用い、水道分配システムにおける状態推定を実施し、汚染された測定値をプルーニング済みの支援を用いてクリーニングする。
• ガウス過程回帰器（GPR）を用いてAADLを実装し、測定値の尤度のずれに基づいて攻撃を検出する。

実験結果

リサーチクエスチョン

• RQ1 データドリブンな攻撃局所化における誤検出の不確実性は、どのように定量化され、効果的に低減可能か？
• RQ2 攻撃支援が正確に分かっていない場合に、レジリエントな信号再構成のための理論的誤差バウンダリーはどのように確立できるか？
• RQ3 攻撃に対して、プルーニングは攻撃局所化の正確性と信号再構成の精度をどの程度向上させるか？
• RQ4 固有の不確実性を伴うデータドリブンな攻撃局所化出力を、ロバストな再構成フレームワークで効果的に活用できるか？
• RQ5 本手法は、攻撃支援の知識がなく、またはプルーニングされていない支援を使用するベースライン再構成手法と比較して、どのように優れているか？

主な発見

• プルーニングアルゴリズムにより、攻撃局所化の正確性が約90%から95%に向上し、誤検出の不確実性が顕著に低減された。
• 推定誤差（MSE）は、支援事前分布なしの状態（0.3085）から、プルーニング済み支援事前分布を用いた状態（0.0054）にまで低下し、誤差低減率が98.2%に達した。
• プルーニング済み支援事前分布を用いた場合、推定誤差は0.0176にまで低下し、プルーニングされていないAADL（MSE 0.0639）と比較して72.3%の改善が得られた。
• 正確な攻撃支援推定と不正確な攻撃支援推定の両方に対して、理論的誤差バウンダリーが確立され、性能保証が可能となった。
• シミュレーションの結果、攻撃局所化が不完全であっても、本手法は正確な攻撃知識がある理想状態に近い再構成性能を達成することが示された。
• 本手法は、2ノルムに基づく推定器（例：ルエンバーガー観測器）にも一般化可能であり、より広範な応用可能性を示唆している。