[논문 리뷰] Robust Resilient Signal Reconstruction under Adversarial Attacks

Yu Zheng, Olugbenga Moses Anubi외 2명|arXiv (Cornell University)|2018. 07. 20.

Adversarial Robustness in Machine Learning인용 수 6

한 줄 요약

이 논문은 악성 공격 하에서 사이버-물리 시스템을 위한 강건한 내성 신호 복원 방법을 제안하며, 데이터 기반 공격 위치 특정화와 대칭적 프루닝 알고리즘을 통합하여 공격 지원 추정에서의 오진 양성률을 감소시킨다. 이 방법은 공격 위치 특정화의 불확실성을 정량화하고 보정하여 복원 정확도를 향상시키며, 95%의 정밀도로 공격 지원 추정을 수행하고, 프루닝되지 않은 방법에 비해 추정 오차를 95% 감소시킨 수압 분배 시스템 시뮬레이션에서 뚜렷한 오차 감소를 달성한다.

ABSTRACT

We consider the problem of signal reconstruction for a system under sparse signal corruption by a malicious agent. The reconstruction problem follows the standard error coding problem that has been studied extensively in the literature. We include a new challenge of robust estimation of the attack support. The problem is then cast as a constrained optimization problem merging promising techniques in the area of deep learning and estimation theory. A pruning algorithm is developed to reduce the ``false positive" uncertainty of data-driven attack localization results, thereby improving the probability of correct signal reconstruction. Sufficient conditions for the correct reconstruction and the associated reconstruction error bounds are obtained for both exact and inexact attack support estimation. Moreover, a simulation of a water distribution system is presented to validate the proposed techniques.

연구 동기 및 목표

• 희귀한 악성 신호 손상에 노출된 사이버-물리 시스템에서 강건한 신호 복원 문제를 해결하기 위해.
• 공격 지원 추정에서의 오진 양성률 불확실성을 정량화하고 감소시켜 데이터 기반 공격 탐지 및 위치 특정화(AADL)의 신뢰성을 향상시키기 위해.
• 공격 지원 추정 정밀도를 향상시키기 위한 프루닝 알고리즘을 개발하여 내성적 신호 복원에 활용하기 위해.
• 정확한 공격 지원 추정과 근사적인 공격 지원 추정 모두에 대해 신호 복원의 이론적 오차 경계를 수립하기 위해.
• 이동 평균 최소 제곱 추정 기반으로 실질적인 수압 분배 시스템 시뮬레이션에서 방법을 검증하기 위해.

제안 방법

• AADL 출력에서의 오진 양성률을 나타내는 데 사용되는 베르누이 분포를 사용하여 공격 지원 추정 불확실성을 모델링한다.
• 불확실성 모델에 기반해 오진 양성 공격 위치를 제거하는 대칭적 프루닝 알고리즘을 개발하여 공격 지원 정밀도를 향상시킨다.
• 프루닝된 공격 지원 사전 정보를 최소 제곱 추정 프레임워크에 통합하여 악성 손상에 강건한 신호 복원을 수행한다.
• 정확한 공격 지원 추정과 근사적인 공격 지원 추정 모두에 대해 신호 복원의 충분한 조건과 이론적 오차 경계를 유도한다.
• 이동 평균 최소 제곱 추정기(LSE)를 사용하여 수압 분배 시스템에서 상태 추정을 수행하며, 프루닝된 지원 정보를 활용해 손상된 측정치를 정제한다.
• 측정치의 가능도 편차를 기반으로 공격을 탐지하기 위해 가우시안 프로세스 회귀기(GPR)를 사용한다.

실험 결과

연구 질문

• RQ1 데이터 기반 공격 위치 특정화에서 오진 양성 불확실성을 어떻게 정량화하고 효과적으로 감소시킬 수 있는가?
• RQ2 공격 지원이 정확히 알려지지 않은 경우 내성적 신호 복원에 대해 어떤 이론적 오차 경계를 설정할 수 있는가?
• RQ3 프루닝은 악성 공격 존재 하에서 공격 위치 특정화 정밀도와 신호 복원 정확도에 얼마나 기여하는가?
• RQ4 내재된 불확실성이 존재하는 데이터 기반 공격 위치 특정화 출력을 강건한 복원 프레임워크에서 효과적으로 활용할 수 있는가?
• RQ5 제안된 방법은 공격 지원 지식이 없거나 프루닝되지 않은 지원을 가진 기준 복원 기법과 비교해 어떻게 성능을 냅니다?

주요 결과

• 프루닝 알고리즘이 공격 위치 특정화 정밀도를 약 90%에서 95%로 향상시켜 오진 양성 불확실성을 크게 감소시켰다.
• 추정 오차(MSE)는 지원 사전 정보가 없는 경우 0.3085에서 프루닝된 지원 사전 정보를 사용할 경우 0.0054로 감소하여 오차 감소율이 98.2%에 이르렀다.
• 프루닝된 지원 사전 정보를 사용할 경우 추정 오차는 0.0176으로, 프루닝되지 않은 AADL(0.0639 MSE)에 비해 72.3% 향상되었다.
• 정확한 공격 지원 추정과 근사적인 공격 지원 추정 모두에 대해 이론적 오차 경계를 수립하여 성능 보장을 제공하였다.
• 시뮬레이션 결과는 공격 위치 특정화가 완벽하지 않더라도 제안된 방법이 정확한 공격 지식이 있는 이상적인 경우에 근접한 복원 성능을 달성함을 보여주었다.
• 이 방법은 루엔버거 관측기와 같은 다른 2노름 기반 추정기로도 일반화 가능하므로 더 넓은 적용 가능성을 지닌다.