[논문 리뷰] Adversarial attacks against Bayesian forecasting dynamic models

Roi Naveiro|arXiv (Cornell University)|2021. 10. 20.

Adversarial Robustness in Machine Learning참고 문헌 9인용 수 4

한 줄 요약

이 논문은 베이지안 예측 동적 모델을 대상으로 하는 의사결정 분석 기반의 대비 공격 전략을 제안한다. 여기서 공격자는 탐지되지 않도록 역사적 데이터를 조작하여 수호자의 최적 의사결정을 진동시키려 한다. 누적 베이즈 요인을 최소화하면서 수호자의 의사결정을 진짜 최적값에서 멀어지게 하도록 데이터 변형을 최적화함으로써, 침투성이 높고 효과적인 조작을 달성한다. 실제 사례에서 이 방법은 경고를 일으키지 않으면서도 최적 재고를 136단위에서 116단위로 감소시켜 성공적으로 검증되었다.

ABSTRACT

The last decade has seen the rise of Adversarial Machine Learning (AML). This discipline studies how to manipulate data to fool inference engines, and how to protect those systems against such manipulation attacks. Extensive work on attacks against regression and classification systems is available, while little attention has been paid to attacks against time series forecasting systems. In this paper, we propose a decision analysis based attacking strategy that could be utilized against Bayesian forecasting dynamic models.

연구 동기 및 목표

• 시간 시리즈 예측 시스템, 특히 베이지안 동적 모델에 대한 대비 공격 연구의 부족을 해결하기 위해.
• 예측을 단순히 이동시키는 것보다는 수호자의 최종 의사결정을 조작하는 전략을 개발하기 위해.
• 편향 크기로가 아니라 누적 베이즈 요인을 최소화함으로써 '은밀한' 공격을 정형화하여 탐지 회피를 보장하기 위해.
• 현실적인 베이지안 동적 모델 환경에서 이러한 공격의 타당성과 은밀성을 입증하기 위해.

제안 방법

• 공격자의 목표를 시간 $\alpha - h$ 에서 $\alpha$ 까지의 역사적 관측치를 조작하여 수호자의 최적 의사결정을 변경하는 것으로 설정한다.
• 결정 분석을 사용하여 수호자의 유틸리티 함수와 사후 예측 분포를 모델링하고, 기대 유틸리티를 최대화하는 의사결정을 최적 의사결정으로 정의한다.
• 수호자가 예측한 의사결정과 공격자가 목표로 하는 의사결정 사이의 거리를 최소화하는 최적화 문제를 풀어 공격를 구성한다. 이때 데이터 변형에 대한 제약 조건이 포함된다.
• 탐지 지표로 누적 베이즈 요인을 사용한다: 공격이 은밀하다면 청소된 데이터와 유사한 수준의 최소 누적 베이즈 요인이 유지되어야 한다.
• 초순수 포아송 동적 모델을 사용하여 슈퍼마켓 재고 관리의 수요 예측에 적용한다.
• 두 가지 공격 전략을 비교한다: 하나는 편향 크기를 최소화하는(L2 노름), 다른 하나는 베이즈 요인의 이탈을 최소화하는 것으로, 은밀성과 효과성 평가를 위해 사용한다.

실험 결과

연구 질문

• RQ1 어떻게 공격자는 탐지되지 않도록 역사적 데이터를 조작하여 베이지안 예측 동적 모델에서 최적 의사결정을 변경할 수 있는가?
• RQ2 은밀한 공격를 정의할 때, 편향 크기를 제한하는 것과 누적 베이즈 요인과 같은 탐지 신호를 최소화하는 것 중 어느 것이 더 효과적인가?
• RQ3 실제 예측 시나리오에서 모델 모니터링 시스템에 의해 탐지되지 않으면서도 공격자가 최적 재고 의사결정을 성공적으로 감소시킬 수 있는가?
• RQ4 다른 공격 목표(예: 편향 최소화 vs. 탐지 최소화)는 대비 조작의 타당성과 은밀성에 어떤 영향을 미치는가?
• RQ5 시간 시리즈 모델에서 통계적 모니터링 메커니즘을 회피하기 위해 점진적인 데이터 조작이 어떤 역할을 하는가?

주요 결과

• 공격는 최적 재고 의사결정을 136단위에서 116단위로 감소시켜 공격자가 목표한 20% 감소를 달성했다.
• 누적 베이즈 요인을 통한 은밀성 최적화를 통해 공격는 청소된 데이터와 유사한 최소 누적 베이즈 요인을 유지했으며, 이는 탐지되지 않았음을 의미한다.
• 반면에 L2-노름 제약 공격는 최소 누적 베이즈 요인이 뚜렷이 감소함으로써 탐지가 발생했음을 보여주었다.
• 은밀한 공격는 이전 주말 동안 수요를 점진적으로 감소시킴으로써 모델이 자연스럽게 적응하도록 하여 의심을 피할 수 있었다.
• 이 연구는 결정 중심 공격가 베이지안 동적 모델에서 예측 중심 공격보다 더 효과적이고 은밀하다는 것을 입증한다.
• 결과적으로 누적 베이즈 요인이 순차적 베이지안 모델에서 대비 데이터 조작을 탐지하는 데 신뢰할 수 있는 지표로 기능한다는 것이 검증되었다.