[논문 리뷰] Baiting AI: Deceptive Adversary Against AI-Protected Industrial Infrastructures

Aryan Mohammadi Pasikhani, Prosanta Gope외 3명|arXiv (Cornell University)|2026. 01. 13.

Smart Grid Security and Resilience인용 수 0

한 줄 요약

논문은 산업 제어 시스템에 전략적으로 타이밍된 wear-out 공격을 수행하는 다중 에이전트 DRL 기반 적대자들을 제시하여, AI 기반 방어를 회피하면서 제품 품질 저하와 작동기에 수명을 늘어지게 하는 공격을 제시한다. 이는 산업 규모의 ICS 테스트베드에서 검증되었다.

ABSTRACT

This paper explores a new cyber-attack vector targeting Industrial Control Systems (ICS), particularly focusing on water treatment facilities. Developing a new multi-agent Deep Reinforcement Learning (DRL) approach, adversaries craft stealthy, strategically timed, wear-out attacks designed to subtly degrade product quality and reduce the lifespan of field actuators. This sophisticated method leverages DRL methodology not only to execute precise and detrimental impacts on targeted infrastructure but also to evade detection by contemporary AI-driven defence systems. By developing and implementing tailored policies, the attackers ensure their hostile actions blend seamlessly with normal operational patterns, circumventing integrated security measures. Our research reveals the robustness of this attack strategy, shedding light on the potential for DRL models to be manipulated for adversarial purposes. Our research has been validated through testing and analysis in an industry-level setup. For reproducibility and further study, all related materials, including datasets and documentation, are publicly accessible.

연구 동기 및 목표

• DRL을 사용하여 ICS에 대해 은밀하고 전략적으로 타이밍된 wear-out 공격을 수행하는 새로운 적대적 전략을 식별한다.
• 현실 세계에 준하는 산업 환경에서 AI 구동 탐지기에 대해 DRL 기반 적대자의 영향을 평가한다.
• 학습된 적대 정책을 미니맥스 적대 학습을 통한 탐지기 강화 커리큘럼으로 재목적화할 수 있음을 보인다.
• 재현성 및 추가 연구를 촉진하기 위해 산업급 테스트베드와 공개 자료를 제공한다.

제안 방법

• 블랙/그레이/화이트박스 위협 모델에서 작동하는 두 에이전트 DRL 적대자(Scheduler와 Disturber)를 도입한다.
• 상태 s, 행동 지연(pkt, period), 관찰 o를 가진 부분 관찰 가능 마르코프 결정 과정(POMDP)으로 공격을 모델링한다.
• 운영 교란과 은밀성을 결합한 보상 함수(R = α·D + β·(1−C))를 정의한다.
• Siemens PLC와 PROFINET를 사용하는 ICS 테스트베드에서 DNN 기반 IDS 탐지기(DenseNet, CNN, ResNet, LSTM, Transformer)를 사용해 공격을 검증한다.
• IDS의 회상(recall)을 흑박스에서 17.34%에서 27.61%로, 그레이박스에서 28.96%에서 69.24%로, 화이트박스에서 최대 99.95%까지 감소시키는 것을 시연한다.
• 공격 모델을 미니맥스 프레임워크로 재목적화하여 적대적 학습을 통한 탐지기 강건화를 달성한다(Appendix V-A).

실험 결과

연구 질문

• RQ1 DRL 기반 적대자가 ICS에서 AI 구동 방어를 회피하면서 wear-out 공격을 타이밍 맞춰 스케줄하고 실행하는 방법은 무엇인가?
• RQ2 전략적으로 타이밍이 맞춰진 낮고 느린 교란이 작동기 마모, 제품 품질, 시스템 탐지가능성에 미치는 영향은 무엇인가?
• RQ3 흑박스, 그레이박스, 화이트박스 조건에서 DRL 주도적 은밀한 적대자에 직면했을 때 현재의 DNN 기반 IDS의 효과는 어느 정도인가?
• RQ4 학습된 적대 정책을 탐지기 강건성 향상을 위한 방어 학습 커리큘럼으로 변환할 수 있는가?
• RQ5 산업급 ICS 테스트베드가 실제 세계와 유사한 설정에서 이러한 공격의 실행 가능성과 영향을 입증하는가?

주요 결과

• DRL 주도적 적대자는 화이트박스 설정에서 IDS 회상(recall)을 최대 99.95%까지 감소시키는 은밀한 공격 변형을 만들 수 있다.
• 흑박스 설정에서의 회상 감소는 17.34%에서 27.61% 범위이다.
• 그레이박스 설정은 28.96%에서 69.24%까지 회상 감소를 보인다.
• Siemens S7 PLC와 PROFINET를 포함한 산업급 ICS 테스트베드에서 공격이 시연된다.
• 본 연구는 AI 방어를 회피하면서 작동기 수명과 제품 품질을 저하시키는 저-느린 wear-out 전략의 새로운 가능성을 강조한다.
• 연구에서 사용된 자료 및 데이터는 재현성을 위해 공개적으로 접근 가능하다.