[논문 리뷰] Resilient Learning-Based Control for Synchronization of Passive Multi-Agent Systems under Attack

Arash Rahnama, Panos J. Antsaklis|arXiv (Cornell University)|2017. 09. 28.

Distributed Control Multi-Agent Systems참고 문헌 43인용 수 5

한 줄 요약

이 논문은 분산 이벤트 트리거드 제어와 탈중앙화된 이상 탐지 기반으로, 브라운스티언 공격 하에서 수동 다중 에이전트 시스템의 동기화를 위한 내성적이고 학습 기반의 제어 프레임워크를 제안한다. 이는 데이터 위조 및 가중치 조작을 식별하고 완화하는 데 기여하며, 악성 이웃을 배제하지 않고도 정상 에이전트가 공격 파라미터를 추정하고 동기화를 복원함으로써 악성 조건 하에서도 안정적인 성능을 달성한다.

ABSTRACT

In this paper, we show synchronization for a group of output passive agents that communicate with each other according to an underlying communication graph to achieve a common goal. We propose a distributed event-triggered control framework that will guarantee synchronization and considerably decrease the required communication load on the band-limited network. We define a general Byzantine attack on the event-triggered multi-agent network system and characterize its negative effects on synchronization. The Byzantine agents are capable of intelligently falsifying their data and manipulating the underlying communication graph by altering their respective control feedback weights. We introduce a decentralized detection framework and analyze its steady-state and transient performances. We propose a way of identifying individual Byzantine neighbors and a learning-based method of estimating the attack parameters. Lastly, we propose learning-based control approaches to mitigate the negative effects of the adversarial attack.

연구 동기 및 목표

• 악성 조건 하에서 다중 에이전트 동기화의 보안 메커니즘이 부족한 문제를 해결하기 위해.
• 데이터 위조 및 통신 가중치 조작을 수행하는 강력한 브라운스티언 에이전트의 영향을 모델링하고 분석하기 위해.
• 중앙 기관에 의존하지 않고도 정상 에이전트가 브라운스티언 이웃을 식별할 수 있는 탈중앙화된 탐지 프레임워크를 개발하기 위해.
• 위조된 데이터를 활용해 공격 파라미터를 추정하고 동기화를 복원하는 데 목적이 있는 학습 기반 완화 전략을 설계하기 위해.
• 공격 하에서도 동기화 유지, 네트워크 연결성 유지 및 제로 노 행동 방지 조건을 확보하기 위해.

제안 방법

• 수동 다중 에이전트 시스템의 동기화를 보장하면서 통신 부하를 줄이는 분산 이벤트 트리거드 제어 프레임워크를 설계하기 위해.
• 브라운스티언 공격을 통신 그래프 내 제어 피드백 가중치의 동적 조작과 데이터 위조로 모델링하기 위해.
• 수신 데이터로부터 유도된 국소 검증 통계량을 사용해 탈중앙화된 이상 탐지 유닛을 구현하기 위해.
• 400개의 데이터 포인트를 기반으로 반복 학습을 통해 공격 확률 $P_1$ 및 오프셋 $Δ_1$와 같은 공격 파라미터를 추정하기 위한 학습 기반 알고리즘을 사용하기 위해.
• 학습된 공격 파라미터를 활용해 손상된 데이터를 보정된 추정치로 대체함으로써 동기화를 복원하는 완화 전략을 적용하기 위해.
• 탐지 프레임워크의 일시적 및 정상 상태 성능을 분석하여 신뢰성과 수렴성 확보하기 위해.

실험 결과

연구 질문

• RQ1 수동 다중 에이전트 시스템에서 데이터 위조 및 통신 가중치를 변경하는 브라운스티언 공격 하에서도 동기화를 유지하는 방법은 무엇인가?
• RQ2 중앙 융합 장치 없이도 탈중앙화된 탐지 프레임워크가 브라운스티언 에이전트를 식별하는 데 성능은 어떠한가?
• RQ3 정상 에이전트는 국소 정보와 수신 데이터만을 사용해 악성 공격의 파라미터를 학습하고 추정할 수 있는가?
• RQ4 학습 기반 완화 전략은 브라운스티언 이웃을 배제하지 않고도 동기화를 복원하는 데 어떻게 기여하는가?
• RQ5 공격 하에서 이벤트 트리거드 제어 메커니즘에서 제로 노 행동이 발생하지 않도록 보장하는 조건은 무엇인가?

주요 결과

• 제안된 이벤트 트리거드 제어 프레임워크는 통신 부하를 크게 줄이고 제로 노 행동을 방지하면서도 동기화를 보장한다.
• 탈중앙화된 탐지 프레임워크는 악성 조작 조건 하에서도 국소 검증 통계량을 기반으로 브라운스티언 에이전트를 성공적으로 식별한다.
• 정상 에이전트 $G_3$는 공격 파라미터를 $\tilde{P}_1 = 0.68$ 및 $\tilde{\Delta}_1 = 6.35$로 추정하였으며, 진짜 값인 $P_1 = 0.70$ 및 $\Delta_1 = 8$에 매우 가까운 결과를 도출하였다.
• $t = 8$초에 완화가 시작된 후, 그림 15와 16에서 관측된 출력 편차 감소를 통해 시스템이 동기화를 회복하였다.
• 학습 기반 완화 전략은 브라운스티언 이웃을 제거하지 않아도 악성 영향을 효과적으로 완화하며, 네트워크 연결성과 균형을 유지한다.
• 공격 하에서도 안정적인 성능을 달성하였으며, 일시적 및 정상 상태 분석을 통해 탐지 신뢰성과 수렴성 확인하였다.