[논문 리뷰] Manipulating a Learning Defender and Ways to Counteract

Jiarui Gan, Qingyu Guo외 3명|arXiv (Cornell University)|2019. 01. 01.

Network Security and Intrusion Detection인용 수 1

한 줄 요약

이 논문은 스택엘베르크 보안 게임에서 학습 기반 방어자가 거짓된 공격자에 의해 조작될 수 있음을 보여주며, 이는 방어자가 최대 최소 전략을 채택하게 하여 학습의 이점을 무효화하는 결과를 초래한다. 이를 해결하기 위해 저자는 공격자의 조작에도 불구하고 견고한 전략을 학습할 수 있도록 허용하는 고차원 게임이론적 정책 기여 프레임워크를 제안한다. 이는 다항시간 알고리즘과 무한 또는 알려지지 않은 보상 공간에 대한 히ュ리스틱을 포함하며, 실험에서 방어자의 유용성을 크게 향상시킨다.

ABSTRACT

In Stackelberg security games when information about the attacker's payoffs is uncertain, algorithms have been proposed to learn the optimal defender commitment by interacting with the attacker and observing their best responses. In this paper, we show that, however, these algorithms can be easily manipulated if the attacker responds untruthfully. As a key finding, attacker manipulation normally leads to the defender learning a maximin strategy, which effectively renders the learning attempt meaningless as to compute a maximin strategy requires no additional information about the other player at all. We then apply a game-theoretic framework at a higher level to counteract such manipulation, in which the defender commits to a policy that specifies her strategy commitment according to the learned information. We provide a polynomial-time algorithm to compute the optimal such policy, and in addition, a heuristic approach that applies even when the attacker's payoff space is infinite or completely unknown. Empirical evaluation shows that our approaches can improve the defender's utility significantly as compared to the situation when attacker manipulation is ignored.

연구 동기 및 목표

• 공격자가 거짓된 최적 반응 피드백을 제공할 때 학습 기반 방어자 전략의 취약점을 규명하기 위해.
• 그러한 조작의 결과를 분석하여, 일반적으로 방어자가 최대 최소 전략을 채택하게 되며, 이는 유용한 보상 정보를 기각함으로써 학습 과정을 약화시킴을 보여주기 위해.
• 공격자 행동의 학습된 정보를 바탕으로 조정되는 정책에 기여하는 고차원 게임이론적 프레임워크를 설계하기 위해.
• 이 프레임워크 하에서 최적 정책을 계산하는 다항시간 알고리즘을 개발하기 위해.
• 무한하거나 전혀 알려지지 않은 공격자 보상 공간에 대해서는 히ュ리스틱 방법을 사용하여 접근을 확장하기 위해.

제안 방법

• 방어자의 학습 과정을 스택엘베르크 게임으로 모델링하여, 방어자는 상호작용과 관찰된 최적 반응을 통해 공격자의 보상을 학습한다.
• 방어자가 단일 행동에 직접 기여하는 대신, 학습된 정보를 바탕으로 전략에 기여하는 고차원 정책 기여 메커니즘을 도입한다.
• 최적 정책 계산을 이중 최적화 문제로 공식화하며, 볼록 최적화 기법을 사용해 다항시간 내에 해결할 수 있다.
• 샘플링과 근사 기반으로 작동하는 히ュ리스틱 정책 계산 방법을 설계하여, 공격자의 보상 공간이 무한하거나 전혀 알려지지 않은 경우에도 적용 가능하도록 한다.
• 방어자의 학습 루프에 정책을 통합하여 거짓된 공격자 반응에 대한 강건성을 확보한다.
• 합성 게임과 벤치마크 게임에서의 실증적 평가를 통해, 조작이 있을 때와 없을 때의 유용성 비교를 수행한다.

실험 결과

연구 질문

• RQ1 공격자가 거짓된 최적 반응 피드백을 제공함으로써 스택엘베르크 보안 게임에서 학습 기반 방어자를 얼마나 효과적으로 조작할 수 있는가?
• RQ2 그러한 조작 하에서 방어자는 어떤 전략적 결과로 수렴하는가? 그리고 이는 학습 과정을 어떻게 약화시키는가?
• RQ3 유한한 공격자 보상 설정과 무한한 설정 모두에서 고차원 정책 기여 프레임워크가 공격자의 조작을 효과적으로 방지할 수 있는가?
• RQ4 이 프레임워크 하에서 최적 정책을 계산하는 데 필요한 계산 복잡도는 무엇이며, 효율적으로 해결될 수 있는가?
• RQ5 조작 상황에서 기존 학습 접근 방식에 비해 제안된 방법이 방어자의 유용성에 얼마나 향상시키는가?

주요 결과

• 거짓된 최적 반응 피드백을 통한 공격자 조작은 방어자가 항상 최대 최소 전략을 채택하게 하며, 이는 공격자의 보상 정보에 대한 어떤 정보도 필요로 하므로 학습 과정을 무효화한다.
• 제안된 고차원 정책 기여 프레임워크는 조작에 효과적으로 대응하여, 공격자가 거짓을 말하는 상황에서도 방어자가 더 효과적인 전략을 학습할 수 있도록 한다.
• 이 프레임워크 하에서 최적 정책을 계산하는 다항시간 알고리즘이 존재하여 실용적 구현에 있어 계산적으로 실현 가능하다.
• 무한하거나 전혀 알려지지 않은 공격자 보상 공간에 대해서도 히ュ리스틱 접근법이 효과적이며, 이는 방법의 적용 범위를 넓힌다.
• 실증 평가 결과, 제안된 방법은 조작이 무시된 경우에 비해 방어자의 유용성을 크게 향상시킨다.
• 프레임워크는 다양한 게임 설정에서 뛰어난 성능을 유지하며, 실용적 맥락에서 강건성과 확장성을 입증한다.