[論文レビュー] Manipulating a Learning Defender and Ways to Counteract

Jiarui Gan, Qingyu Guo+3 more|arXiv (Cornell University)|Jan 1, 2019

Network Security and Intrusion Detection被引用数 1

ひとこと要約

この論文は、学習ベースの防御者が、事実を述べない攻撃者によって操作されうることを示しており、攻撃者は防御者に最大最小戦略を採用させることで学習の利点を無効化する。これを是正するために、著者らは、攻撃者の操作に対してもロバストな戦略を学習できる高レベルのゲーム理論的方針コミットメントフレームワークを提案する。このフレームワークには多項式時間アルゴリズムと、未知または無限の報酬空間に対応するヒューリスティックが含まれており、実験では防御者の報酬を顕著に向上させた。

ABSTRACT

In Stackelberg security games when information about the attacker's payoffs is uncertain, algorithms have been proposed to learn the optimal defender commitment by interacting with the attacker and observing their best responses. In this paper, we show that, however, these algorithms can be easily manipulated if the attacker responds untruthfully. As a key finding, attacker manipulation normally leads to the defender learning a maximin strategy, which effectively renders the learning attempt meaningless as to compute a maximin strategy requires no additional information about the other player at all. We then apply a game-theoretic framework at a higher level to counteract such manipulation, in which the defender commits to a policy that specifies her strategy commitment according to the learned information. We provide a polynomial-time algorithm to compute the optimal such policy, and in addition, a heuristic approach that applies even when the attacker's payoff space is infinite or completely unknown. Empirical evaluation shows that our approaches can improve the defender's utility significantly as compared to the situation when attacker manipulation is ignored.

研究の動機と目的

• 攻撃者が偽の最適反応フィードバックを提供することで、学習ベースの防御者戦略にどのような脆弱性が生じるかを特定すること。
• このような操作の結果、防御者が通常最大最小戦略に到達することを分析し、その結果、報酬情報の貴重な部分を無視することにつながることを示すこと。
• 攻撃者による操作に対抗できる高レベルのゲーム理論的フレームワークを設計すること。このフレームワークでは、防御者が学習した攻撃者の行動に基づいて適応する方針にコミットする。
• このフレームワーク下での最適方針を計算する多項式時間アルゴリズムを開発すること。
• 攻撃者の報酬空間が無限または完全に未知の場合に、ヒューリスティック手法を用いてこのアプローチを拡張すること。

提案手法

• 防御者の学習プロセスを、防御者が相互作用を通じて攻撃者の報酬を学び、観察された最適反応に基づいて推定するスタックルベルクゲームとしてモデル化する。
• 防御者が単一の行動に直接コミットするのではなく、学習済みの情報をもとにした戦略にコミットする高レベルの方針コミットメントメカニズムを導入する。
• 最適方針の計算を二段階最適化問題として定式化し、凸最適化技術を用いて多項式時間で解けるようにする。
• サンプリングと近似に依存することで、攻撃者の報酬空間が無限または完全に未知であっても動作するヒューリスティックな方針計算手法を設計する。
• 防御者の学習ループにこの方針を統合し、事実を述べない攻撃者への応答に対してロバスト性を確保する。
• 合成ゲームおよびベンチマークゲームを用いた実験的評価により、操作がある場合とない場合の両方で報酬を比較する。

実験結果

リサーチクエスチョン

• RQ1 攻撃者が偽の最適反応フィードバックを提供することで、スタックルベルクセキュリティゲームにおける学習ベースの防御者をどの程度操作できるか。
• RQ2 このような操作下で防御者が到達する戦略的結果は何か。また、それが学習プロセスにどのように悪影響を及えるか。
• RQ3 高レベルの方針コミットメントフレームワークは、攻撃者の報酬空間が有限および無限の両方の設定において、攻撃者の操作を効果的に是正できるか。
• RQ4 このフレームワーク下での最適方針の計算の計算量的複雑性は何か。また、効率的に解けるか。
• RQ5 操作が行われる状況下で、提案手法は標準的な学習アプローチに比べて防御者の報酬をどの程度向上させるか。

主な発見

• 事実を述べない最適反応フィードバックによる攻撃者の操作は、常に防御者が最大最小戦略に到達させることに成功し、攻撃者の報酬に関する情報が一切不要となるため、学習プロセスそのものを無効化する。
• 提案された高レベルの方針コミットメントフレームワークは、攻撃者がうそをつく状況でも効果的に操作を是正し、攻撃者がうそをついても防御者がより効果的な戦略を学習できる。
• このフレームワーク下での最適方針を計算する多項式時間アルゴリズムが存在し、実用的展開において計算的に実行可能である。
• 攻撃者の報酬空間が無限または完全に未知であっても、ヒューリスティック手法が有効であるため、この手法の適用範囲が拡張される。
• 実験的評価では、操作を無視した状況と比較して、提案手法が防御者の報酬を顕著に向上させることを示した。
• フレームワークは、さまざまなゲーム設定においても強く、実用的でロバストかつスケーラブルな性能を維持している。