[論文レビュー] When Attackers Meet AI: Learning-empowered Attacks in Cooperative Spectrum Sensing

Zhengping Luo, Shangqing Zhao+3 more|arXiv (Cornell University)|May 4, 2019

Adversarial Robustness in Machine Learning参考文献 69被引用数 12

ひとこと要約

本稿では、融合センターの意思決定プロセスのサーロウトモデルを構築することで、既存の防御メカニズムを回避する知能的で適応的な攻撃者を可能にする、学習強化型攻撃フレームワーク「学習-評価-回避（LEB）」を提案する。LEB攻撃は、融合センターを誤導する成功率が最大82%に達し、幅広い既存の防御に対して顕著な有効性を示す。これにより、攻撃の影響を制限する非侵襲的防御が導入され、混乱を最大80%まで低減することが可能になる。

ABSTRACT

Defense strategies have been well studied to combat Byzantine attacks that aim to disrupt cooperative spectrum sensing by sending falsified versions of spectrum sensing data to a fusion center. However, existing studies usually assume network or attackers as passive entities, e.g., assuming the prior knowledge of attacks is known or fixed. In practice, attackers can actively adopt arbitrary behaviors and avoid pre-assumed patterns or assumptions used by defense strategies. In this paper, we revisit this security vulnerability as an adversarial machine learning problem and propose a novel learning-empowered attack framework named Learning-Evaluation-Beating (LEB) to mislead the fusion center. Based on the black-box nature of the fusion center in cooperative spectrum sensing, our new perspective is to make the adversarial use of machine learning to construct a surrogate model of the fusion center's decision model. We propose a generic algorithm to create malicious sensing data using this surrogate model. Our real-world experiments show that the LEB attack is effective to beat a wide range of existing defense strategies with an up to 82% of success ratio. Given the gap between the proposed LEB attack and existing defenses, we introduce a non-invasive method named as influence-limiting defense, which can coexist with existing defenses to defend against LEB attack or other similar attacks. We show that this defense is highly effective and reduces the overall disruption ratio of LEB attack by up to 80%.

研究の動機と目的

• 従来の防御仮定に反する知能的で適応的な攻撃者による協調スペクトラムセンシングの脆弱性に対処すること。
• 融合センターのブラックボックス性を活用して、効果的で静かで効果的な攻撃を実行する方法を調査すること。
• 防御メカニズムの事前知識が不要な汎用的で学習ベースの攻撃フレームワークを構築すること。
• 既存の防御と補完的に機能し、LEBスタイルの攻撃の影響を軽減する非侵襲的防御メカニズムを提案すること。
• LEB攻撃および影響制限防御の実世界での有効性を、多様な防御戦略において評価すること。

提案手法

• 攻撃者は入力と出力を観測することで、融合センターの意思決定モデルをブラックボックスアプローチで推定し、意思決定プロセスのサーロウトモデルを構築する。
• サーロウトモデルの精度を向上させるために、サブモデルアンサンブル手法が採用され、融合センターの行動を正確に予測可能になる。
• 最小限の摂動で融合センターの意思決定を反転させるような、敵対的センシングデータを生成する汎用アルゴリズムが使用される。
• 攻撃は3段階に分かれる：サーロウトモデルの学習、その忠実度の評価、悪意あるデータの配布による融合センターの誤導。
• 影響制限防御は、既存の防御システムを変更せずに、入出力動作を分析することで悪意あるノードの影響を制限する非侵襲的メカニズムとして設計されている。
• 攻撃戦略を模擬・対抗するため、敵対的機械学習のトランスファービリティおよびモデル不一致の概念を活用する。

実験結果

リサーチクエスチョン

• RQ1 攻撃者は、融合センターの意思決定論理を学習することで、どのようにして既存の防御メカニズムを効果的に回避できるか？
• RQ2 入力-出力観測のみを用いて、融合センターの意思決定ルールのサーロウトモデルをどの程度正確に構築できるか？
• RQ3 LEB攻撃が、さまざまな防御戦略において融合センターを誤導する成功率はどの程度か？
• RQ4 影響制限防御は、LEBのような学習強化型攻撃の影響をどの程度低減できるか？
• RQ5 影響制限防御は、システムレベルの変更を要せず、既存の防御メカニズムと併用可能で、それらを強化できるか？

主な発見

• LEB攻撃は、幅広い既存の防御メカニズムにおいて、融合センターを誤導する成功率が最大82%に達する。
• LEB攻撃フレームワークは、統計モデルや機械学習分類器、信頼度ベースの重み付け方式に依存する防御に対しても有効である。
• 提案された影響制限防御は、LEB攻撃が引き起こす総合的混乱比を最大80%まで低減し、システムのレジリエンスを顕著に向上させる。
• 敵対的センシングデータ生成アルゴリズムは、従来の勾配ベース手法と比較して、平均で計算コストを65%まで削減する。
• 実世界の実験により、LEB攻撃が動的無線環境におけるモデル不一致や適応的行動を効果的に悪用できることを確認した。
• 影響制限防御は非侵襲的であり、既存の防御メカニズムとシームレスに統合可能で、高度な学習ベース攻撃に対するセキュリティを強化できる。