[論文レビュー] Security Analysis of Online Centroid Anomaly Detection

Marius Kloft, Pavel Laskov|arXiv (Cornell University)|Feb 27, 2010

Network Security and Intrusion Detection参考文献 65被引用数 87

ひとこと要約

この論文は、敵対的汚染攻撃下におけるオンラインコアグラム異常検出の理論的セキュリティ分析を提供し、さまざまな制約下での攻撃効果の上限を導出する。攻撃が制約なしの設定では非常に有効である一方で、外部の制約（例えば、誤検出率の上限や制限されたデータインジェクション）があると、攻撃者の利益は著しく制限され、攻撃が任意に困難になることが示されている。

ABSTRACT

Security issues are crucial in a number of machine learning applications, especially in scenarios dealing with human activity rather than natural phenomena (e.g., information ranking, spam detection, malware detection, etc.). It is to be expected in such cases that learning algorithms will have to deal with manipulated data aimed at hampering decision making. Although some previous work addressed the handling of malicious data in the context of supervised learning, very little is known about the behavior of anomaly detection methods in such scenarios. In this contribution we analyze the performance of a particular method -- online centroid anomaly detection -- in the presence of adversarial noise. Our analysis addresses the following security-related issues: formalization of learning and attack processes, derivation of an optimal attack, analysis of its efficiency and constraints. We derive bounds on the effectiveness of a poisoning attack against centroid anomaly under different conditions: bounded and unbounded percentage of traffic, and bounded false positive rate. Our bounds show that whereas a poisoning attack can be effectively staged in the unconstrained case, it can be made arbitrarily difficult (a strict upper bound on the attacker's gain) if external constraints are properly used. Our experimental evaluation carried out on real HTTP and exploit traces confirms the tightness of our theoretical bounds and practicality of our protection mechanisms.

研究の動機と目的

• セキュリティが重要な応用分野におけるオンラインコアグラム異常検出の敵対的汚染攻撃に対する脆弱性を分析すること。
• 敵対的環境下での学習プロセスと攻撃プロセスの相互作用を形式化すること。
• 制限付きおよび無制限のデータインジェクション制約下での最適攻撃戦略を導出し、その有効性を定量化すること。
• 誤検出率の上限などの外部制約が攻撃者の利益をどのように制限できるかを調査すること。
• 実際のHTTPトラフィックおよびエクスプロイトレースを用いた実験により、理論的上限の妥当性と保護メカニズムの実用性を検証すること。

提案手法

• 著者らは、攻撃者がデータポイントを操作して真のコアグラムからの乖離を最大化するのを目的とした、確率的ゲームとして学習と攻撃プロセスをモデル化する。
• マーティングールの濃度不等式と幾何級数近似を用いて、推定されたコアグラムと真のコアグラムの間の期待距離の上限を導出する。
• 主な要素には、ジェンセンの不等式、攻撃成功条件のインジケータ関数、異常スコアの再帰的期待値の上限が含まれる。
• 誤検出率の上限やインジェクション割合の制限といった制約を組み込み、現実的な運用制限をモデル化する。
• 異常スコアの一次モーメントおよび二次モーメントの理論的上限を導出し、攻撃への耐性を定量化する分散の上限を導出する。
• 再帰的期待値フレームワークを用いて、敵対的影響下での時間経過に伴うコアグラム推定値の進化を分析する。

実験結果

リサーチクエスチョン

• RQ1 制約のない状況では、オンラインコアグラム異常検出に対する汚染攻撃はどの程度有効であるか？
• RQ2 制限付きのデータインジェクションおよび誤検出率制約下での最適攻撃戦略は何か？
• RQ3 外部制約を用いて攻撃者の利益を任意に小さな値に制限できるか？
• RQ4 理論的上限は、実際のネットワークトラフィックパターン下でも実用的で、どれほどタイトか？
• RQ5 導出された保護メカニズムは、実世界のトレースにおいて、敵対的改ざんをどの程度効果的に防止できるか？

主な発見

• 制約なしの状況では、汚染攻撃は非常に有効であり、攻撃者が真のコアグラムから顕著な乖離を達成できる。
• 誤検出率が上限付きの場合、攻撃者の利益は理論的上限によって厳密に制限され、成功する攻撃はますます困難になる。
• インジェクション割合が上限付きの場合、攻撃者の利益も制限され、理論的上限は実際のHTTPおよびエクスプロイトレースにおける実測結果とよく一致する。
• 異常スコアの分散は、サンプル数の増加に伴い減少する項によって上限づけられており、制約下で安定した検出動作への収束を示唆している。
• 実験的評価により、理論的上限がタイトであることが確認され、制約に基づく保護メカニズムが実世界のシナリオにおいて実用的に有効であることが示された。
• 分析により、誤検出率の上限のような外部制約を活用することで、適応的攻撃者でさえも攻撃を任意に困難にできることが示された。