[論文レビュー] Machine Learning Based Cyber Attacks Targeting on Controlled Information: A Survey

Yuantian Miao, Chao Chen+4 more|arXiv (Cornell University)|Feb 16, 2021

Network Security and Intrusion Detection参考文献 133被引用数 14

ひとこと要約

本調査は、ユーザー行動、機械学習（ML）モデル、認証データなどの制御情報に対して、5段階の攻撃手法を分析することで、機械学習に基づく盗難攻撃を調査している。検出、遮断、隔離の防御戦略を提案し、かくも、攻撃の隠れやすさと検出の難しさという課題を強調するとともに、ML駆動システムにおける機密情報の保護に向けた今後の研究分野を提示している。

ABSTRACT

Stealing attack against controlled information, along with the increasing number of information leakage incidents, has become an emerging cyber security threat in recent years. Due to the booming development and deployment of advanced analytics solutions, novel stealing attacks utilize machine learning (ML) algorithms to achieve high success rate and cause a lot of damage. Detecting and defending against such attacks is challenging and urgent so that governments, organizations, and individuals should attach great importance to the ML-based stealing attacks. This survey presents the recent advances in this new type of attack and corresponding countermeasures. The ML-based stealing attack is reviewed in perspectives of three categories of targeted controlled information, including controlled user activities, controlled ML model-related information, and controlled authentication information. Recent publications are summarized to generalize an overarching attack methodology and to derive the limitations and future directions of ML-based stealing attacks. Furthermore, countermeasures are proposed towards developing effective protections from three aspects -- detection, disruption, and isolation.

研究の動機と目的

• サイバーセキュリティ分野における制御情報に対する機械学習ベースの盗難攻撃の増加する脅威を分析すること。
• ユーザー行動、MLモデル関連データ、認証情報の3種類の標的制御情報の分類と検討を行うこと。
• 一般化された攻撃手法に基づき、MLベースの盗難攻撃における限界と今後の研究分野を同定すること。
• 検出、遮断、隔離の防御メカニズムを提案・評価し、こうした攻撃の緩和に寄与すること。
• 攻撃の隠れやすさと高い成功確率を鑑み、検出および保護の向上が急務であることを強調すること。

提案手法

• レコネッサンス、データ収集、特徴工学、目的への攻撃、評価の5段階攻撃手法を提案する。
• MLベースの盗難攻撃を2つのモードに分類する：MLモデルを通じて情報の盗難を行う、およびMLモデルそのものの再構築（モデル再構築）を行う。
• 訓練データおよびモデルパラメータの保護のため、微分プライバシー（グローバル、ローカル、分散）の技術をレビューする。
• モデル逆転攻撃を遮断するために、粗粒度の予測と信頼度マスキングによる出力摂動を導入する。
• 正則化およびごまかし技術を用いて、利用可能なデータソース内の機密情報を隠蔽する。
• 攻撃者が高度な特徴工学およびML分析を実行するのを防ぐために、 adversarial training（敵対的訓練）を強力な正則化手法として適用する。

実験結果

リサーチクエスチョン

• RQ1 MLベースの盗難攻撃は、どのようにして制御されたユーザー行動、MLモデル、認証情報を体系的に標的にするのか？
• RQ2 異なる種類の制御情報において、MLベースの盗難攻撃で共通して悪用される脆弱性は何か？
• RQ3 微分プライバシーおよび出力摂動技術は、どのようにしてモデル逆転攻撃およびメンバー推定攻撃を効果的に遮断できるのか？
• RQ4 現在の防御メカニズムは、データ機密性を確保しつつサービスの有用性を維持する上で、どのような限界を有するのか？
• RQ5 MLベースの情報盗難攻撃の隠れやすさと進化を考慮し、今後の研究分野としてどのような方向性が求められるのか？

主な発見

• 攻撃の隠れやすさから、MLベースの盗難攻撃は、従来のセキュリティメカニズムを容易に回避できるほど、ますます効果的かつ検知が困難である。
• モデル再構築攻撃は、クエリアクセスが可能である場合、MLaaSプラットフォームからモデルパラメータおよび訓練データを効果的に抽出できる。
• レコードレベルの微分プライバシーは、パラメータレベルのDPよりもGANベースの攻撃に対してより強い保護を提供するが、両者とも情報漏洩を低減する。
• 粗粒度の予測と信頼度マスキングによる出力摂動は、モデル逆転攻撃の成功率を顕著に低下させる。
• 敵対的訓練およびごまかし技術は、攻撃者が高度な特徴工学を実行する能力を阻害する有効な正則化手法である。
• 動的権限制御およびアクセス制限による隔離は、レコネッサンスのブロッキングに効果的であるが、過剰に使用するとサービスの有用性が低下するリスクを伴う。