[論文レビュー] The Coming Era of AlphaHacking? A Survey of Automatic Software Vulnerability Detection, Exploitation and Patching Techniques

Tiantian Ji, Yue Wu+3 more|arXiv (Cornell University)|May 28, 2018

Advanced Malware Detection Techniques参考文献 46被引用数 5

ひとこと要約

この論文は、ソフトウェアにおける脆弱性検出、利用、パッチ適用の自動化技術を調査し、機械学習が自律的サイバー推論システム（CRS）を可能にする役割を強調している。静的・動的・混合分析の分野における最先端の手法を統合し、意味的ファズィングと学習可能なパッチ適用のアプローチを強調するとともに、今後の研究における深層的意味理解、バイナリベースの学習、オープンデータセットの欠如といった主要な課題を特定している。

ABSTRACT

With the success of the Cyber Grand Challenge (CGC) sponsored by DARPA, the topic of Autonomous Cyber Reasoning System (CRS) has recently attracted extensive attention from both industry and academia. Utilizing automated system to detect, exploit and patch software vulnerabilities seems so attractive because of its scalability and cost-efficiency compared with the human expert based solution. In this paper, we give an extensive survey of former representative works related to the underlying technologies of a CRS, including vulnerability detection, exploitation and patching. As an important supplement, we then review several pioneer studies that explore the potential of machine learning technologies in this field, and point out that the future development of Autonomous CRS is inseparable from machine learning.

研究の動機と目的

• ソフトウェア脆弱性の検出、利用、パッチ適用のための自動化技術を包括的に調査すること。
• 機械学習がソフトウェアセキュリティにおける自律的サイバー推論システム（CRS）の発展に果たす役割を検討すること。
• 深層的意味理解、バイナリベースの機械学習、脆弱性研究のためのオープンソースデータセットの欠如といった、主な課題を特定すること。
• 脆弱性検出（例：SemFuzz）、利用（例：SemFuzz）、パッチ適用（例：ELIXIR、Deepfix）における最先端の手法を強調すること。
• ML駆動のソフトウェア脆弱性自動化分野における今後の研究を導くために、オープンな課題と機会を提示すること。

提案手法

• 静的・動的・混合分析に分類された脆弱性検出を、制御フローダイアグラム（CFG）、データフローダイアグラム（DFG）、プログラム依存グラフ（PDG）に基づくグラフモデリングおよびデータ抽象化のための抽象解釈を強調して調査する。
• CVEおよびGitログの自然言語処理（NLP）を用いて脆弱性の意味的特徴を抽出し、プロトタイプ攻撃を生成する意味的ファズィング（SemFuzz）をレビューする。
• ELIXIR（MLによるランク付けを伴う生成・検証）やDeepfix（GRUベースのニューラル修復モデル）を含む機械学習ベースのパッチ適用技術を分析する。
• スケーラビリティの問題があるものの、モデルチェックイングと記号実行を形式的手法として高カバレッジの検証に用いる。
• DARPAのサイバー大規模チャレンジの知見を統合し、自律的CRSの進化を枠組みとして提示する。
• 主なメソドロジカルなギャップを特定し、バイナリ指向のMLモデルの不足と、ImageNetに類似した大規模かつオープンソースの脆弱性データセットの欠如を指摘する。

実験結果

リサーチクエスチョン

• RQ1 機械学習は、ソフトウェアシステムにおける脆弱性検出、利用、パッチ適用の自動化をどのように向上させることができるか？
• RQ2 静的および動的分析に基づく現在の自動脆弱性検出システムの主な技術的構成要素と制限は何か？
• RQ3 脆弱性レポートおよびパッチの意味的理解を向上させることで、攻撃生成および修復合成の質はどの程度向上するか？
• RQ4 深層学習をバイナリ解析および脆弱性検出に適用するにあたり、主な課題は何か？
• RQ5 オープンで大規模かつ意味的に豊富なデータセットは、自動ソフトウェアセキュリティ分野の研究をどの程度加速できるか？

主な発見

• SemFuzzは、CVEから抽出した112件のLinuxカーネル脆弱性（ゼロデイおよび非公開脆弱性を含む）に対して、CVEおよびGitログデータのNLPを活用し、16％の検出率を達成した。
• ELIXIRは、意味的特徴に基づく修復候補のMLランク付けを用いることで、オブジェクト指向プログラムにおける有効な修復空間を大幅に拡大し、パッチ適用の成功率を向上させた。
• Deepfixは、トレーニング済みのゲート付き再帰ユニット（GRU）モデルを用いて6,971件の誤ったプログラムを高精度で修正し、ニューラルネットワークがプログラム修復に実用的であることを示した。
• 進展は見られるが、モデルチェックイングおよびグラフベースの解析は、状態爆発と高い計算コストのため、スケーラビリティの問題に直面している。
• バイナリベースの機械学習はまだ発展途上であり、多くのモデルがソースコードを対象として設計されているため、重要な研究ギャップが存在する。
• ImageNetに類似したオープンで大規模かつ意味的に豊富なデータセットの欠如が、依然としてMLを用いたソフトウェア脆弱性自動化分野の発展を妨げる主要な障壁である。