[論文レビュー] Constraint Solving with Deep Learning for Symbolic Execution

Junye Wen, Mujahid Khan+3 more|arXiv (Cornell University)|Mar 18, 2020

Software Engineering Research参考文献 45被引用数 4

ひとこと要約

この論文では、集約的な制約解のデータセットを用いてトレーニングされたニューラルネットワークにより、パス条件の充足可能性を分類することで、記号実行における制約解決を高速化する深層学習ベースのアプローチであるDeepSolverを提案する。従来の類似解再利用技術とは異なり、構文的・意味的同等性を必要とせず、学習されたパターンから一般化するため、高い正確性と効率性を達成しており、Z3やGreenTrieを上回る性能を示している。分類速度および記号実行におけるサポートの両面で優れている。

ABSTRACT

Symbolic execution is a powerful systematic software analysis technique, but suffers from the high cost of constraint solving, which is the key supporting technology that affects the effectiveness of symbolic execution. Techniques like Green and GreenTrie reuse constraint solutions to speed up constraint solving for symbolic execution; however, these reuse techniques require syntactic/semantic equivalence or implication relationship between constraints. This paper introduces DeepSover, a novel approach to constraint solving with deep learning for symbolic execution. Our key insight is to utilize the collective knowledge of a set of constraint solutions to train a deep neural network, which is then used to classify path conditions for their satisfiability during symbolic execution. Experimental evaluation shows DeepSolver is highly accurate in classifying path conditions, is more efficient than state-of-the-art constraint solving and constraint solution reuse techniques, and can well support symbolic execution tasks.

研究の動機と目的

• 記号実行における制約解決の高コストな計算を軽減すること。これはソフトウェア解析における主要なボトル neck である。
• 制約間の構文的・意味的同等性を必要とする従来の制約解再利用技術の限界を克服すること。
• 深層ニューラルネットワークを用いて、過去の制約解からパターンを一般化することで、より速いパス条件分類が可能かどうかを検証すること。
• 正しさやスケーラビリティを損なわずに、深層学習を記号実行に統合する実用的なフレームワークを設計すること。
• 深層学習が記号実行ワークロードに効果的に適用可能であることを示し、特にパス条件の充足可能性を予測する応用に焦点を当てる。

提案手法

• パス条件を、記号式と制御フローアーキテクチャを符号化するベクトル化アルゴリズムを用いて固定サイズの行列に変換する。
• 事前に解決済みのパス条件のデータセットを用いて深層ニューラルネットワーク（DNN）をトレーニングし、充足可能な条件と不可能な条件を区別するパターンを学習する。
• トレーニング済みのDNNを用いて、従来の制約ソルバを起動せずに、記号実行中に新しいパス条件を分類する。
• 誤分類を処理するためのフォールバック機構を備えた記号実行パイプラインにDNN分類器を統合し、正しさを保証する。
• 入力の一貫性と多様なパス条件におけるモデルの一般化能力を向上させるために、論理的還元および正規化技術を適用する。
• 初期トレーニングデータの生成およびDNN予測の検証に、市販の制約ソルバ（例：Z3）を活用する。

実験結果

リサーチクエスチョン

• RQ1 深層学習を用いて記号実行におけるパス条件の充足可能性を効果的に予測できるか？
• RQ2 従来の制約ソルバーや制約解再利用技術と比較して、深層学習ベースの分類の正確性と効率性はどの程度高いか？
• RQ3 正確な構文的・意味的一致を必要としない状況でも、DNNが多様なパス条件にどの程度一般化できるか？
• RQ4 プログラムの複雑さとパス条件の多様性が増加するに従って、DNNベースのアプローチはどの程度スケーリングできるか？
• RQ5 記号実行に深層学習を統合することで、正しさを保ちながらソルバ呼び出しのオーバーヘッドを顕著に削減できるか？

主な発見

• DeepSolverは、9つの実世界のJavaプログラムから得たパス条件において高い分類正確性を達成しており、予測の信頼性においてベースライン手法を顕著に上回っている。
• 正確な一致を必要とせず、学習されたパターンを活用することで、記号実行中の制約ソルバ呼び出し回数を削減し、分析を高速化している。
• Z3（最先端の制約ソルバ）およびGreenTrie（優れた解再利用フレームワーク）と比較して、DeepSolverはパス条件の充足可能性分類においてより高い効率性を示している。
• 本アプローチは強力な一般化能力を示しており、トレーニング時に見られなかったパス条件を、構文的にも異なるものであっても高い精度で分類している。
• DNNとフォールバック機構の統合により正しさが保証されており、実際の記号実行パイプラインに実用的である。
• 評価結果から、特にパス爆発や繰り返し発生する制約パターンが顕著な状況において、DeepSolverは従来の技術よりも記号実行タスクをより効果的にサポートしていることが示された。