[論文レビュー] Towards Neural Decompilation

Omer Katz, Yuval Olshaker+2 more|arXiv (Cornell University)|May 20, 2019

Adversarial Robustness in Machine Learning参考文献 28被引用数 8

ひとこと要約

本論文では、コンパイラの前方翻訳（低レベルコード（LLVM IR や x86 アセンブリ）を人間が読める C 言語コードに変換する逆翻訳）に基づくニューラル機械翻訳（NMT）手法を用いた自動デコンパイルのアプローチを提示する。この手法は、LLVM と x86 のベンチマークでそれぞれ 97% および 88% の成功率を達成し、手作業で作成されたルールに依存するのではなく学習されたパターンを活用するため、従来のルールベースのシステムを著しく上回る性能を発揮する。

ABSTRACT

We address the problem of automatic decompilation, converting a program in low-level representation back to a higher-level human-readable programming language. The problem of decompilation is extremely important for security researchers. Finding vulnerabilities and understanding how malware operates is much easier when done over source code. The importance of decompilation has motivated the construction of hand-crafted rule-based decompilers. Such decompilers have been designed by experts to detect specific control-flow structures and idioms in low-level code and lift them to source level. The cost of supporting additional languages or new language features in these models is very high. We present a novel approach to decompilation based on neural machine translation. The main idea is to automatically learn a decompiler from a given compiler. Given a compiler from a source language S to a target language T , our approach automatically trains a decompiler that can translate (decompile) T back to S . We used our framework to decompile both LLVM IR and x86 assembly to C code with high success rates. Using our LLVM and x86 instantiations, we were able to successfully decompile over 97% and 88% of our benchmarks respectively.

研究の動機と目的

• 新しい言語や機能を追加するたびに専門家の介入を要する、従来のルールベースのデコンパイラの高コストかつ柔軟性に欠ける問題に対処すること。
• 既存のコンパイラから任意のデコンパイラを自動生成可能にすることで、デコンパイラ開発における人的負担を削減すること。
• goto ステートメントや低レベル構文の過剰使用を避けて、意味的に同等で人間が読める C 言語コードを生成することで、デコンパイルコードの品質を向上させること。
• ドメイン固有の知識が欠落しているため、元のコードと構文的にも意味的にも一致しない、従来のニューラルデコンパイル手法の限界を克服すること。

提案手法

• フレームワークは二段階のアプローチを採用する。まず、変数や定数の代入を含まずに制御構造や構文構造を保持する構造的コードテンプレートを生成する。
• 第二段階では、テンプレートにコンパイラが生成したソースコードからアセンブリへのペアを学習したニューラルシーケンス・ツー・シーケンスモデルを用いて実際の値を埋め込む。
• コンパイラの前方翻訳を活用することで逆写像を暗黙的に学習し、直接的なデコンパイルの教師信号がなくてもエンド・ツー・エンドのデコンパイラ学習が可能になる。
• ドメイン固有の知識は、コンパイラが最適化した意味的に同等のコードペアを用いることで統合され、一般化性能と正しさが向上する。
• プログラミング言語の構文と意味に適応した、ニューラル機械翻訳に類似したアテンション機構を備えたシーケンス・ツー・シーケンスニューラルネットワークを採用する。
• 訓練データはコンパイラの出力から構築され、訓練集合とテスト集合に重複がないことを保証しており、ベンチマークには最大 668 入力トークンの複雑なマルチステートメントプログラムが含まれる。

実験結果

リサーチクエスチョン

• RQ1 ニューラル機械翻訳モデルは、高い正確性で低レベルコードを高レベルのソースコードにデコンパイルするために効果的に適応可能か？
• RQ2 コンパイラの前方翻訳からデコンパイラを自動的に学習でき、手作業によるルール定義の必要性を排除できるか？
• RQ3 コンパイラが最適化したコードから得られるドメイン固有の知識を組み込むことで、デコンパイル出力の品質とコンパイル時の正しさが向上するか？
• RQ4 複雑な実世界のコードスニペットにおいて、ニューラルデコンパイラは従来のルールベースのデコンパイラと比較してどの程度の性能を示すか？
• RQ5 同じ訓練パラダイムを用いて、LLVM IR や x86 アセンブリといった異なる低レベル表現間で一般化が可能か？

主な発見

• フレームワークは、多様なテストケースをカバーする LLVM IR ベンチマークの 97% を意味的に同等の C 言語コードにデコンパイルに成功し、高い正確性を示した。
• x86 アセンブリに関しては 88% の成功率を達成し、コンパイル不能や正しさに欠ける問題を抱えていた従来のニューラルアプローチを著しく上回った。
• モデルは goto ステートメントを含まず、高レベル言語構文を用いたコードを生成したため、従来のデコンパイラよりも読みやすく再コンパイル可能なコードが得られた。
• コンパイラが生成したペアから学習することで、専門家によるルール設計の必要性を排除し、新規言語やターゲットへの迅速な適応が可能になった。
• ドメイン固有の知識を統合し、訓練・テストの厳密な分離を実施したことで、従来のニューラルデコンパイル手法を上回った。
• 最大 668 入力トークンおよび 177 出力トークンの複雑なプログラムを正常に処理でき、以前の研究が扱えた単一ステートメントの制限を大幅に超えた。