[論文レビュー] Adaptive Neural Compilation

Rudy Bunel, Alban Desmaison+3 more|arXiv (Cornell University)|May 25, 2016

Reinforcement Learning in Robotics参考文献 13被引用数 27

ひとこと要約

この論文は、低レベルのプログラムを微分可能ニューラル表現にコンパイルするフレームワーク、Adaptive Neural Compiler (ANC) を導入する。これにより、勾配降下を用いたデータ駆動型最適化が可能となり、入力データの分布に適応した学習済みプログラムが、偏ったデータセット上での定数時間実行（O(1)）を達成する。

ABSTRACT

This paper proposes an adaptive neural-compilation framework to address the problem of efficient program learning. Traditional code optimisation strategies used in compilers are based on applying pre-specified set of transformations that make the code faster to execute without changing its semantics. In contrast, our work involves adapting programs to make them more efficient while considering correctness only on a target input distribution. Our approach is inspired by the recent works on differentiable representations of programs. We show that it is possible to compile programs written in a low-level language to a differentiable representation. We also show how programs in this representation can be optimised to make them efficient on a target distribution of inputs. Experimental results demonstrate that our approach enables learning specifically-tuned algorithms for given data distributions with a high success rate.

研究の動機と目的

• 入力データ分布の完全な特定ができない状況において、一般アルゴリズムを特定の入力データ分布に最適化する課題に取り組む。
• 意味的同等性や非微分可能探索に依存する従来のコンパイラーやスーパー最適化器の限界を克服する。
• 勾配ベースの最適化に適した微分可能形式にプログラムを変換することで、効率的かつデータに適応したプログラムの適応を可能にする。
• カリキュラム学習などの複雑な訓練ヒューリスティクスへの依存を減らすために、コンパイルによる微分可能初期化を提供する。
• 与えられた入力分布上で正しさを損なわずに、アルゴリズムの実行効率を向上させる。

提案手法

• 低レベルのプログラムを、命令を微分可能演算にマッピングするカスタムコンパイラを用いて、微分可能ニューラル表現にコンパイルする。
• プログラムを微分可能メモリ（例：テープベースモデル）上の操作の系列として表現し、レジスタや命令を学習可能なパラメータとしてモデル化する。
• 入力-出力ペアのデータセット上で損失を最小化するように、プログラムパラメータを勾配降下で最適化し、高速な実行を促進する。
• READ、WRITE、INC、DEC、JEZ、STOP などの微分可能演算を活用し、プログラム論理のエンドツーエンド学習を可能にする。
• 入力データのパターンに適応する命令列を生成するため、微分可能コントローラ（例：LSTMベース）を適用する。
• 正しさ（予測精度）と効率性（実行時間またはステップ数）を組み合わせた損失関数を用い、両者を同時に最適化可能にする。

実験結果

リサーチクエスチョン

• RQ1 低レベルコードから微分可能プログラム表現を構築し、勾配ベースの最適化を可能にすることができるか？
• RQ2 意味的変更なしに、特定の入力分布上でデータ駆動型最適化が一般アルゴリズムを上回る性能を発揮できるか？
• RQ3 勾配降下が、コンパイルされた微分可能表現から、非自明な効率的バージョン（例：ループのバイパス）をどれだけ発見できるか？
• RQ4 ANCフレームワークは、ベースラインのコンパイルや探索ベースの手法と比較して、最適化されたプログラムをどれほど効果的に学習できるか？
• RQ5 勾配ベースの最適化は、学習済みプログラムにおける余分なまたは使用されない命令を排除する点で、どの程度の限界を示すか？

主な発見

• ANCフレームワークは、勾配降下によるエンドツーエンド学習を可能にする微分可能表現に低レベルプログラムを成功裏にコンパイルした。
• 偏ったリンクリストアクセスタスクでは、学習済みプログラムがループを完全にバイパスし、直接ターゲットアドレスを計算することで定数時間アクセス（O(1)）を達成した。
• モデルは最適化されたプログラムを学習する際に高い成功率を示し、偏ったデータセット上のテストケースの99％で望みの要素を正しくアクセスした。
• 効率性の向上を達成したにもかかわらず、モデルは余分な操作（例：使用されないレジスタの書き込み）を保持していたため、勾配ベースの発見による構造最適化の限界が示された。
• 微分可能表現により、意味的同等性を越えたデータ固有のパフォーマンス向上が可能となり、分布に適応したアルゴリズムの学習の可能性を実証した。
• 直接的な勾配誘導によるプログラム空間探索が可能であるため、従来のコンパイラーや非微分可能スーパー最適化を上回る性能を発揮した。