[論文レビュー] Learning Differentiable Programs with Admissible Neural Heuristics

Ameesh Shah, Eric Zhan+4 more|arXiv (Cornell University)|Jul 23, 2020

Machine Learning and Algorithms参考文献 49被引用数 6

ひとこと要約

この論文では、部分プログラムの微分可能ニューラル緩和を、組合せ的探索を高速化する近似的に許容可能なヒューリスティクスとして用いる Near という手法を提案する。ニューラルネットワークを用いて欠落しているプログラム構成要素を予測し、その損失を A* 法や反復的深さ優先分枝探索（Ids-bb）におけるヒューリスティクスとして使用することで、順序分類タスクにおいて解釈可能で高精度なプログラム的分類器を効率的に学習する。従来の最先端のプログラム学習手法を上回る性能を示した。

ABSTRACT

We study the problem of learning differentiable functions expressed as programs in a domain-specific language. Such programmatic models can offer benefits such as composability and interpretability; however, learning them requires optimizing over a combinatorial space of program "architectures". We frame this optimization problem as a search in a weighted graph whose paths encode top-down derivations of program syntax. Our key innovation is to view various classes of neural networks as continuous relaxations over the space of programs, which can then be used to complete any partial program. This relaxed program is differentiable and can be trained end-to-end, and the resulting training loss is an approximately admissible heuristic that can guide the combinatorial search. We instantiate our approach on top of the A-star algorithm and an iteratively deepened branch-and-bound search, and use these algorithms to learn programmatic classifiers in three sequence classification tasks. Our experiments show that the algorithms outperform state-of-the-art methods for program learning, and that they discover programmatic classifiers that yield natural interpretations and achieve competitive accuracy.

研究の動機と目的

• 微分可能プログラム学習におけるプログラムアーキテクチャの組合せ的探索空間を効率的に探索する課題に対処すること。
• プログラムの微分可能性を活用して、連続的緩和を生成し、組合せ的探索をガイドする手法を開発すること。
• 訓練済みニューラルネットワークを近似的に許容可能なヒューリスティクスとして用いる探索フレームワークを設計し、高品質なプログラムアーキテクチャへの収束を高速化すること。
• 順序分類タスクにおいて本手法を評価し、従来のプログラム学習技術と比較して性能と解釈可能性の両面で優れていることを示すこと。

提案手法

• プログラム探索を重み付きグラフの探索問題として定式化し、ノードは未完成なプログラムアーキテクチャ（未定義の式を含む）を表し、パスはトップダウンな導出を表す。
• 各部分アーキテクチャに対して、ニューラルネットワークを用いて欠落している部分式を予測する連続的緩和を実装し、エンドツーエンドの微分可能学習を可能にする。
• ニューラル緩和の訓練損失を、A* 法や反復的深さ優先分枝探索（Ids-bb）などのインformed探索アルゴリズムをガイドする近似的に許容可能なヒューリスティクスとして用いる。
• 文法的自由文法（CFG）を用いてDSLを定義し、文法規則に構造的コストを割り当てることで、より単純で解釈可能なプログラムを優遇する。
• 探索アルゴリズムはヒューリスティクスを用いてグラフ内のパスの優先順位を決定し、組合せ的プログラム探索空間を効率的に探索可能にする。
• 本手法は、A* 法と Ids-bb の2つの探索戦略に適用され、両方ともニューラルヒューリスティクスを統合することで、探索効率と解の品質が向上する。

実験結果

リサーチクエスチョン

• RQ1 微分可能なニューラルネットワークを用いて、部分プログラムの最適な完成を近似的に緩和できるか？
• RQ2 このようなニューラル緩和の訓練損失が、プログラムアーキテクチャの組合せ的探索をガイドする近似的に許容可能なヒューリスティクスとして機能するか？
• RQ3 A* 法と Ids-bb 探索にこれらのニューラルヒューリスティクスを適用することで、ベースライン手法と比較して探索効率と精度が顕著に向上するか？
• RQ4 学習されたプログラムは、競争力のある精度を達成するとともに、解釈可能で意味的に意味のあるものとなるか？

主な発見

• 提案手法 Near は、3つの順序分類タスクにおいて、最先端のプログラム学習手法を上回り、優れた探索効率と解の品質を示した。
• 学習されたプログラム的分類器は、エンドツーエンドのニューラルモデルに近い精度を達成しながらも、解釈可能でモジュラーなままである。
• ニューラル緩和に基づくヒューリスティクスは探索を顕著に高速化し、高パフォーマンスなプログラムアーキテクチャへの収束を迅速に実現した。
• 本手法は、構造的で人間が読みやすい論理を備えた、自然な解釈が可能なプログラム的モデルを発見した。
• 微分可能なニューラル緩和をヒューリスティクスとして用いることで、勾配ベースの学習と組合せ的探索の有効な統合が可能となり、プログラム合成分野における画期的なアプローチを提供した。