[論文レビュー] Learning Task-General Representations with Generative Neuro-Symbolic Modeling

Reuben Feinman, Brenden M. Lake|arXiv (Cornell University)|Jun 25, 2020

Domain Adaptation and Few-Shot Learning参考文献 50被引用数 5

ひとこと要約

本論文は、確率的プログラムとニューラルネットワークサブルーチンを組み合わせることで、タスクに一般化可能で、構成的かつ因果的な手書き文字の表現を学習する生成的神経記号的（GNS）モデルを提案する。モデルは記号的ストロークプリミティブと微分可能レンダラを用い、生データから多様な文字スタイルを生成し、1枚の訓練画像での人間水準の少サンプル一般化を4つのタスクで達成した。生成品質と尤度の両面で、先行する記号的およびニューラルベースラインを上回った。

ABSTRACT

People can learn rich, general-purpose conceptual representations from only raw perceptual inputs. Current machine learning approaches fall well short of these human standards, although different modeling traditions often have complementary strengths. Symbolic models can capture the compositional and causal knowledge that enables flexible generalization, but they struggle to learn from raw inputs, relying on strong abstractions and simplifying assumptions. Neural network models can learn directly from raw data, but they struggle to capture compositional and causal structure and typically must retrain to tackle new tasks. We bring together these two traditions to learn generative models of concepts that capture rich compositional and causal structure, while learning from raw data. We develop a generative neuro-symbolic (GNS) model of handwritten character concepts that uses the control flow of a probabilistic program, coupled with symbolic stroke primitives and a symbolic image renderer, to represent the causal and compositional processes by which characters are formed. The distributions of parts (strokes), and correlations between parts, are modeled with neural network subroutines, allowing the model to learn directly from raw data and express nonparametric statistical relationships. We apply our model to the Omniglot challenge of human-level concept learning, using a background set of alphabets to learn an expressive prior distribution over character drawings. In a subsequent evaluation, our GNS model uses probabilistic inference to learn rich conceptual representations from a single training image that generalize to 4 unique tasks, succeeding where previous work has fallen short.

研究の動機と目的

• 生データからの学習を可能にし、構成的・因果的構造を捉える生成モデルを構築することで、記号的モデルとニューラルモデルを統合すること。
• 記号的モデルが生データからの学習に限界を抱えることと、ニューラルモデルが構成的構造を捉えることの困難さを解消すること。
• 1枚の訓練画像でのワンショット学習を用いて、Omniglotベンチマークで人間水準の少サンプル概念学習を実現すること。
• 多様なドメインに応用可能な柔軟なフレームワーク—生成的神経記号的（GNS）—を構築すること。

提案手法

• モデルは、ストローク生成の因果的・構成的プロセスを定義する確率的プログラムとして文字を表現する。
• ニューラルネットワークサブルーチンがストロークの分布およびそれらの相関関係をモデル化し、生画像データからのエンドツーエンド学習を可能にする。
• 記号的画像レンダラが抽象的なストロークレベル表現をピクセルレベルの画像に変換し、微分可能で構造的整合性を保証する。
• 1枚の画像からの潜在的なタイプおよびトークン変数の推論にベイズ推論を用い、少サンプル学習を実現する。
• ラプラス法を用いて事後モードの積分を近似し、テスト尤度の下界を推定することで、周辺尤度を推定する。
• 背景となるアルファベットセットから学習される、文字概念に関するノンパラメトリック事前分布をフレームワークに統合する。

実験結果

リサーチクエスチョン

• RQ1 生成的モデルが記号的構造とニューラル学習を統合することで、概念学習における人間水準の少サンプル一般化を達成できるか？
• RQ2 神経記号的モデルは、生ピクセルデータからの学習において、手書き文字の構成的・因果的構造をどれほど正確に捉えることができるか？
• RQ3 微分可能な記号的レンダラを組み込むことで、完全にニューラル的または記号的なモデルと比較して生成品質と尤度が向上するか？
• RQ4 1ショット学習後に得られた1つの概念的表現が、複数の下流タスクに柔軟に適用可能か？

主な発見

• GNSモデルは、ホールドアウトされたOmniglot画像において、次元あたりの最尤度が最も高く（−0.0348）な結果を示し、VHEおよびSGベースラインを上回った。
• GNSモデルからのサンプルは多様で現実的であり、多くの場合、最も近い訓練ネIGHBORSとは視覚的に顕著に異なるスタイルを示しており、効果的な一般化を示している。
• モデルは1枚の画像から得られる1つの概念的表現を用いて、分類、生成、再構成、少サンプル学習という4つの異なるタスクを効果的に実行した。
• モデルは、角ばった形や曲線を含む複雑で非自明な構造を持つ文字サンプルを生成でき、BPLモデルの単純化された独立ストローク仮定を上回った。
• ニューラルサブルーチンの導入により、モデルは生データからストローク間の豊かなノンパラメトリック統計的関係を学習でき、従来の記号的モデルのパラメトリック仮定の制限を克服した。