[論文レビュー] Generating new concepts with hybrid neuro-symbolic models

Reuben Feinman, Brenden M. Lake|arXiv (Cornell University)|Mar 19, 2020

Language and cultural evolution参考文献 28被引用数 5

ひとこと要約

本論文では、ニューラルネットワークと記号的確率的プログラムを組み合わせることで、構造的に整合性のある新しい手書き文字を生成するハイブリッド神経記号モデルを提案する。構成的および因果的知識と統計的パターン認識を統合することで、一般化性能が向上し、より多様で人間らしい概念を生成しながら、知覚的一致性を維持する。

ABSTRACT

Human conceptual knowledge supports the ability to generate novel yet highly structured concepts, and the form of this conceptual knowledge is of great interest to cognitive scientists. One tradition has emphasized structured knowledge, viewing concepts as embedded in intuitive theories or organized in complex symbolic knowledge structures. A second tradition has emphasized statistical knowledge, viewing conceptual knowledge as an emerging from the rich correlational structure captured by training neural networks and other statistical models. In this paper, we explore a synthesis of these two traditions through a novel neuro-symbolic model for generating new concepts. Using simple visual concepts as a testbed, we bring together neural networks and symbolic probabilistic programs to learn a generative model of novel handwritten characters. Two alternative models are explored with more generic neural network architectures. We compare each of these three models for their likelihoods on held-out character classes and for the quality of their productions, finding that our hybrid model learns the most convincing representation and generalizes further from the training observations.

研究の動機と目的

• 人間の概念的知識における構成的構造と統計的相関を捉える生成モデルを開発すること。
• 純粋な記号的モデル（硬直的な仮定）と純粋なニューラルモデル（一般化性能が低い）の概念生成における限界を解決すること。
• ハイブリッド神経記号システムが、新しいが構造的な概念への柔軟で創造的な一般化をどのように支援できるかを探索すること。
• このようなモデルが、記憶の再現を越えて一般化し、構造的に整合性のある新しい文字を生成できるかどうかを評価すること。

提案手法

• モデルは、スラッシュの順序や部品の再利用可能性など、手書き文字の構成的および因果的構造を定義するための記号的確率的プログラムを使用する。
• ニューラルネットワークを用いて、スラッシュの形状やスタイルの変動における視覚的特徴の統計的分布をモデル化する。
• 微分可能な推論エンジンにより、記号的プログラムの実行とニューラル部の勾配ベース最適化を統合したエンドツーエンド学習が可能になる。
• 温度パラメータを備えた混合密度ネットワークを採用し、確率的で多様なが、一貫性のある文字サンプルを生成する。
• 知覚的一致性は、Omniglotデータセットで微調整されたCNNの最終隠れ層におけるコサイン距離で測定する。
• サンプルはトポロジカルグリッドに整理され、生成された文字のスタイル的多様性と構造的一致性を可視化する。

実験結果

リサーチクエスチョン

• RQ1 神経記号モデルは、構造的に整合的で視覚的に多様な新しい手書き文字を生成できるか？
• RQ2 記号的構成的構造の組み込みにより、純粋なニューラルネットワークと比較して、学習データを超えた一般化性能がどの程度向上するか？
• RQ3 生成された文字が、直接的な記憶再現ではなく、未学習の訓練例に類似している程度はどの程度か？
• RQ4 統計的パターン学習と記号的インダクティブバイアスの両方を、概念生成においてどの程度うまくバランスできるか？
• RQ5 モデルは、最近傍の訓練データとの知覚的差異が明確に現れる文字を生成できるか、すなわち真の一般化が可能か？

主な発見

• ハイブリッド神経記号モデルは、特にテスト例が学習データから著しく逸脱する場合に、保留された文字クラスで最高の対数尤度を達成した。
• Full NSモデルは、9つのサンプルのうち3つがOmniglot訓練データの最近傍サンプルと視覚的に異なることを示し、LSTMベースラインと比較してより強い一般化性能を示した。
• 100サンプルのトポロジカルな整理から、角ばった、線状の、曲線的なフォームを含む複数の明確に異なる視覚的スタイルが確認され、多様性が豊かであることが示された。
• モデルは、ブライユ文字に類似した文字を形成するなど、複数のスラッシュにわたる一貫性あるスタイル的・構造的整合性を持つ文字を生成した。
• 視覚的チューリングテストと知覚的一致性分析の結果、純粋なニューラルネットワークの出力と比較して、モデルの出力はより独自性が高く、模倣的ではないことが示された。
• 記号的構造とニューラルパターン学習の統合により、非パラメトリック相関の捉え込みが向上し、構成的一般化のためのインダクティブバイアスが保持された。