[論文レビュー] Compositional Generalization by Learning Analytical Expressions

Qian Liu, Shengnan An+7 more|arXiv (Cornell University)|Jun 18, 2020

Topic Modeling被引用数 19

ひとこと要約

本論文では、階層的強化学習を通じて解析的表現を学習することにより、合成的一般化を達成するメモリ拡張ニューラルモデル、Composer-Solverを提案する。記号的関数スロットとニューラルモジュールを組み合わせることで、すべてのSCANベンチマークタスクで100%の正確性を達成し、ゼロショット合成性において従来手法を著しく上回る性能を発揮する。

ABSTRACT

Compositional generalization is a basic and essential intellective capability of human beings, which allows us to recombine known parts readily. However, existing neural network based models have been proven to be extremely deficient in such a capability. Inspired by work in cognition which argues compositionality can be captured by variable slots with symbolic functions, we present a refreshing view that connects a memory-augmented neural model with analytical expressions, to achieve compositional generalization. Our model consists of two cooperative neural modules, Composer and Solver, fitting well with the cognitive argument while being able to be trained in an end-to-end manner via a hierarchical reinforcement learning algorithm. Experiments on the well-known benchmark SCAN demonstrate that our model seizes a great ability of compositional generalization, solving all challenges addressed by previous works with 100% accuracies.

研究の動機と目的

• ニューラルネットワークの合成的一般化における顕著な限界、すなわち既知の要素を新しい組み合わせで再結合することへの対処。
• 変数スロットと解析的関数を通じて、記号的認知の原則をニューラルネットワークの学習と統合することによる合成性のモデル化。
• 人間の再結合に類似した、学習可能でエンドツーエンドのフレームワークの開発。

提案手法

• モデルは、記号的関数スロットを用いて解析的表現を生成するComposerと、これらの表現を評価するSolverの2つの協調的ニューラルモジュールを採用する。
• システムは、表現生成と実行の両方を最適化する階層的強化学習アルゴリズムによって訓練される。
• 解析的表現内の変数スロットは、既知の要素のプレースホルダーを表し、未知の組み合わせにおける再結合を可能にする。
• 表現構築中に中間の記号的表現を格納・取得できるように、メモリ拡張を統合する。
• 訓練プロセスでは、正しく合成的一般化に導くようにモデルを誘導するための報酬形状が用いられる。
• この手法はエンドツーエンド微分可能であり、複雑な合成的タスクへスケーラブルに拡張可能である。

実験結果

リサーチクエスチョン

• RQ1 ニューラルモデルは、記号的スロットを備えた解析的表現としてタスクを表現することで、合成的一般化を学習できるか？
• RQ2 Composer-Solverフレームワークは、従来のアプローチと比較して、ゼロショット合成的一般化においてどの程度の性能を発揮するか？
• RQ3 階層的強化学習は、モデルが正しい解析的表現を発見・実行するのをどの程度可能にするか？

主な発見

• モデルは、SCANベンチマークのすべての合成的一般化課題で100%の正確性を達成し、従来手法を上回る。
• 既知の要素の未観測な組み合わせに対しても、効果的に一般化され、強力なゼロショット一般化を示している。
• 階層的強化学習アプローチにより、Composer-Solverシステムの安定的かつ効果的な訓練が可能になった。
• 記号的関数スロットとニューラルモジュールの統合により、解釈可能で一般化可能な推論が可能になった。
• モデルは、解析的表現学習を通じて、合成性の認知的原則を効果的に捉えている。