[論文レビュー] Developmental Network Two, Its Optimality, and Emergent Turing Machines

Juyang Weng, Zejia Zheng+1 more|arXiv (Cornell University)|Aug 4, 2022

Advanced Memory and Neural Computing被引用数 8

ひとこと要約

本論文は、内部発火パターンの最尤推定を用いて段階的でタスク非特異的かつ自己組織的表現学習を可能にする、新規なニューラルネットワークアーキテクチャ「Developmental Network Two (DN-2)」を紹介する。DN-1の正確な入出力マッピングを放棄することで、76.9%の発話音素認識誤差率の低減（平均で5.92%から1.37%に）を達成し、流動的で自己組織的階層形成を通じて、顕著なチューリングマシン能力を示した。

ABSTRACT

Strong AI requires the learning engine to be task non-specific and to automatically construct a dynamic hierarchy of internal features. By hierarchy, we mean, e.g., short road edges and short bush edges amount to intermediate features of landmarks; but intermediate features from tree shadows are distractors that must be disregarded by the high-level landmark concept. By dynamic, we mean the automatic selection of features while disregarding distractors is not static, but instead based on dynamic statistics (e.g. because of the instability of shadows in the context of landmark). By internal features, we mean that they are not only sensory, but also motor, so that context from motor (state) integrates with sensory inputs to become a context-based logic machine. We present why strong AI is necessary for any practical AI systems that work reliably in the real world. We then present a new generation of Developmental Networks 2 (DN-2). With many new novelties beyond DN-1, the most important novelty of DN-2 is that the inhibition area of each internal neuron is neuron-specific and dynamic. This enables DN-2 to automatically construct an internal hierarchy that is fluid, whose number of areas is not static as in DN-1. To optimally use the limited resource available, we establish that DN-2 is optimal in terms of maximum likelihood, under the condition of limited learning experience and limited resources. We also present how DN-2 can learn an emergent Universal Turing Machine (UTM). Together with the optimality, we present the optimal UTM. Experiments for real-world vision-based navigation, maze planning, and audition used DN-2. They successfully showed that DN-2 is for general purposes using natural and synthetic inputs. Their automatically constructed internal representation focuses on important features while being invariant to distractors and other irrelevant context-concepts.

研究の動機と目的

• 自然で制御されていない環境における弱いAIの脆さを克服し、強力なAIに類似した一般化能力を持つシステムを開発すること。
• タスク固有の損失関数を一切使用せず、感覚的および運動的経験のみを用いて、生涯にわたる段階的学習を可能にし、深刻な忘却を回避すること。
• 頭蓋骨封印された、リソース制限のある条件下で、理論的根拠に基づく最適な学習メカニズムを確立すること。
• 人間の発達的学習を模倣する、流動的で自己組織的階層としての内部表現の形成を通じて、顕著な汎用計算能力を示すこと。
• 教師なしの下位指向および上位指向の神経ダイナミクスによって、手作業で設計された記号的表現に代わる、根拠に基づき、耐障害性があり自己組織的な内部特徴を生成すること。

提案手法

• DN-2は、頭蓋骨封印された段階的学習フレームワークを採用しており、各感覚的・運動的入力ペアは一度処理され、即座に破棄され、バッチ再トレーニングを回避する。
• 固定されたハイパーパrameterのもとで、確率的定式化を用いて、観測された感覚的および運動的発火パターンの尤度を最大化するように内部パラメータを最適化する。
• タイプ100およびタイプ101の2種類のYニューロンが、複雑な内部特徴を表すために安定した結合発火パターンを形成し、個々のニューロンへの依存性を低減する。
• 下位指向および上位指向の接続により、人間が定義した概念なしに、動的で表現の精錬が可能となり、顕著な抽象化が可能になる。
• 学習経験に応じて時間とともにニューロンが増加し、空間的分布は頭蓋骨空間内で中心から外縁へと発展的に変化する。
• 理論的分析により、1ステップあたり線形時間計算量であることが証明され、タスクの複雑さやネットワークサイズに関係なくリアルタイム性能を確保する。

実験結果

リサーチクエスチョン

• RQ1 神経ネットワークは、自然な感覚的および運動的入力のみを用いて、段階的に学習し、深刻な忘却を回避しながら知識を保持できるか？
• RQ2 顕著な表現が、記号的設計なしに、流動的で階層的な構造を形成し、一般化および汎用計算を可能にするか？
• RQ3 段階的学習下で内部発火パターンの最尤最適化が、正確なパターンマッチングと比較して優れた一般化をもたらすか？
• RQ4 このようなシステムは、自己組織的で内部表現のダイナミクスによってチューリング完全性を達成できるか？
• RQ5 そのようなアーキテクチャは、ステップごとの計算コストが一定であるため、リアルタイム埋め込みデプロイメントに適しているか？

主な発見

• DN-2は、再代入および不一致テストセットの両方で、発話音素認識誤差率をDN-1の5.92%から1.37%にまで76.9%の相対的改善を達成した。
• 最も困難な部分不一致テストでは、誤差率がDN-1の10.62%からDN-2の1.53%に低下し、未観測データへの強力な一般化能力を示した。
• 可視化により、タイプ100およびタイプ101のYニューロンの結合発火が、Y領域におけるより安定的で頑健な内部表現を形成していることが明らかになった。
• 沈黙のモータニューロン（ニューロン45）は、タイプ101ニューロンの数がDN-2で減少した。これはタイプ100ニューロンが体積ベースの区別に貢献し、冗長性が低減されたためである。
• DN-2におけるYニューロンは中心から外縁へと成長し、学習歴および経験の多様性を反映した不均一だが適応的な空間的分布を形成した。
• ネットワークの時間計算量は1ステップあたり線形であり、大規模で成長し続けるネットワークでも、時間の経過に伴う性能劣化なしにリアルタイム性能を維持した。