[論文レビュー] A Model for Auto-Programming for General Purposes

Juyang Weng|arXiv (Cornell University)|Oct 12, 2018

Computability, Logic, AI Algorithms参考文献 80被引用数 4

ひとこと要約

本論文では、教師からの継続的で段階的かつ誤りのない学習を通じて、チューリングマシンに類似した行動を自律的に習得・精錬することで、一般目的の自動プログラミングを学習するニューラルネットワークモデルGENISAMAを提案する。従来の記号的システムとは異なり、GENISAMAは固定された記号ではなく、接地された発生的パターンを用いるため、自己組織化され、新しい環境に適応し、リソース制約下でも最適なパフォーマンスを達成でき、Church-Turing仮説を自動プログラミングにまで拡張する。

ABSTRACT

The Universal Turing Machine (TM) is a model for VonNeumann computers --- general-purpose computers. A human brain can inside-skull-automatically learn a universal TM so that he acts as a general-purpose computer and writes a computer program for any practical purposes. It is unknown whether a machine can accomplish the same. This theoretical work shows how the Developmental Network (DN) can accomplish this. Unlike a traditional TM, the TM learned by DN is a super TM --- Grounded, Emergent, Natural, Incremental, Skulled, Attentive, Motivated, and Abstractive (GENISAMA). A DN is free of any central controller (e.g., Master Map, convolution, or error back-propagation). Its learning from a teacher TM is one transition observation at a time, immediate, and error-free until all its neurons have been initialized by early observed teacher transitions. From that point on, the DN is no longer error-free but is always optimal at every time instance in the sense of maximal likelihood, conditioned on its limited computational resources and the learning experience. This letter also extends the Church-Turing thesis to automatic programming for general purposes and sketchily proved it.

研究の動機と目的

• 機械が一般目的の自動プログラミングを学習できるために必要な最小限のメカニズムの特定、生物学的脳を模倣すること。
• 動的で現実世界の入力を扱う際、事前にプログラミングされた記号集合がなければ機能しない記号的チューリングマシンの限界を克服すること。
• 中央制御装置や誤差逆伝播法を用いずに、教師の遷移をリアルタイムで学習するニューラルネットワークアーキテクチャの開発。
• 発達的で自己組織化されるシステムを通じて、自動プログラミングを含むChurch-Turing仮説の拡張。
• タスクに依存しない発達プログラム（DP）とタスクに依存するパターンベースの学習を用いて、自然と育成の相互作用がどのように長期間にわたる認知発達を支えるかのモデル化。

提案手法

• モデルは、教師チューリングマシンからの1つの遷移を1回ずつ学習する発達的ネットワーク（DN）を用い、誤りなしに段階的にニューロンを初期化する。
• 記号的入力を、感覚入力から生じる自然なパターン（例：画像パッチ）に置き換え、現実世界のデータに接地する。
• システムは、局所的誤差と平均シナプス分散の比から導かれるノイズ信号に基づいて、シナプスが成長または縮小する自己ワイヤリング機構を採用する。この機構はシナプトジェニック要因でモデル化される。
• 動機付けは2つの経路で実現される：(a) セロトニンやドーパミンなどの神経調節物質が関与する痛み／快楽の信号が、学習速度と運動出力を調整する；(b) シナプスの維持が、好奇心を促進し、物体／出来事の分離を促進する。
• 制御機構は、入力のサブセット（例：関連する語や物体）を動的に選択可能な注意を向けるエージェントFA（Attentive Agent FA）であり、記号的解析なしに選択的注意を可能にする。
• モデルは、感覚（X）と運動（Z）のバンクの間を中間表現（Y）で双方向に接続し、X、Y、Zに階層的なサブ領域を設け、出産後の適応を可能にする。

実験結果

リサーチクエスチョン

• RQ1 記号的プログラミングや中央制御装置なしに、ニューラルネットワークが一般目的の自動プログラミングを学習できるか？
• RQ2 観察された遷移から、段階的かつ誤りのない形でユニバーサルチューリングマシンの動作を学習できるか？
• RQ3 どのようなメカニズムが、抽象的計算を任意の記号ではなく、現実世界の感覚パターンに接地できるか？
• RQ4 動機付けと注意を生物学的にモデル化することで、長期間にわたる自己指向の学習と抽象化を支える仕組みは何か？
• RQ5 自然（発達プログラム）と育成（経験）は、自己組織化システムにおいてどのように相互作用し、一般目的のプログラミングを可能にするか？

主な発見

• 初期のニューロン初期化段階で誤りのない学習が達成され、以降は計算制約下でも各時刻で最適な状態を維持し、尤度を最大化する。
• 任意のチューリングマシン、包括的にユニバーサルマシンの制御は、動的入力選択と注意を可能にする、注意を向けるエージェントFAとして形式的に証明可能である。
• GENISAMA TMsは、記号的TMs、記号的マシン、あるいは先行するニューラルネットワークとは異なり、一般目的の自動プログラミングを実現する。これは表Vで確認された。
• 事前に定義された記号がなくても、複雑なパターン（例：自動車の標識、語彙）の表現と操作を自然に学習でき、再プログラミングなしに新しい環境に適応可能である。
• 誤差の新規性に基づいてシナプス強度を調整するシナプトジェニック要因を用いることで、生涯にわたる学習が可能となり、物体／出来事の分離と好奇心駆動型探索を促進する。
• 発達プログラム（DP）はタスクに依存せず、ボディに依存するが、学習された知識は環境とDNとの相互作用から生じるため、自然と育成の明確な分離が示された。