[논문 리뷰] A Model for Auto-Programming for General Purposes

Juyang Weng|arXiv (Cornell University)|2018. 10. 12.

Computability, Logic, AI Algorithms참고 문헌 80인용 수 4

한 줄 요약

이 논문은 교사로부터 수명 주기적, 점진적이고 오류 없는 학습을 통해 튜링 기계 유사 행동을 자율적으로 획득하고 개선하는 데 목적이 있는 신경망 모델인 GENISAMA를 제안한다. 기존의 상징적 시스템과 달리, GENISAMA는 고정된 기호 대신 몸에 뿌리를 내린, 부상하는 패턴을 사용하여 자율적으로 조직화하고 새로운 환경에 적응하며 자원 제약 조건 하에서도 최적 성능을 달성할 수 있다. 이는 자동 프로그래밍을 포함한 체르치-튜링 논법을 확장한다.

ABSTRACT

The Universal Turing Machine (TM) is a model for VonNeumann computers --- general-purpose computers. A human brain can inside-skull-automatically learn a universal TM so that he acts as a general-purpose computer and writes a computer program for any practical purposes. It is unknown whether a machine can accomplish the same. This theoretical work shows how the Developmental Network (DN) can accomplish this. Unlike a traditional TM, the TM learned by DN is a super TM --- Grounded, Emergent, Natural, Incremental, Skulled, Attentive, Motivated, and Abstractive (GENISAMA). A DN is free of any central controller (e.g., Master Map, convolution, or error back-propagation). Its learning from a teacher TM is one transition observation at a time, immediate, and error-free until all its neurons have been initialized by early observed teacher transitions. From that point on, the DN is no longer error-free but is always optimal at every time instance in the sense of maximal likelihood, conditioned on its limited computational resources and the learning experience. This letter also extends the Church-Turing thesis to automatic programming for general purposes and sketchily proved it.

연구 동기 및 목표

• 기계가 일반 목적을 위한 자동 프로그래밍을 학습할 수 있도록 하는 최소한의 메커니즘의 집합을 규명하는 것.
• 동적이고 실세계의 입력을 처리할 때 사전에 프로그래밍된 기호 집합이 없는 상징적 튜링 기계의 한계를 해결하는 것.
• 중앙 제어장치나 역전파 없이도 실시간으로 교사의 전이를 통해 학습하는 신경망 아키텍처를 개발하는 것.
• 발달적이고 자율적으로 조직되는 시스템을 통해 자동 프로그래밍을 포함한 체르치-튜링 논법을 확장하는 것.
• 작업에 특화되지 않은 발달 프로그램(DP)과 작업에 특화된 패턴 기반 학습을 통해 자연과 양육이 수명 주기적 인지 발달에서 어떻게 상호작용하는지 모델링하는 것.

제안 방법

• 모델는 교사 튜링 기계로부터 한 번에 한 전이를 학습하는 발달 네트워크(DN)를 사용하며, 오류 없이 점진적으로 뉴런을 초기화하여 완전한 초기화에 도달한다.
• 기호 입력을 감각 입력에서 유래하는 자연스러운 패턴(예: 이미지 조각)으로 대체함으로써 실세계 데이터에 기반한 기반을 확보한다.
• 신경 결합의 성장 또는 감소를 통해 스스로 연결되는 메커니즘을 활용하며, 국소 오차와 평균 시냅스 편차의 비율에서 유도된 낯선 신호에 기반한다. 이는 시냅스 형성 인자로 모델링된다.
• 동기 부여는 두 가지 경로를 통해 이루어지며: (a) 세로토닌과 도파민 같은 신경조절물질을 통해 학습률과 운동 출력을 조절하는 통증/기쁨 신호; (b) 자율적 탐색과 물체/사건 분할을 이끄는 시냅스 유지 기반의 호기심.
• 제어 메커니즘은 주의 집중 에이전트 FA이며, 입력의 부분 집합(예: 관련 있는 단어나 물체)을 동적으로 선택함으로써 기호 해석 없이도 선택적 주의를 가능하게 한다.
• 모델는 감각(X)과 운동(Z) 은행 사이를 가로지르는 은닉 표현(Y)을 통해 이원적 브릿지로 구성되며, X, Y, Z에 있는 계층적 하位 영역들이 출생 후 적응한다.

실험 결과

연구 질문

• RQ1 기호 프로그래밍이나 중심 제어 없이도 신경망이 일반 목적을 위한 자동 프로그래밍을 학습할 수 있는가?
• RQ2 관찰된 전이로부터 어떤 기계가 점진적이고 오류 없는 방식으로 보편 튜링 기계 행동을 학습할 수 있는가?
• RQ3 어떤 메커니즘이 추상적 계산을 임의의 기호 대신 실세계 감각 패턴에 기반하여 기반화할 수 있게 하는가?
• RQ4 생물학적으로 모델링된 동기 부여와 주의가 생명 주기적, 자율적 학습과 추상화를 지원하는 데 어떻게 작용하는가?
• RQ5 자연(발달 프로그램)과 양육(경험)이 자율적으로 조직되는 시스템에서 어떻게 상호작용하여 일반 목적의 프로그래밍을 가능하게 하는가?

주요 결과

• 뉴런 초기화 단계에서 오류 없는 학습을 달성하며, 이후 모든 시간 단계에서 계산 제약 조건 하에서도 최적 상태를 유지하며 가능도를 최대화한다.
• 모든 튜링 기계, 보편 튜링 기계까지의 제어는 공식적으로 주의 집중 에이전트 FA로 증명되며, 이는 동적으로 입력을 선택하고 주의를 집중시킬 수 있게 한다.
• GENISAMA TMs는 표준 기호 TMs, 기호 기반 기계, 이전의 신경망들과 달리 일반 목적을 위한 자동 프로그래밍이 가능하며, 표 V로 확인되었다.
• 사전 정의된 기호 없이도 복잡한 패턴(예: 차량 번호판, 단어)을 자연스럽게 표현하고 조작할 수 있으며, 재프로그래밍 없이도 새로운 환경에 적응할 수 있다.
• 오류의 낯선 정도에 기반한 시냅스 형성 인자를 통해 수명 주기적 학습을 지원하며, 이는 물체/사건 분할과 호기심 기반 탐색을 가능하게 한다.
• 발달 프로그램(DP)은 작업에 특화되지 않으며 신체에 특화되어 있으며, 학습된 지식는 환경과 DN 간의 상호작용에서 부상한다. 이는 자연과 양육의 명확한 분리를 보여준다.