[논문 리뷰] Developmental Network Two, Its Optimality, and Emergent Turing Machines

Juyang Weng, Zejia Zheng외 1명|arXiv (Cornell University)|2022. 08. 04.

Advanced Memory and Neural Computing인용 수 8

한 줄 요약

이 논문은 내부 발화 패턴의 최대우도 최적화를 통해 점진적, 과제 비특화적이고 잠재적인 표현 학습이 가능한 새로운 신경망 아키텍처인 개발망 두 번째(DN-2)를 소개한다. 이전 모델인 DN-1의 정확한 입력-출력 매칭을 버림으로써 DN-2는 5.92%에서 1.37%로 평균 76.9% 감소한 음소 인식 오류율을 달성하며 강건한 일반화 성능을 보이며, 유연하고 자가조직화되는 계층 구조 형성을 통해 잠재적인 튜링 기계 능력을 입증한다.

ABSTRACT

Strong AI requires the learning engine to be task non-specific and to automatically construct a dynamic hierarchy of internal features. By hierarchy, we mean, e.g., short road edges and short bush edges amount to intermediate features of landmarks; but intermediate features from tree shadows are distractors that must be disregarded by the high-level landmark concept. By dynamic, we mean the automatic selection of features while disregarding distractors is not static, but instead based on dynamic statistics (e.g. because of the instability of shadows in the context of landmark). By internal features, we mean that they are not only sensory, but also motor, so that context from motor (state) integrates with sensory inputs to become a context-based logic machine. We present why strong AI is necessary for any practical AI systems that work reliably in the real world. We then present a new generation of Developmental Networks 2 (DN-2). With many new novelties beyond DN-1, the most important novelty of DN-2 is that the inhibition area of each internal neuron is neuron-specific and dynamic. This enables DN-2 to automatically construct an internal hierarchy that is fluid, whose number of areas is not static as in DN-1. To optimally use the limited resource available, we establish that DN-2 is optimal in terms of maximum likelihood, under the condition of limited learning experience and limited resources. We also present how DN-2 can learn an emergent Universal Turing Machine (UTM). Together with the optimality, we present the optimal UTM. Experiments for real-world vision-based navigation, maze planning, and audition used DN-2. They successfully showed that DN-2 is for general purposes using natural and synthetic inputs. Their automatically constructed internal representation focuses on important features while being invariant to distractors and other irrelevant context-concepts.

연구 동기 및 목표

• 자연적이고 통제되지 않은 환경에서 약한 인공지능의 취약성을 극복하기 위해 강한 인공지능에 준하는 일반화 능력을 갖춘 시스템을 개발하기 위해.
• 과제 특화 손실 함수 없이 감각 및 운동 경험만을 사용하여 치명적인 잊음 없이 수명 주기적 점진적 학습을 가능하게 하기 위해.
• 두피가 폐쇄된 조건에서 자원이 제한된 환경에서 최대우도 추정 기반의 이론적으로 탄탄한 최적의 학습 메커니즘을 확립하기 위해.
• 인간의 발달 학습을 모방하는 유연한 계층적 내부 표현 구조를 통해 잠재적인 보편적 계산 능력을 입증하기 위해.
• 수동적 상징 표현을 대체하여 기반화되고 내성적이고 자가조직화되는 내부 특징을 비지도적 상향 및 하향 신경 동역학을 통해 도출하기 위해.

제안 방법

• DN-2는 각 감각-운동 입력 쌍을 한 번만 처리하고 폐기하는 두피가 폐쇄된 점진적 학습 프레임워크를 사용하여 배치 재학습을 방지한다.
• 고정된 초수치를 기반으로 한 확률적 수식을 사용하여 관측된 감각 및 운동 발화 패턴의 가능도를 최대화하는 방식으로 내부 파rameter를 최적화한다.
• 복합적인 내부 특징을 표현하기 위해 안정적인 결합 발화 패턴을 형성하는 두 가지 유형의 Y 뉴런(유형 100 및 유형 101)을 사용하여 개별 뉴런에 대한 의존도를 감소시킨다.
• 하향 및 상향 연결을 통해 표현이 동적으로 정교해지며, 인간이 정의한 개념 없이도 잠재적인 추상화가 가능해진다.
• 학습 경험에 따라 시간이 지남에 따라 뉴런이 증식되며, 공간 분포는 두피 공간에서 중심에서 외곽으로 확장되는 방식으로 시각화된다.
• 이론적 분석을 통해 시간 단위당 선형 시간 복잡도를 입증하여, 과제 복잡도나 네트워크 크기와 관계없이 실시간 성능을 보장한다.

실험 결과

연구 질문

• RQ1 감각 및 운동 입력만을 사용하여 치명적인 잊음 없이 점진적으로 학습하고 지식을 유지할 수 있는가?
• RQ2 잠재적인 표현이 수동적 상징 작업 없이도 자율적으로 유연하고 계층적인 구조를 형성하여 일반화 및 보편적 계산을 지원할 수 있는가?
• RQ3 점진적 학습 하에서 내부 발화 패턴의 최대우도 최적화가 정확한 패턴 매칭보다 뛰어난 일반화 성능을 낼 수 있는가?
• RQ4 자기조직화된 내부 표현 동역학을 통해 이러한 시스템이 튜링 완전성을 달성할 수 있는가?
• RQ5 이러한 아키텍처는 일정한 단계별 계산 비용을 유지하며 실시간 임베디드 배포에 적합한가?

주요 결과

• DN-2는 음소 인식 오류율을 DN-1의 평균 5.92%에서 1.37%로 낮춰 재대체 및 분리 테스트 세트에서 모두 76.9%의 상대적 향상률을 기록했다.
• 가장 도전적인 부분 분리 테스트에서 오류율은 DN-1의 10.62%에서 DN-2의 1.53%로 감소하여 새로운 데이터에 대한 강력한 일반화 능력을 보였다.
• 시각화 결과, 유형 100과 유형 101 Y 뉴런의 병합 발화가 Y 영역에서 더 안정적이고 강건한 내부 표현을 생성하는 것으로 나타났다.
• 침묵을 나타내는 운동 뉴런(뉴런 45)은 DN-2에서 유형 101 뉴런의 수가 줄었으며, 유형 100 뉴런이 부피 기반의 구분에 기여하여 중복을 감소시켰다.
• DN-2의 Y 뉴런은 중심에서 외곽으로 성장하여 학습 역사와 경험의 다양성을 반영하는 비대칭적이지만 적응적인 공간 분포를 형성했다.
• 네트워크의 시간 복잡도는 시간 단위당 선형이므로, 크기가 커지고 증가하는 네트워크에서도 실시간 성능이 유지되며 시간이 지남에 따라 성능 저하가 없다.