[논문 리뷰] Discrete Chaos

Henri Waelbroeck, Federico Zertuche|arXiv (Cornell University)|1996. 09. 30.

Cellular Automata and Applications인용 수 12

한 줄 요약

이 논문은 이진 상태 공간(기호 역학과 미분형이 같은)을 사용하여 이산 시스템에서 결정론적 난류 이론을 제안하며, 신경망과 세포자동기계에 적용한다. 해밍 거리 기반 시스템은 난류를 나타내지 못하지만, 기억 기능을 갖춘 신경망은 난류를 나타내며, 위상적 전이성과 위상공간 축소를 보여준다; N=49일 때 비대칭 모델은 흡인자 차원 Da=2를 달성한다.

ABSTRACT

We propose a theory of deterministic chaos for discrete systems, based on their representations in binary state spaces $ \Omega $, homeomorphic to the space of symbolic dynamics. This formalism is applied to neural networks and cellular automata; it is found that such systems cannot be viewed as chaotic when one uses the Hamming distance as the metric for the space. On the other hand, neural networks with memory can in principle provide examples of discrete chaos; numerical simulations show that the orbits on the attractor present topological transitivity and a dimensional phase space reduction. We compute this by extending the methodology of Grassberger and Procaccia to $ \Omega $. As an example, we consider an asymmetric neural network model with memory which has an attractor of dimension $D_a = 2$ for $N = 49$.

연구 동기 및 목표

• 기호 역학과 이진 상태 공간을 사용하여 이산 시스템에서 결정론적 난류의 형식 이론을 수립하기.
• 신경망과 세포자동기계가 해밍 거리와 같은 표준 척도를 사용할 때 난류 행동을 나타내는지 조사하기.
• 기억 기능이 있는 시스템이 위상적 전이성과 위상공간 차원 축소를 통해 결정론적 난류 역학을 지원할 수 있는지 판단하기.
• 그라스버거-프로카치아 방법론을 Ω 공간으로 확장하여 흡인자 차원 계산하기.
• 기억 기능이 있는 비대칭 신경망에서 이산 난류의 구체적 사례 제공하기.

제안 방법

• 이산 시스템을 기호 역학과 미분형이 같은 이진 상태 공간 Ω에 표현하여 동역학적 행동 분석하기.
• 신경망과 세포자동기계에 이 형식을 적용하여 해밍 거리 척도 하에서 난류 성질 평가하기.
• 위상적 전이성과 위상공간 차원 축소를 이산 시스템에서 난류 식별 기준으로 사용하기.
• 그라스버거-프로카치아 알고리즘을 Ω 공간으로 확장하여 흡인자 차원 Da 계산하기.
• 기억 기능이 있는 비대칭 신경망 모델링하여 장기적 동역학 시뮬레이션 및 흡인자 성질 계산하기.
• 확장된 방법론을 사용하여 N=49일 때 흡인자 차원 Da를 계산하여 Da=2를 도출하기.

실험 결과

연구 질문

• RQ1 해밍 거리를 척도로 사용할 때, 신경망과 세포자동기계와 같은 이산 시스템이 난류로 분류될 수 있는가?
• RQ2 기억 기능이 있는 시스템은 위상적 전이성과 위상공간 축소를 보이며, 결정론적 난류를 나타내는가?
• RQ3 확장된 그라스버거-프로카치아 방법을 사용하여 이진 상태 공간 Ω에서 흡인자 차원 Da를 계산할 수 있는가?
• RQ4 기억 기능이 있는 비대칭 신경망 모델이 이산 환경에서 난류 역학을 나타낼 수 있는가?
• RQ5 기억 기능이 있는 비대칭 신경망에서 N=49일 때 흡인자 차원 Da의 값은 얼마인가?

주요 결과

• 해밍 거리를 척도로 사용할 경우, 신경망과 세포자동기계는 난류를 나타내지 않는다.
• 기억 기능이 있는 시스템은 위상적 전이성과 위상공간 축소를 통해 원칙적으로 난류 역학을 지지할 수 있다.
• 그라스버거-프로카치아 방법론의 확장된 형태를 사용하여 Ω 공간에서 흡인자 차원 Da를 계산할 수 있다.
• 기억 기능이 있는 비대칭 신경망과 N=49일 때 흡인자 차원은 Da=2로 확인된다.
• 시스템은 차원 축소를 통해 위상공간을 압축함으로써 복잡하지만 제약된 흡인자 구조를 나타낸다.
• 수치 시뮬레이션은 위상적 및 차원 기준을 통해 기억 기능이 있는 신경망에서 난류 행동의 존재를 확인한다.