[논문 리뷰] Implementing Turing Machines in Dynamic Field Architectures

Peter beim Graben, Roland Potthast|arXiv (Cornell University)|2012. 04. 24.

Cellular Automata and Applications참고 문헌 34인용 수 6

한 줄 요약

이 논문은 동적 장 이론(DFT)에서의 기호적 계산 문제를 해결하기 위해 동적 장 오토마타(DFAs)를 제안한다. 이는 단위 정사각형 위에서 직사각형 지지역을 가진 균일한 확률밀도함수(p.d.f.)의 진화를 통해 튜링 기계 계산을 표현함으로써 이루어진다. 포브니우스-페르로니 방정식을 사용하여 기능적 역학을 모델링하고, 저자들은 이러한 p.d.f.가 비선형 동적 오토마타(NDA) 역학 하에서 유지됨을 증명하여, 무작위의 초기 미세상태에 의존하지 않고 맥락적으로 부상하는 거시상태를 통한 기호적 계산이 가능하다.

ABSTRACT

Cognitive computation such as e.g. language processing, is conventionally regarded as Turing computation, and Turing machines can be uniquely implemented as nonlinear dynamical systems using generalized shifts and subsequent Gödel encoding of the symbolic repertoire. The resulting nonlinear dynamical automata (NDA) are piecewise affine-linear maps acting on the unit square that is partitioned into rectangular domains. Iterating a single point, i.e. a microstate, by the dynamics yields a trajectory of, in principle, infinitely many points scattered through phase space. Therefore, the NDAs microstate dynamics does not necessarily terminate in contrast to its counterpart, the symbolic dynamics obtained from the rectangular partition. In order to regain the proper symbolic interpretation, one has to prepare ensembles of randomly distributed microstates with rectangular supports. Only the resulting macrostate evolution corresponds then to the original Turing machine computation. However, the introduction of random initial conditions into a deterministic dynamics is not really satisfactory. As a possible solution for this problem we suggest a change of perspective. Instead of looking at point dynamics in phase space, we consider functional dynamics of probability distributions functions (p.d.f.s) over phase space. This is generally described by a Frobenius-Perron integral transformation that can be regarded as a neural field equation over the unit square as feature space of a dynamic field theory (DFT). Solving the Frobenius-Perron equation, yields that uniform p.d.f.s with rectangular support are mapped onto uniform p.d.f.s with rectangular support, again. Thus, the symbolically meaningful NDA macrostate dynamics becomes represented by iterated function dynamics in DFT; hence we call the resulting representation dynamic field automata.

연구 동기 및 목표

• 비선형 동적 오토마타(NDA)에서 위상공간 내 점 역학을 통한 기호적 계산이 원칙적인 종료 조건이 없고 임의의 무작위 초기 조건을 필요로 하므로, 이러한 해석 문제를 해결하기 위해.
• 기호적 계산(Turing 기계)과 동적 장 이론(DFT)을 통합하기 위해, 미세상태 점 역학에서 거시상태 기능적 역학으로의 전환을 통해.
• 기호적 계산이 비선형 동적 오토마타에서 포브니우스-페르로니 연산자 하에서 직사각형 지지역을 가진 균일한 p.d.f.의 진화로부터 유도되는 수학적으로 엄밀한 프레임워크를 구축하기 위해.
• 오직 균일한 p.d.f.와 직사각형 지지역만이 물리적이고 기호적으로 의미 있는 거시상태 역학을 유지하므로, 기능적 부상에 대한 조건적 맥락을 정의하기 위해.
• 언어 처리 또는 베이지안 추론과 같은 인지 작업을 위한 더 넓은 동적 장 아키텍처에 기호적 계산을 통합하기 위한 기반을 제공하기 위해.

제안 방법

• 기호적 상태를 단위 정사각형 위의 조각별 애프린-선형 사상으로 매핑함으로써, 일반화된 이동과 고델 코딩을 사용하여 튜링 기계를 비선형 동적 오토마타(NDA)로 표현한다.
• 위상공간에서 확률밀도함수(p.d.f.)의 진화를 포브니우스-페르로니 적분 방정식을 사용하여 모델링하여, 결정론적 역학 하에서 분포의 시간 진화를 기술한다.
• 균일한 p.d.f.와 직사각형 지지역을 기호적 거시상태 표현으로 집중적으로 다루며, 최대 엔트로피와 해석 가능성 보장을 위해.
• 포브니우스-페르로니 연산자가 균일한 p.d.f.와 직사각형 지지역을 다른 균일한 p.d.f.와 직사각형 지지역으로 매핑함을 증명하여, 반복 과정 동안 기호적 구조가 유지됨을 보장한다.
• DFA의 신경장 역학을 시뮬레이션하기 위해, 특정 커널(Eq. 28)을 갖는 시간 이산화된 아마리 방정식(Eq. 27)을 유도하여 수치적 구현 가능성을 확보한다.
• 결과로 도출된 동적 장 오토마타(DFA)를 기능적 역학 시스템으로 사용하여, 기호적 계산이 미세상태가 아닌 거시상태의 진화로부터 부상함을 보장한다.

실험 결과

연구 질문

• RQ1 무작위의 초기 조건에 의존하지 않고, 연속적이고 상태 및 시간이 연속적인 동적 시스템에서 튜링 기계의 기호적 계산을 일관되게 표현할 수 있는가?
• RQ2 비선형 동적 오토마타의 위상공간에서 확률분포의 기능적 역학으로부터 튜링 기계의 기호적 역학을 복원할 수 있는가?
• RQ3 비선형 동적 오토마타에서 포브니우스-페르로니 진화 하에서 어떤 확률밀도함수의 클래스가 기호적 해석 가능성을 유지하는가?
• RQ4 어떤 조건에서 동적 장 프레임워크 내에서 확률분포의 역학으로부터 기호적 계산이 부상하는가? 그리고 이러한 부상의 조건은 무엇인가?
• RQ5 동적 장 오토마타는 어떻게 확장되어 병렬 기호적 계산을 지원하고 더 큰 인지 아키텍처에 통합될 수 있는가?

주요 결과

• 포브니우스-페르로니 연산자는 균일한 확률밀도함수와 직사각형 지지역을 다른 균일한 p.d.f.와 직사각형 지지역으로 매핑하며, 반복 과정 동안 기호적 구조를 유지한다.
• 이 결과는 튜링 기계에서의 기호적 계산이 동적 장 이론 프레임워크 내에서 거시상태의 진화로 일관되게 표현될 수 있음을 보장한다.
• 균일한 p.d.f.와 직사각형 지지역으로의 제한은 기호적 계산의 부상에 대한 조건적 맥락을 정의하며, 통계역학에서의 열역학적 부상과 유사하다.
• 제안된 동적 장 오토마타(DFA)는 직접적으로 거시상태 분포를 다루므로 무작위의 초기 미세상태가 필요 없으며, 전통적인 NDA 구현의 핵심적인 해석적 결함을 해결한다.
• 커널(Eq. 28)을 갖는 시간 이산화된 아마리 방정식(Eq. 27)은 수치적으로 다룰 수 있고 생물학적으로 타당한 모델을 제공하여 DFA 역학을 시뮬레이션할 수 있다.
• 이 프레임워크는 다중 모odal 또는 겹치는 지지역을 가진 p.d.f.를 통해 병렬 기호 처리로의 확장 가능성을 제공하며, 언어 처리나 베이지안 추론과 같은 인지 작업을 위한 더 큰 동적 장 아키텍처에 통합 가능하다.