[논문 리뷰] Detecting emergent processes in cellular automata with excess information

David Balduzzi|arXiv (Cornell University)|2011. 05. 01.

Cellular Automata and Applications참고 문헌 19인용 수 5

한 줄 요약

이 논문은 셀룰러 오토마타에 대해 확장 가능한 군집화 프레임워크를 제안하며, 초과 정보(ξ)를 최대화함으로써 잠재적인 과정을 식별한다. ξ는 하위계열들보다 더 많은 공동 정보 생성을 측정하는 척도이다. 이는 콘웨이의 생명 게임에서 글라이더 및 기타 복잡한 패턴이 더 군집화된 척도에서 효과적이고 초과 정보가 최대일 때 가장 잘 표현됨을 보여주며, 더 군집화된 해상도에서의 표현이 더 나은 경우에 이를 정의함으로써 기원을 형식화한다.

ABSTRACT

Many natural processes occur over characteristic spatial and temporal scales. This paper presents tools for (i) flexibly and scalably coarse-graining cellular automata and (ii) identifying which coarse-grainings express an automaton's dynamics well, and which express its dynamics badly. We apply the tools to investigate a range of examples in Conway's Game of Life and Hopfield networks and demonstrate that they capture some basic intuitions about emergent processes. Finally, we formalize the notion that a process is emergent if it is better expressed at a coarser granularity.

연구 동기 및 목표

• 스페이스타임 스케일 전반에서 셀룰러 오토마타를 군집화하는 데 있어서도 민첩하고 확장 가능한 방법을 개발하기 위해.
• 하위계열들에 비해 정보 생성을 정량화함으로써 어떤 군집화가 시스템의 동역학을 가장 잘 표현하는지 식별하기 위해.
• 어떤 과정이 더 군집화된 해상도에서 더 잘 표현될 경우에 기원 과정으로 간주하는 개념을 형식화하기 위해.
• 예측 모델링이 아닌 정보 역학에 기반한 모델에 종속되지 않는, 과정 중심의 기원 측정법을 제공하기 위해.

제안 방법

• 군집화는 시공간 사건(시간 t의 세포들)을 단위로 묶으며, 채널과 기초 조건을 통해 시스템의 동역학을 정의한다.
• 효과적 정보(ei)는 시스템의 출력이 입력에 얼마나 선택적으로 의존하는지 측정하여 정보 생성을 측정한다.
• 초과 정보(ξ)는 시스템의 정보와 그 하위계열들의 정보 간의 차이를 측정하여 공동 정보를 포착한다.
• 이 방법은 정규화된 초과 정보를 계산하기 위해 최소 정보 분할(MIP)을 사용하며, 더 단순하고 더 공유 정보가 많은 매크로 알파벳을 선호한다.
• 정규화된 초과 정보를 최대화함으로써 가장 표현력 있는 군집화를 선택하며, 정규화는 더 단순하고 대칭적이며 더 공유 정보가 많은 서술을 선호하도록 유도한다.
• 이 방법은 콘웨이의 생명 게임과 허프리드 네트워크에 적용되어 기원 동역학을 평가한다.

실험 결과

연구 질문

• RQ1 셀룰러 오토마타의 어떤 군집화가 그 기반 동역학을 가장 잘 표현하는가?
• RQ2 군집화가 부분들의 합만을 넘어서 정보 생성 측면에서 더 많은 것을 포괄하는지 정량적으로 측정할 수 있는가?
• RQ3 초과 정보는 복잡한 시스템에서 반복적(지루한)과 공유 정보 기반(흥미로운) 정보 처리를 구분할 수 있는가?
• RQ4 어떤 과정이 가장 세밀한 해상도가 아닌 더 군집화된 척도에서 더 잘 표현될 경우에 기원 과정으로 간주할 수 있는가?
• RQ5 외부 모델에 의존하지 않고도 셀룰러 오토마타에서 가장 표현력 있는 서술 수준을 체계적으로 식별할 수 있는가?

주요 결과

• 초과 정보(ξ)는 콘웨이의 생명 게임에서 글라이더—공유 정보가 많은 동적 구조—와 빈 칸이나 반복적인 패턴을 명확히 구분하며, 이 경우 ξ는 낮다.
• 효과적 정보(ei)와 초과 정보(ξ)가 높은 군집화는 글라이더의 전파와 같은 직관적인 기원 행동과 일치한다.
• 이 방법은 ξ가 인접한 군집화들에 비해 최대가 되는 영역에서 글라이더 궤적을 중심으로 식별하며, 군집화 공간 내에서의 초점이 된다.
• 초과 정보의 정규화는 더 단순한 매크로 알파벳을 선호하며, 이는 여전히 높은 공유 정보 생성 능력을 유지한다. 이는 더 표현력 있고 압축된 서술을 선호한다.
• 이 방법은 군집화 수준에서 새로운 셀룰러 오토마타를 생성하며, 역학적 구조를 유지하고 확장 가능한 분석을 가능하게 한다.
• 이 프레임워크는 확장 가능하고 모델에 종속되지 않으며, 온도나 질량중심과 같은 사전 정의된 매크로 변수가 필요 없이, 허프리드 네트워크와 생명 게임을 포함한 다양한 시스템에 적용 가능하다.