[論文レビュー] The Origins of Computational Mechanics: A Brief Intellectual History and Several Clarifications

James P. Crutchfield|arXiv (Cornell University)|Oct 18, 2017

Complex Systems and Time Series Analysis参考文献 98被引用数 3

ひとこと要約

本論文は、1970年代から1980年代にかけてのカオス的ダイナミクスと時系列解析に関する研究から、計算力学の知的起源をたどり、因果的状態とεマシンを、複雑系における構造と内在的計算を定量化するための標準的かつ最小の表現として確立している。長年の批判は、歴史的文脈を明確にすることで解消され、現代の手法が初期のアプローチを凌駕していることが示され、計算力学が複雑系の計算的性質を理解するための堅固で基盤的であるフレームワークとして確立された。

ABSTRACT

The principle goal of computational mechanics is to define pattern and structure so that the organization of complex systems can be detected and quantified. Computational mechanics developed from efforts in the 1970s and early 1980s to identify strange attractors as the mechanism driving weak fluid turbulence via the method of reconstructing attractor geometry from measurement time series and in the mid-1980s to estimate equations of motion directly from complex time series. In providing a mathematical and operational definition of structure it addressed weaknesses of these early approaches to discovering patterns in natural systems. Since then, computational mechanics has led to a range of results from theoretical physics and nonlinear mathematics to diverse applications---from closed-form analysis of Markov and non-Markov stochastic processes that are ergodic or nonergodic and their measures of information and intrinsic computation to complex materials and deterministic chaos and intelligence in Maxwellian demons to quantum compression of classical processes and the evolution of computation and language. This brief review clarifies several misunderstandings and addresses concerns recently raised regarding early works in the field (1980s). We show that misguided evaluations of the contributions of computational mechanics are groundless and stem from a lack of familiarity with its basic goals and from a failure to consider its historical context. For all practical purposes, its modern methods and results largely supersede the early works. This not only renders recent criticism moot and shows the solid ground on which computational mechanics stands but, most importantly, shows the significant progress achieved over three decades and points to the many intriguing and outstanding challenges in understanding the computational nature of complex dynamic systems.

研究の動機と目的

• 1970年代から1980年代にかけての流体乱流およびカオス的ダイナミクスの研究にさかのぼる計算力学の知的系譜をたどること。
• 特にエントロピー収束と過剰エントロピーの定義に関して、長年の誤解を解き明かすこと。
• 現代の計算力学の手法と結果が、初期のアプローチをすでに凌駕しており、最近の批判が陳腐化していることを示すこと。
• εマシンが複雑なプロセスの唯一の最小予測子としての理論的・実用的意義を再確認すること。
• 構造・組織・内在的計算の定量化というその核心的目標が、一貫して成功裏に達成されてきたことから、分野の基盤的立場を擁護すること。

提案手法

• 本論文は、計算力学の主要な発展を歴史的分析によって扱い、流体乱流の吸引子の再構成から因果的状態の定義へと至るプロセスに焦点を当てる。
• εマシンは、プロセスの標準的かつ最小の表現として導入され、過去の履歴を、将来の予測が同一になる集合に分割することで得られる。
• この手法は、将来の結果に対する予測分布が同一である過去の軌道の同値類として因果的状態を定義することに依存する。
• アルゴリズム的情報理論とエントロピー率や過剰エントロピーなどの情報理論的測度を用いて、確率的過程における記憶と相関を定量化する。
• 正規化過剰エントロピーを用いてエントロピー推定の収束を研究するスケーリングプロキシとしての役割を果たし、相転移理論と類似性を示す。
• 最近の主張を、オリジナルの文献と対比させ、分野の全体的進化の文脈に早期の研究を位置づけることで批判する。

実験結果

リサーチクエスチョン

• RQ1 計算力学は、流体乱流の吸引子の再構成と時系列からの運動方程式推定に関する初期の研究から、どのように発展したのであろうか？
• RQ2 なぜ最近の計算力学の基盤的貢献に対する批判は、根拠がなく歴史的に誤解を含んでいるとされるのであろうか？
• RQ3 εマシンは、複雑系の最小かつ最適な予測子を提供する役割を果たすとは何か？ そして、それがシステムの内在的計算をどのように定義するのであろうか？
• RQ4 正規化過剰エントロピーは、エントロピー収束のスケーリングツールとしてどのように機能するのか？ そして、原始的な過剰エントロピーとは何が異なるのか？
• RQ5 現代の計算力学の手法が、初期のアプローチおよびそれらに対する批判をどの程度まで取り入れ、陳腐化させたのであろうか？

主な発見

• εマシンは、プロセスの因果的構造を一意かつ最小かつ最適に表現し、過去にどれほど記憶されているか、それがどのように組織化され、将来の予測にどのように使われるかを直接的に明らかにする、内在的計算をエンコードするものである。
• 計算力学の主たる貢献である因果的状態による構造の定義は、1980年代に確立され、統計力学から量子情報に至る多様な分野で検証されている。
• 正規化過剰エントロピーは、誤解の対象とされるのではなく、真の過剰エントロピーとの明確な数学的関係を有する、正当化されたスケーリングプロキシである。
• 最近の批判は、オリジナルの文献の誤読、現代の仮定を初期研究に投影すること、そして分野の30年間にわたる進化を無視することに起因していることが示された。
• 分野は著しく成熟した：有限および無限状態のマルコフ過程、非マルコフ過程、情報測度に関する現代の結果は、初期の手法をすでに包含・上回っている。
• 生データから自動的に理論を構築するという目標——「人工科学」——は、中心的かつ未解決の課題のままであり、計算力学の継続的意義を示している。