[論文レビュー] Extending Landauer's Bound to Arbitrary Computation

David H. Wolpert|arXiv (Cornell University)|Aug 21, 2015

Computability, Logic, AI Algorithms被引用数 2

ひとこと要約

この論文は、ランドアウアーの原理を任意の計算に拡張し、再利用可能なコンピュータにおける最小熱力学的仕事は、物理的実装に依存せず、論理的計算にのみ依存することを示している。ユニバーサル計算の下界を、コルモゴロフ次元、入力文字列のボルン・ベルヌーイ測度、および停止確率の和に k_BT ln(2) を乗じた形で導出しており、熱力学とアルゴリズム的情報理論を結びつけている。

ABSTRACT

Recent analyses have calculated the minimal thermodynamic work required to perform a computation pi when two conditions hold: the output of pi is independent of its input (e.g., as in bit erasure); we use a physical C to implement pi that is specially tailored to the environment of C, i.e., to the precise distribution over C's inputs, P_0. First I extend these analyses to calculate the work required even if the output of pi depends on its input, and even if C is not used with the distribution P_0 it was tailored for. Next I show that if C will be re-used, then the minimal work to run it depends only on the logical computation pi, independent of the physical details of C. This establishes a formal identity between the thermodynamics of (re-usable) computers and theoretical science. I use this identity to prove that the minimal work required to compute a bit string sigma on a general purpose computer rather than a special purpose one, i.e., on a universal Turing machine U, is k_BT ln(2) times the sum of three terms: The Kolmogorov complexity of sigma, log of the Bernoulli measure of the set of strings that compute sigma, and log of the halting probability of U. I also prove that using C with a distribution over environments results in an unavoidable increase in the work required to run the computer, even if it is tailored to the distribution over environments. I end by using these results to relate the free energy flux incident on an organism / robot / biosphere to the maximal amount of computation that the organism / robot / biosphere can do per unit time.

研究の動機と目的

• 不可逆的処理（ビット消去など）を超えて、ランドアウアーの境界を任意の計算に一般化すること。
• 物理的コンピュータが、設計時とは異なる入力分布で使用される場合の熱力学的コストを分析すること。
• 再利用可能なコンピュータにおいて、最小仕事が物理的詳細に依存せず、論理的計算にのみ依存することを確立すること。
• ユニバーサルチューリングマシンの計算における最小仕事の下界を、アルゴリズム的複雑性と停止確率の観点から導出すること。
• 生物的および人工的システムにおける自由エネルギーのフラックスと、それらの最大計算能力との関係を結ぶこと。

提案手法

• 出力が入力に依存する場合や、コンピュータが設計時とは異なる入力分布で使用される場合の、計算の熱力学的分析を、先行研究から拡張する。
• 再利用可能なコンピュータの熱力学と理論科学の間の形式的同一性を用いて、仕事の上限を導出する。
• 特にコルモゴロフ次元とユニバーサルチューリングマシンの停止確率を含む、アルゴリズム的情報理論を適用する。
• ユニバーサルマシン上でビット文字列 σ を計算するための最小仕事は、k_BT ln(2) を、次の3つの項の和に乗じたものとして導出される：σ のコルモゴロフ次元 K(σ)、σ を計算する文字列の集合のボルン・ベルヌーイ測度の対数、およびユニバーサルマシンの停止確率の対数。
• コンピュータが、設計時とは異なる環境の分布に対して使用される場合に生じる、避けられない最小仕事の増加を分析する。
• 導出された境界を用いて、生物圏やロボットにおける、入射する自由エネルギーのフラックスと最大計算スループットとの関係を結ぶ。

実験結果

リサーチクエスチョン

• RQ1 出力が入力に依存し、かつコンピュータが設計時とは異なる入力分布で使用される場合、任意の計算を実行するために必要な最小熱力学的仕事は何か？
• RQ2 物理的コンピュータの再利用性が、物理的実装に依存しない最小仕事に与える影響は何か？
• RQ3 ユニバーサルチューリングマシン上でビット文字列 σ を計算するための最小仕事の下界は何か？ また、それとアルゴリズム的複雑性や停止確率との関係は何か？
• RQ4 コンピュータが、設計時とは異なる環境の分布に対して使用される場合、必要な最小仕事がどのように増加するか？
• RQ5 入射する自由エネルギーのフラックスが与えられたとき、生物圏、生物、またはロボットが単位時間に実行できる最大計算量は何か？

主な発見

• ユニバーサルチューリングマシン上でビット文字列 σ を計算するための最小仕事は、k_BT ln(2) を、σ のコルモゴロフ次元、σ を計算する文字列の集合のボルン・ベルヌーイ測度の対数、およびユニバーサルマシンの停止確率の対数の和に乗じたものに等しい。
• 再利用可能なコンピュータにおいて、最小熱力学的仕事は、物理的詳細に依存せず、実行される論理的計算にのみ依存する。
• コンピュータが、設計時とは異なる環境の分布に対して使用される場合、避けられない最小仕事の増加が生じる。
• 計算の熱力学的コストは、特にユニバーサルチューリングマシンの停止確率を通じて、アルゴリズム的情報理論と根本的に結びついている。
• システムに当たる自由エネルギーのフラックスは、その単位時間あたりに実行できる最大計算量の根本的上限を定める。