[論文レビュー] Dynamic Entropies, Long--Range Correlations and Fluctuations in Complex Linear Structures

W. Ebeling, Alexander Neiman+1 more|ArXiv.org|Jul 28, 1995

Elasticity and Wave Propagation被引用数 12

ひとこと要約

本稿は、DNA やテキストなどの記号列における長距離相関およびダイナミカルエントロピーを、シャノンエントロピー、レームペル・ツィーブ圧縮、相関解析を用いて調査する。スケーリング指数および低周波数フーリエ成分が、数百から数千文字にわたる長波長のフラクチュエーションを明らかにし、シャッフル実験により、異なる測定法が異なる長さスケールでの相関を検出していることが示された。

ABSTRACT

We investigate symbolic sequences and in particular information carriers as e.g. books and DNA--strings. First the higher order Shannon entropies are calculated, a characteristic root law is detected. Then the algorithmic entropy is estimated by using Lempel--Ziv compression algorithms. In the third section the correlation function for distant letters, the low frequency Fourier spectrum and the characteristic scaling exponents are calculated. We show that all these measures are able to detect long--range correlations. However, as demonstrated by shuffling experiments, different measures operate on different length scales. The longest correlations found in our analysis comprise a few hundreds or thousands of letters and may be understood as long--wave fluctuations of the composition.

研究の動機と目的

• DNA や文章などの複雑な線形構造におけるダイナミカルエントロピーを分析すること。
• 複数の情報理論的測定法を用いて、記号列における長距離相関を検出し、特徴づけること。
• 大規模なフラクチュエーションが、配列の構成的構造に果たす役割を理解すること。
• さまざまなエントロピーおよび相関測定法が、異なる長さスケールでどのように感度を示すかを比較すること。

提案手法

• 情報含量を定量化し、ルート則スケーリングを検出するために、高次シャノンエントロピーの計算。
• レームペル・ツィーブ圧縮アルゴリズムを用いたアルゴリズム的エントロピーの推定により、系列の複雑さを評価。
• 離れた文字間の相関関数の計算により、長距離依存性を特定。
• 低周波数フーリエスペクトルの分析により、スケーリング行動および長波長フラクチュエーションを検出。
• シャッフル実験を用いて、各測定法のロバストネスおよびスケールに特化した感度を検証。
• スケーリング指数を用いて、相関のべき乗則減衰を特徴づける。

実験結果

リサーチクエスチョン

• RQ1 DNA やテキストなどの記号列における高次シャノンエントロピーのスケーリング行動は何か？
• RQ2 レームペル・ツィーブ圧縮推定値は、長大な線形系列のアルゴリズム的複雑さをどのように反映するか？
• RQ3 離れた文字間の相関関数は、どの程度長距離依存性を明らかにするか？
• RQ4 これらの系列における低周波数スペクトル成分の性質は何か。また、それらは構成的フラクチュエーションとどのように関係するか？
• RQ5 エントロピー、相関、スペクトルといった異なる情報理論的測定法は、どのように異なる長さスケールでの相関を検出するか？

主な発見

• 高次シャノンエントロピーにおいて、特徴的なルート則が観察され、記号列における体系的なスケーリング行動が示された。
• レームペル・ツィーブ圧縮により、アルゴリズム的エントロピーが効果的に推定され、系列の固有の複雑さが反映された。
• 相関関数により、数百年から数千年にわたる長距離相関が明らかになった。
• 低周波数フーリエスペクトルはべき乗則の振る舞いを示し、系列構成における長波長フラクチュエーションと整合的であった。
• シャッフル実験により、各測定法（シャノンエントロピー、圧縮、相関）が異なるスケールで動作することが示された。
• 検出可能な最長の相関は、数百年から数千年にわたるものであり、大規模な構成的フラクチュエーションとして解釈された。