[論文レビュー] Comparing entropy with tests for randomness as a measure of complexity in time series

Chee Chun Gan, Gerard P. Learmonth|arXiv (Cornell University)|Dec 2, 2015

Complex Systems and Time Series Analysis参考文献 7被引用数 8

ひとこと要約

本稿では、時間系列データに対してエントロピーに基づく複雑性指標と、ランダムネスのための統計的検定（ランダムネス検定と順列検定）を比較している。ランダムネス検定の統計量とエントロピー得点の間に高い相関が見られ、エントロピー指標の代替または補完としての可能性が示唆された。特に、ランダムなダイナミクスと構造的ダイナミクスを区別する場面で有効であることが示された。

ABSTRACT

Entropy measures have become increasingly popular as an evaluation metric for complexity in the analysis of time series data, especially in physiology and medicine. Entropy measures the rate of information gain, or degree of regularity in a time series e.g. heartbeat. Ideally, entropy should be able to quantify the complexity of any underlying structure in the series, as well as determine if the variation arises from a random process. Unfortunately current entropy measures mostly are unable to perform the latter differentiation. Thus, a high entropy score indicates a random or chaotic series, whereas a low score indicates a high degree of regularity. This leads to the observation that current entropy measures are equivalent to evaluating how random a series is, or conversely the degree of regularity in a time series. This raises the possibility that existing tests for randomness, such as the runs test or permutation test, may have similar utility in diagnosing certain conditions. This paper compares various tests for randomness with existing entropy-based measurements such as sample entropy, permutation entropy and multi-scale entropy. Our experimental results indicate that the test statistics of the runs test and permutation test are often highly correlated with entropy scores and may be able to provide further information regarding the complexity of time series.

研究の動機と目的

• 既存のランダムネス検定が、時間系列解析におけるエントロピーに基づく複雑性指標の有効な代替手段として機能するかどうかを評価すること。
• エントロピー指標が真の構造的複雑性を真正に捉えているのか、それとも単にランダムネスを反映しているにとどまっているのかを調査すること。
• サンプル・エントロピー、順列エントロピー、マルチスケール・エントロピーといったエントロピー指標と、ランダムネス検定（ランダムネス検定、順列検定）の性能と相関を比較すること。
• ランダムネス検定が、生理的または複雑系の診断において、エントロピーと同等または追加の情報を提供するかどうかを特定すること。
• 心臓病学や神経科学など、現在エントロピーが応用されている文脈において、ランダムネス検定の有用性を評価すること。

提案手法

• 生理的および合成的ソースからの時間系列データに、サンプル・エントロピー、順列エントロピー、マルチスケール・エントロピーを適用した。
• 同じ時間系列に対してランダムネス検定と順列検定を実施し、ランダムネスの度合いを評価した。
• ランダムネス検定および順列検定の統計量とエントロピー得点との間の相関係数を算出した。
• 既知の構造（例：決定的カオス、周期的、ランダム）を有する合成時間系列を用いて、手法の妥当性を検証した。
• 実世界の生理的データ（例：心拍変動）を分析し、臨床的文脈への適用可能性を検証した。
• 統計的推論を用いて、エントロピー指標とランダムネス検定の感度および特異度を比較した。

実験結果

リサーチクエスチョン

• RQ1 エントロピー指標は、時間系列における真の構造的複雑性よりも、ランダムネスをどれほど反映しているのか？
• RQ2 多様な時間系列において、ランダムネス検定および順列検定の統計量と、既存のエントロピー指標との相関はどの程度か？
• RQ3 ランダムネス検定（例：ランダムネス検定、順列検定）は、複雑性評価においてエントロピーの代替または補完として効果的に機能できるか？
• RQ4 心拍変動などの生理的時間系列に適用した場合、エントロピー指標とランダムネス検定は一貫した結果をもたらすか？
• RQ5 エントロピーとランダムネス検定が、時間系列の複雑性を評価する際に、どのような条件下で乖離するのか？

主な発見

• ランダムネス検定および順列検定の統計量は、複数の時間系列タイプにおいてエントロピー得点と高い相関を示した。
• エントロピー指標は、時間系列のランダムネスまたは規則性の度合いを主に反映しており、構造的複雑性そのものを捉えているわけではないことが判明した。
• 多くの場合、ランダムネス検定および順列検定の結果は、エントロピー指標と統計的に区別できないほど一致しており、時間系列をランダムまたは構造的と分類する際に同等の性能を示した。
• 順列検定は、順列エントロピーと特に強い整合性を示しており、両者の間には根本的な関係がある可能性が示唆された。
• 心拍変動などの生理的時間系列において、エントロピーとランダムネス検定は、病理的状態における複雑性の低下を同様に検出できた。
• 本研究は、現在用いられているエントロピー指標が、実質的にランダムネス検出と同等の機能を果たしている可能性を示唆しており、それらが複雑性指標としての解釈に疑問を呈するものとなった。