[論文レビュー] Revealing Relationships among Relevant Climate Variables with Information Theory

Kevin H. Knuth, Anthony Gotera+4 more|arXiv (Cornell University)|Nov 19, 2013

Forecasting Techniques and Applications参考文献 15被引用数 15

ひとこと要約

本稿では、最適なビニングとディリクレサンプリングを用いた情報理論的枠組みを提案し、気候データからの相互情報量およびトランスファーエントロピーの推定に加え、誤差範囲を伴う分析を実現する。この手法により、非線形な関係や因果的相互作用（例：寒冷舌インデックスと全球の雲カバーの間）を特定可能となり、複雑な地球システムダイナミクスの信頼性の高い不確実性を伴う分析が可能となる。

ABSTRACT

A primary objective of the NASA Earth-Sun Exploration Technology Office is to understand the observed Earth climate variability, thus enabling the determination and prediction of the climate's response to both natural and human-induced forcing. We are currently developing a suite of computational tools that will allow researchers to calculate, from data, a variety of information-theoretic quantities such as mutual information, which can be used to identify relationships among climate variables, and transfer entropy, which indicates the possibility of causal interactions. Our tools estimate these quantities along with their associated error bars, the latter of which is critical for describing the degree of uncertainty in the estimates. This work is based upon optimal binning techniques that we have developed for piecewise-constant, histogram-style models of the underlying density functions. Two useful side benefits have already been discovered. The first allows a researcher to determine whether there exist sufficient data to estimate the underlying probability density. The second permits one to determine an acceptable degree of round-off when compressing data for efficient transfer and storage. We also demonstrate how mutual information and transfer entropy can be applied so as to allow researchers not only to identify relations among climate variables, but also to characterize and quantify their possible causal interactions.

研究の動機と目的

• 気候データからの情報理論的量（相互情報量やトランスファーエントロピーなど）を不確実性を明示的に評価できる形で推定するための計算ツールを開発すること。
• 線形モデルが非ガウス分布に起因する非線形性のため失敗する状況においても、関連する気候変数とその非線形的関係を同定すること。
• エントロピー、相互情報量、トランスファーエントロピーの推定値に対する誤差範囲（誤差棒）を提供し、気候データ解析における不確実性を定量化すること。
• 方向性のある情報の流れを捉えることができるトランスファーエントロピーを用いて、気候サブシステム間の因果的相互作用を同定すること。
• データの圧縮を支援するため、データの十分性に基づく情報理論的制約から導かれる最適な丸めレベルを特定すること。

提案手法

• 推定誤差を最小化するため、気候データからの確率密度関数を推定するための最適な区分定数ヒストグラムモデルを用いる。
• ビンのカウントにディリクレ分布を適用し、50,000個の確率密度モデルを生成することで不確実性の定量化を実現する。
• サンプリングされた結合密度モデルからエントロピー、相互情報量、トランスファーエントロピーを計算し、平均と標準偏差を推定値および誤差範囲（誤差棒）として提示する。
• 解像度と統計的信頼性のバランスを取る最適なビニング技術を採用し、密度推定に十分なデータを保証する。
• 時間系列間の方向的因果的影響を検出するため、3次元密度モデルを用いたトランスファーエントロピー推定を実施する。
• 合成ガウス分布データ（10,000サンプル、M=24ビン）を用いたエントロピー推定の妥当性を検証し、推定エントロピー Hest=1.4231±0.007 が真値 Htrue=1.1489 と一致していることを確認した。

実験結果

リサーチクエスチョン

• RQ1 相互情報量やトランスファーエントロピーなどの情報理論的指標が、気候変数間の非線形的関係を信頼性を持って検出できるか。
• RQ2 エントロピー、相互情報量、トランスファーエントロピーの推定における不確実性は、誤差範囲を伴ってどのように定量化され、報告されるべきか。
• RQ3 限られた気候データから確率密度関数を推定する際の最適なビン数は何か。また、その選択が推定精度にどのように影響するか。
• RQ4 トランスファーエントロピーは、海面水温と雲カバーの間のような気候サブシステム間の方向的因果的相互作用を同定できるか。
• RQ5 本手法は、情報損失を伴わずに許容可能な丸めレベルを特定できる程度、データ圧縮を支援できるか。

主な発見

• 最適ビニング法により、標準ガウス分布からの10,000サンプルに対して24ビンが最適であると特定され、推定誤差が最小化された。
• 50,000個のディリクレサンプリングモデルを用いたエントロピー推定により、Hest=1.4231±0.007が得られ、真値Htrue=1.1489が1標準偏差の範囲内に収まった。
• 相互情報量マップから、赤道域の太平洋およびインドネシア近海の雲カバーが寒冷舌インデックス（CTI）と最も強い関係を示していることが判明し、ENSOダイナミクスと整合的であった。
• 赤道域太平洋のピクセル3231（1.25°N, 191.25°W）は、CTIとの相互情報量が最大であり、局所的な雲カバーと海面水温の異常との間の最大の関連性を示した。
• 最高相互情報量を示したピクセルの2次元結合密度モデルは分解不能であり、雲カバーとCTIの間には非ゼロで統計的に有意な依存関係が存在することが確認された。
• 本フレームワークは、情報理論的指標に対する誤差範囲を的確に生成でき、気候データの関係性に関する不確実性を伴う分析を可能にした。