[論文レビュー] Entropy from Machine Learning

Romuald A. Janik|arXiv (Cornell University)|Sep 24, 2019

Neural dynamics and brain function参考文献 14被引用数 9

ひとこと要約

この論文では、モンテカルロスピン状態やニューラルスパイクトレインなどのバイナリ配置から直接エントロピーを計算するための機械学習ベースの手法を紹介している。エントロピー推定を逐次的な教師あり分類タスクの系列として定式化することで、20×20のイジング模型の配置に対して、従来の熱力学的統合やウォン＝ランダウサンプリングに比べてスケーラブルな代替手法として、相図全体にわたり正確にエントロピーと自由エネルギーを再現している。

ABSTRACT

We translate the problem of calculating the entropy of a set of binary configurations/signals into a sequence of supervised classification tasks. Subsequently, one can use virtually any machine learning classification algorithm for computing entropy. This procedure can be used to compute entropy, and consequently the free energy directly from a set of Monte Carlo configurations at a given temperature. As a test of the proposed method, using an off-the-shelf machine learning classifier we reproduce the entropy and free energy of the 2D Ising model from Monte Carlo configurations at various temperatures throughout its phase diagram. Other potential applications include computing the entropy of spiking neurons or any other multidimensional binary signals.

研究の動機と目的

• 統計物理学におけるモンテカルロ配置から直接エントロピーを推定する課題に取り組むこと。標準的手法では補助的シミュレーションや明示的なハミルトニアンが必要である。
• 特に状態が一意で繰り返しのない高次元バイナリ系において、直接エントロピー計算が不可能であるという課題を克服すること。
• 事前に既知のハミルトニアンや確率分布に関する仮定を必要としない、汎用的でモデルに依存しないエントロピー推定フレームワークを構築すること。
• スパikingニューロンの大規模集団におけるエントロピー計算を可能にすること。指数関数的に増加する状態空間の大きさにより、直接推定が不可能になるため。
• 熱力学的統合やウォン＝ランダウサンプリングといった従来のエントロピー推定手法の代替手段として、計算コストが高く、別個のサンプリング手順を要する手法に比べて柔軟でスケーラブルな代替策を提供すること。

提案手法

• エントロピー推定問題を、与えられた配置とランダムに抽出された配置を区別する分類器を用いた二値分類タスクの系列に再定式化する。
• 各分類器の交差エントロピー損失をログ確率比の局所的推定とし、すべての配置にわたってこれらの損失を合算することで、総エントロピーの近似を得る。
• 真の分布からのサンプルで訓練された分類器の期待交差エントロピー損失が負の対数尤度を近似することを活用し、密度推定を明示的に行わずにエントロピー推定を可能にする。
• 標準的な機械学習分類器（例：ランダムフォレスト、ニューラルネットワーク）を用い、2次元イジング模型のさまざまな温度におけるモンテカルロ配置のセットにこの手法を適用。アーキテクチャのチューニングなしで実行。
• スピン反転や格子並進などの対称性を用いたデータ拡張を活用し、対称性が存在する場合には有効な訓練データ量を増加させ、分類器の一般化性能を向上させる。
• 正確な2次元イジング模型の解（カフマンの正確な公式）を用いて、エントロピーと自由エネルギー推定値の定量的ベンチマークを実施。

実験結果

リサーチクエスチョン

• RQ1 既知のハミルトニアンを仮定せず、追加のシミュレーションを実行せずに、有限個のバイナリ配置から直接エントロピーを推定できるか？
• RQ2 モンテカルロ配置上で逐次的な二値分類タスクに訓練された機械学習分類器が、システムのエントロピーをどの程度正確に近似できるか？
• RQ3 この手法は、ニューロンスパイクトレインやスピン配置といった、さまざまな高次元バイナリ信号にどの程度一般化可能か？
• RQ4 計算コストと精度の観点から、熱力学的統合やウォン＝ランダウサンプリングといった既存手法と比較して、この手法の性能はいかがなものか？
• RQ5 異なる分類器アーキテクチャの比較を通じて、データの構造的複雑性や非線形性を検出できるか？

主な発見

• この手法は、追加のシミュレーションを要せず、1つの温度でのモンテカルロ配置のみを用いても、2次元イジング模型の相図全体にわたり、エントロピーと自由エネルギーを正確に再現した。
• 20×20のイジング模型では、臨界点より高い温度ではエントロピー推定の相対誤差が1%未満であり、臨界領域付近では2–3%の範囲内に収束した。
• 分類器の選択にかかわらず、同じデータで訓練されたランダムフォレストとフィードフォワードニューラルネットワークが一貫したエントロピー推定値を示した。
• 系の対称性を用いたデータ拡張により、データが乏しい低温状態の性能が顕著に向上した。
• 実際の神経データ（例：スパイクトレイン）に対しても、特定の有効ハミルトニアンを仮定せず、直接エントロピー推定が可能になった。これにより、逆イジングフィッティングの必要性を回避できる。
• 最大エントロピーモデルからのエントロピーと、データから直接推定されたエントロピーを比較することで、モデルの妥当性やデータの複雑性を示す乖離が明らかになった。