[論文レビュー] Machine learning phases of matter

Juan Carrasquilla, Roger G. Melko|arXiv (Cornell University)|May 5, 2016

Machine Learning in Materials Science被引用数 4

ひとこと要約

この論文は、フィードフォワードおよび畳み込みニューラルネットワークが、ハミルトニアンや秩序パラメータの事前知識なしに、原始的なスピン配置から量子物質の相を特定できることを示している。主な結果は、ニューラルネットワークが、トーリックコードモデルの正確な基底状態を模倣する学習された表現を通じて、トポロジカル秩序を検出できる高精度な分類を達成できることである。

ABSTRACT

Neural networks can be used to identify phases and phase transitions in condensed matter systems via supervised machine learning. Readily programmable through modern software libraries, we show that a standard feed-forward neural network can be trained to detect multiple types of order parameter directly from raw state configurations sampled with Monte Carlo. In addition, they can detect highly non-trivial states such as Coulomb phases, and if modified to a convolutional neural network, topological phases with no conventional order parameter. We show that this classification occurs within the neural network without knowledge of the Hamiltonian or even the general locality of interactions. These results demonstrate the power of machine learning as a basic research tool in the field of condensed matter and statistical physics.

研究の動機と目的

• 原始的なモンテカルロサンプルによる配置を用いて、凝縮系系の相および相転移を識別するための機械学習フレームワークを開発すること。
• ニューラルネットワークが、磁化などの従来の秩序パラメータに依存せず、クーロンやトポロジカルな相といった非自明な量子相を検出できるかどうかを調査すること。
• 深層学習モデルが、ハミルトニアンや相互作用構造が未知である場合でも、物理的秩序パラメータを暗黙的に学習できるかどうかを検討すること。
• 全結合型および畳み込みニューラルネットワークの性能を、さまざまな系のサイズや相互作用タイプにおいて評価すること。

提案手法

• 2次元イジング模型のモンテカルロシミュレーションから得た原始的なスピン配置を入力として、交差エントロピー損失とL2正則化、Adam最適化を用いた全結合フィードフォワードニューラルネットワークを訓練する。
• ネットワークはスピン配置を入力ベクトルとして処理し、100個のシグモイドニューロンからなる1つの隠れ層と、二値分類（例：低温対高温相）のための1つの出力ニューロンを持つ。
• トポロジカルな相に対しては、トーリックコードモデルの局所的エネルギー制約を符号化するように設計された、学習可能なフィルタを持つ畳み込みニューラルネットワーク（CNN）を採用する。
• CNNはReLU非線形性とソフトマックス出力層を用い、フィルタは未満たされたプラケット（plaquette）を検出するように初期化され、出力ニューロンは低温状態と高温状態を表す。
• ネットワークはモンテカルロ生成データ上でエンドツーエンドに訓練され、ハミルトニアンの明示的知識なしにスピン配置に基づいて相を分類する能力を学習する。
• 最終出力層の活性化値が、$σ^z$基底におけるトーリックコードの基底状態の振幅に一致していることが示され、ネットワークがトポロジカルに秩序された波動関数を学習していることが示唆される。

実験結果

リサーチクエスチョン

• RQ1 ハミルトニアンや秩序パラメータの事前知識なしに、ニューラルネットワークが原始的なスピン配置のみを用いて物質の相を分類できるか？
• RQ2 磁化などの従来の局所的秩序パラメータを持たない、クーロンやトポロジカル秩序といった極めて非自明な相を、ニューラルネットワークが検出できるか？
• RQ3 ニューラルネットワークの内部表現が、トポロジカルモデルの基底状態波動関数のような正確な物理量をどの程度模倣できるか？
• RQ4 ニューラルネットワークの性能は系のサイズにどのように依存するか？また、真の熱力学的相転移温度に収束できるか？
• RQ5 スピン配置から学習したCNNは、トポロジカルに秩序された系の完全な多体波動関数を表現できるか？

主な発見

• 全結合ニューラルネットワークは、$10 \times 10$格子上の2次元イジング模型の低温・高温相を94％のテスト精度で分類し、$L=40$では99％まで向上した。
• ネットワークは、磁化や他の物理的推定器を用いずに、内部的に秩序パラメータを暗黙的に学習することで、相転移温度$T_c$を正しく特定した。
• 畳み込みニューラルネットワークは、トーリックコードモデルの基底状態と励起状態を100％の精度で分類し、原始的なスピン配置からトポロジカル秩序を正しく同定した。
• CNNの低温状態ニューロンの出力が、$σ^z$基底におけるトーリックコードの基底状態の1つにおける振幅分布を正確に再現した。
• ネットワークの内部表現が、トーリックコード基底状態のプロジェクテッドエンタングルドペア状態（PEPS）構成と同型であることが示され、CNNがトポロジカル波動関数を学習できることを示した。
• CNNの分類誤差は系のサイズに対して指数関数的に小さく、無限温度で基底状態を観測する確率が指数的に小さいことと整合的であった。