[論文レビュー] Deep-Learning the Landscape

Yang‐Hui He|arXiv (Cornell University)|Jun 8, 2017

Computational Physics and Python Applications被引用数 15

ひとこと要約

本論文は、大規模なデータベース上でトレーニングされた多層ニューラルネットワークを用いて、Calabi-Yau多様体、ベクトル束、クイバーゲージ理論などの数学的物理学のランドスケープにおける複雑な幾何的・物理的性質を分類・予測するためのディープラーニングフレームワークを提案する。この手法は、未計算のケースに対しても数分で高精度な予測を達成し、弦理論や代数的幾何における膨大で複雑なデータセットからパターンを効率的に抽出できることが示された。

ABSTRACT

We propose a paradigm to deep-learn the ever-expanding databases which have emerged in mathematical physics and particle phenomenology, as diverse as the statistics of string vacua or combinatorial and algebraic geometry. As concrete examples, we establish multi-layer neural networks as both classifiers and predictors and train them with a host of available data ranging from Calabi-Yau manifolds and vector bundles, to quiver representations for gauge theories. We find that even a relatively simple neural network can learn many significant quantities to astounding accuracy in a matter of minutes and can also predict hithertofore unencountered results. This paradigm should prove a valuable tool in various investigations in landscapes in physics as well as pure mathematics.

研究の動機と目的

• 数学的物理学および弦の顕在的現象論における、Calabi-Yau多様体やベクトル束のような、巨大で複雑なデータセットを分析するという増大する課題に対処すること。
• Hodge数、ベッチ数、バンドル安定性といった物理的および幾何的不変量を、大規模なデータベース全体にわたって迅速かつ正確に予測できる機械学習パラダイムの開発。
• 代数的幾何やヘテロティックコンパクト化におけるブルートフォース計算の計算負荷を、トレーニング済みのニューラルネットワークに置き換えること。
• 正確な計算が困難な状況において、ディープラーニングを弦の真空中の予測ツールとして使用可能かどうかを検討すること。

提案手法

• 整数行列（除数類を符号化）やポリトープデータなどの構造化された入力データに対して、多層フィードフォワードニューラルネットワークを用いた教師あり学習を実施。
• Kreuzer-Skarkeの自己双対的ポリトープリスト、CICY、バンドルコhomologyデータ、クイバーゲージ理論の構成を含む既存のデータベースをトレーニングに使用。
• 既知の幾何的・物理的不変量（例：Hodge数、生成数、安定性）のラベル付きデータを回帰および分類タスクのターゲットとして使用。
• 誤差をValidationセットで最小化するため、バックプロパゲーション、活性化関数、最適化などの標準的なディープラーニング技術を適用。
• トレーニング済みのネットワークの予測能力を活用し、分類されていない幾何の「未知の地帯」における新しい未計算ケースへの外挿を実施。
• ネットワークの最終層からの確率的出力を用いて信頼性を評価するための信頼性推定値を統合し、新規データポイントにおける予測の信頼性を評価。

実験結果

リサーチクエスチョン

• RQ1 ディープニューラルネットワークは、幾何的入力データからCalabi-Yau多様体のトポロジー不変量（Hodge数、ベッチ数など）を高精度に予測できるか？
• RQ2 CICY上のベクトル束からの入力データを用いて、ニューラルネットワークはヘテロティックコンパクト化における生成数をどれほど正確に分類できるか？
• RQ3 従来のスペクトル系列法よりも、トレーニング済みのネットワークはヘテロティックコンパクト化におけるバンドル安定性やコホモロジー次元をより効率的に予測できるか？
• RQ4 ディープラーニングは、自己双対的ポリトープの全三角形分割数（したがってCalabi-Yau3-foldの総数）を推定するためにどれほどうまく外挿できるか？
• RQ5 ニューラルネットワークは、数学的関係がまだ明らかでない状況においても、Kreuzer-Skarkeリストのような大規模なデータセットから隠れたパターンや構造を特定できるか？

主な発見

• 比較的単純なニューラルネットワークでも、Calabi-Yau超曲面やCICYにおけるHodge数や生成数といった複雑な幾何的不変量を1分未塔で高精度に予測可能である。
• この手法は、未計算の結果（コホモロジー次元、ベクトル束の安定性など）を正確に予測できており、ブルートフォース法と同等またはそれ以上の性能を示している。
• Kreuzer-Skarkeデータベースでトレーニングされたネットワークは、自己双対的ポリトープの全三角形分割数を推定するのに外挿可能であり、Calabi-Yau3-foldの総数を推定する新しいアプローチを提供する。
• フレームワークは、ディープラーニングがヘテロティック顕在的現象論において、バンドル安定性の計算コストの高いチェックを高速で確率的な予測に置き換える強力な時間節約ツールであることを示している。
• ネットワークの出力層からの信頼性推定値により、分類されていない新規幾何における予測の信頼性を信頼できる形で評価でき、たとえば「信頼度aで、ベッチ数はb₁, b₂, …である」といった明確な主張が可能になる。
• このアプローチは、代数的幾何や弦理論からの大規模な数学的データセットにおいて、ディープラーニングがまだ完全に理解されていない数学的構造の中にも隠れたパターンを同定できることを示している。