[論文レビュー] Phase space sampling and operator confidence with generative adversarial networks

Kyle Mills, Isaac Tamblyn|arXiv (Cornell University)|Oct 23, 2017

Seismic Imaging and Inversion Techniques被引用数 5

ひとこと要約

本論文では、統計力学系の位相空間をサンプリングすると同時に、エネルギー、磁化などの演算子値の信頼性を推定するため、生成対抗ネットワーク（GAN）の使用を提案する。ディスクライマーサイドに、本物／偽物のラベルに加え、演算子値の予測を組み込むことで、モデルは異常検出器として機能し、分布内サンプルに対しては高い信頼性、分布外またはなじみのない構成に対しては低い信頼性を出力する。

ABSTRACT

We demonstrate that a generative adversarial network can be trained to produce Ising model configurations in distinct regions of phase space. In training a generative adversarial network, the discriminator neural network becomes very good a discerning examples from the training set and examples from the testing set. We demonstrate that this ability can be used as an anomaly detector, producing estimations of operator values along with a confidence in the prediction.

研究の動機と目的

• 複雑な系（例えばイジング模型）における位相空間の効率的サンプリングを、元の分布の事前知識なしに開発すること。
• 分子動力学やモンテカルロシミュレーションで使用される機械学習済みポテンシャルにおける、予測の信頼性という重要なニーズに対応すること。
• シミュレーション中に物理的に不自然な、または分布外の構成が生じるのを早期に検出できるように、ディスクライマーの信頼性出力を活用すること。
• 訓練済みディスクライマーが、本物対生成サンプルの区別と、演算子値の回帰という二重の役割を果たせることを示すこと。
• シミュレーションが訓練データがカバーしていない配置空間の領域に踏み込む際の識別を可能とする実用的フレームワークを提供すること。

提案手法

• イジング模型の構成を生成するジェネレーターと、実際の訓練サンプルと生成されたサンプルを区別するディスクライマーを備えた生成対抗ネットワーク（GAN）を訓練する。
• 訓練中に補助ヘッドをディスクライマーに追加し、エネルギー、磁化などの演算子値を予測可能とすることで、分類と回帰を同時に実行する。
• ディスクライマーの出力を演算子予測の信頼性推定値として使用し、出力の絶対値が大きいほど信頼性が高いことを示す。
• エネルギー範囲全体にわたる一様分布上でのディスクライマーの評価を通じて、分布外の構成の検出能力をテストする。
• 特に訓練データがカバーしていない領域においても、ディスクライマーの信頼性スコアを予測の信頼性の代理指標として活用する。
• 訓練済みジェネレーターを用いて、ターゲットの位相空間分布からの新しい構成をサンプリングし、複雑な系の効率的探索を可能にする。

実験結果

リサーチクエスチョン

• RQ1 イジング模型の位相空間構成を、異なる熱力学的状態領域にわたり、GANで学習可能か？
• RQ2 GANのディスクライマーは、本物対生成サンプルの区別と並行して、演算子値（例：エネルギー、磁化）の予測も可能か？
• RQ3 ディスクライマーの出力の大きさは、訓練分布外の領域においても予測の信頼性と相関するか？
• RQ4 訓練多様体から逸脱した構成を検出できる異常検出器として、ディスクライマーが機能するか？
• RQ5 ディスクライマーの信頼性推定値は、物理的に不自然な、または分布外の状態を検出するためのシミュレーションの安全性をどの程度向上できるか？

主な発見

• ヒストограмの比較により、訓練データ内に存在するサンプルに対して、ディスクライマーが演算子値（例：エネルギー）を高い精度で予測していることが示された。
• 訓練分布内に存在する構成に対して、ディスクライマーは高い信頼性を出力しており、データが存在する領域での予測の信頼性が保証されている。
• 訓練データが存在しない領域の構成に対しては、ディスクライマーは低い信頼性を出力しており、分布外または新しい構成の検出に効果的に機能している。
• 信頼性推定機能により、システムのずれや訓練多様体を超えた外挿による物理的に不自然な状態の早期検出が可能になった。
• GANによるサンプリングとディスクライマーによる不確実性推定を統合した、信頼性を伴うシミュレーションのための実用的でエンドツーエンドのソリューションを提供した。
• GANが生成のためだけではなく、物理系における信頼性のある、信頼性を伴う回帰の実行にも再利用可能であることが示された。