[論文レビュー] Robust recognition and exploratory analysis of crystal structures via Bayesian deep learning

Andreas Leitherer, Angelo Ziletti+1 more|arXiv (Cornell University)|Mar 17, 2021

Machine Learning in Materials Science参考文献 71被引用数 44

ひとこと要約

本稿では、108種類の構造クラス（バルク、2次元、1次元材料を含む）にわたる、しきい値に依存しない頑健な結晶構造認識を実現するベイジアンディープラーニングフレームワーク、ARISEを紹介する。ARISEは、理想構造のみで学習されており、シミュレーションおよび実験からのノイズのある単相および多相系の結晶構造を正確に分類可能であり、電子トモグラフィーのデータにおける結晶性の程度と相関する、整合性のある不確実性推定値を提供する。

ABSTRACT

Due to their ability to recognize complex patterns, neural networks can drive a paradigm shift in the analysis of materials science data. Here, we introduce ARISE, a crystal-structure identification method based on Bayesian deep learning. As a major step forward, ARISE is robust to structural noise and can treat more than 100 crystal structures, a number that can be extended on demand. While being trained on ideal structures only, ARISE correctly characterizes strongly perturbed single- and polycrystalline systems, from both synthetic and experimental resources. The probabilistic nature of the Bayesian-deep-learning model allows to obtain principled uncertainty estimates, which are found to be correlated with crystalline order of metallic nanoparticles in electron tomography experiments. Applying unsupervised learning to the internal neural-network representations reveals grain boundaries and (unapparent) structural regions sharing easily interpretable geometrical properties. This work enables the hitherto hindered analysis of noisy atomic structural data from computations or experiments.

研究の動機と目的

• 構造的ノイズに強く、手動による許容範囲パラメータに依存しない、スケーラブルで頑健な結晶構造同定手法の開発。
• 従来の手法がカバーできない範囲にとどまらない、1次元、2次元、バルク材料を含む広範な結晶構造の分類を可能にする。
• 予測のための整合的な不確実性推定値を提供し、結晶性の程度やデータ品質の評価に活用できるようにする。
• 内部ニューラルネットワーク表現の教師なし学習を通じて、原子構造の探索的分析を可能にする。
• 複雑でノイズが多く、欠际を含むナノ構造を扱う際に、従来の対称性に基づく手法や局所構造に基づく手法に見られる限界を克服する。

提案手法

• 原子構造を回転、並進、置換不変なベクトルに符号化するために、Smooth Overlap of Atomic Positions (SOAP) 述語を用いる。
• SOAP 述語に基づいて構造を分類するため、完全結合型ディープニューラルネットワーク（多層パーセプトロン）を採用する。
• 予測に加えて、近似的事後分布推論を用いてキャリブレーションされた不確実性推定値を生成するベイジアンニューラルネットワーク（BNN）を適用する。
• 推論時にモンテカルロドロップアウトを用いて予測不確実性を推定し、ガウス過程の不確実性を近似する。
• 内部ニューラル表現の教師なし学習（クラスタリングおよび次元削減）を適用し、格子境界や明確に異なる構造的領域といった隠れた構造的パターンを発見する。
• モデルを理想結晶構造のみで学習させることで、ノイズのある、歪められた、実験的に再構築された系への一般化を可能にする。

実験結果

リサーチクエスチョン

• RQ1 理想結晶構造のみで学習されたディープラーニングモデルが、ノイズのある、実験的に再構築された、または欠际を含む原子構造に対しても頑健に一般化可能か？
• RQ2 ベイジアン不確実性推定値は、金属ナノ粒子の電子トモグラフィーで観察されるような物理的結晶性の指標とどの程度相関するか？
• RQ3 内部ニューラル表現の教師なし解析は、格子境界や準安定相のような隠れた構造的特徴を明らかにできるか？
• RQ4 アーキテクチャーやハイパーパrameterの再設計なしに、本モデルが1次元ナノチューブや2次元材料などの複雑な非バルク結晶構造をどの程度正しく分類できるか？
• RQ5 ベイジアンモデルの不確実性出力は、モデルの過信によるものではなく、実際のデータ品質や構造的不規則性を反映しているか？

主な発見

• ARISEは、理想構造でのみ学習されたにもかかわらず、108種類の異なる結晶構造（1次元、2次元、バルク材料を含む）を正しく分類した。
• 合成的および実験的ソースからの強く歪められた単相および多相系に対しても、本モデルは高い精度を維持した。これには、原子的電子トモグラフィーのデータも含まれる。
• ベイジアンモデルからの予測不確実性推定値は、金属ナノ粒子における結晶性の程度と強く相関しており、電子トモグラフィーによる検証が得られた。
• 内部ニューラル表現の教師なし解析により、幾何学的性質が解釈可能であるグレイン境界や構造的に異なる領域が明らかにされた。
• 本手法は、従来の局所構造ベースや空間群ベースの手法では認識できないナノチューブなどの複雑なナノ構造に対しても一般化可能であった。
• 不確実性推定値は信頼性が高く、物理的不規則性を反映しており、外部基準がなくてもデータ品質の評価が可能となった。