[論文レビュー] Investigation on Machine Learning Based Approaches for Estimating the Critical Temperature of Superconductors

Fatin Abrar Shams, Rashed Hasan Ratul+5 more|arXiv (Cornell University)|Aug 2, 2023

Machine Learning in Materials Science被引用数 5

ひとこと要約

本研究では、化学的・物理的性質を用いて超伝導体の臨界温度（Tc）を予測するため、ハイパラメータ最適化を組み込んだスタッキングアンサンブル機械学習モデルを提案する。この手法は、RMSE 9.68 および R2 スコア 0.922 を達成し、個々のモデルを上回り、特徴量セットや最適化条件にかかわらず一貫性があり安定した性能を示す。

ABSTRACT

Superconductors have been among the most fascinating substances, as the fundamental concept of superconductivity as well as the correlation of critical temperature and superconductive materials have been the focus of extensive investigation since their discovery. However, superconductors at normal temperatures have yet to be identified. Additionally, there are still many unknown factors and gaps of understanding regarding this unique phenomenon, particularly the connection between superconductivity and the fundamental criteria to estimate the critical temperature. To bridge the gap, numerous machine learning techniques have been established to estimate critical temperatures as it is extremely challenging to determine. Furthermore, the need for a sophisticated and feasible method for determining the temperature range that goes beyond the scope of the standard empirical formula appears to be strongly emphasized by various machine-learning approaches. This paper uses a stacking machine learning approach to train itself on the complex characteristics of superconductive materials in order to accurately predict critical temperatures. In comparison to other previous accessible research investigations, this model demonstrated a promising performance with an RMSE of 9.68 and an R2 score of 0.922. The findings presented here could be a viable technique to shed new insight on the efficient implementation of the stacking ensemble method with hyperparameter optimization (HPO).

研究の動機と目的

• 従来の経験的または理論的モデルでは依然として困難である超伝導体の臨界温度（Tc）を予測する課題に対処すること。
• 異なる特徴量セットやハイパラメータ設定において一貫性のない性能を示す既存の機械学習モデルの限界を克服すること。
• 統合された機械学習技術を用いて、Tc 予測のための強固で安定的かつ高精度なフレームワークを開発すること。
• 特徴量選択とハイパラメータ最適化が、モデルの汎化性能と性能向上に与える効果を評価すること。
• 有望な材料候補を絞り込むことで、高 Tc 超伝導体の発見を加速するスケーラブルで信頼性の高い手法を提供すること。

提案手法

• 本研究では、複数のベース回帰器（例：Ridge、Lasso、KNN、SVR、MLP）の予測をメタラーナーによって統合するスタッキングアンサンブル学習手法を採用し、予測精度を向上させる。
• ハイパラメータ最適化（HPO）は、パラメータチューニングと性能向上のため、RandomizedSearchCV を用いて実施する。
• 特徴量選択には f-重回帰分析を用い、次元削減を 81 から 50 特徴量へ行い、入力空間を縮小した状況下でのモデル安定性を評価する。
• モデルは、超伝導体材料の 81 種類の物理的・化学的特徴量とそれに対応する Tc 値を含む UCI 超伝導性データセットを用いて訓練および評価する。
• 性能評価は、すべての特徴量とハイパラメータ最適化有無、および特徴量削減あり・なしの 4 種類の実験的条件下で RMSE および R2 スコアを用いて実施する。
• スタッキングモデルは、ベースモデルの予測の最適な組み合わせを学習するメタラーナー（例：メタ回帰器）を用い、汎化性能と耐障害性を向上させる。

実験結果

リサーチクエスチョン

• RQ1 ハイパラメータ最適化を組み込んだスタッキングアンサンブルモデルは、個々の機械学習モデルと比較して、超伝導体の臨界温度予測において優れた安定性と高い性能を達成できるか？
• RQ2 f-重回帰分析による特徴量削減は、Tc 予測モデルの性能の一貫性と正確性にどのように影響するか？
• RQ3 ハイパラメータ最適化は、超伝導性データセットにおけるさまざまな機械学習モデルの予測性能をどの程度向上させるか？
• RQ4 スタッキングアンサンブル手法は、異なる入力特徴量セットや最適化状態に対しても高い性能を維持できるか。これは、耐障害性と汎化性能を示唆するか？
• RQ5 本研究で提案するモデルは、RMSE および R2 スコアという観点から、既存の最先端手法と定量的に比較してどの程度優れているか？

主な発見

• ハイパラメータ最適化を施した全 81 特徴量を用いたスタッキングアンサンブルモデルは、RMSE 9.68 および R2 スコア 0.922 を達成し、最小の RMSE と最大の R2 スコアを記録した。
• 特徴量を 50 に削減した後でも、スタッキングモデルは RMSE 9.73 および R2 スコア 0.9192 を維持し、一貫性のある高い耐障害性を示した。
• すべての条件下で、KNN（RMSE: 10.356、R2: 0.9089）および SVR（RMSE: 14.4879、R2: 0.82104）を含むすべての個々のモデルを上回る性能を示した。
• ハイパラメータ最適化は、すべてのモデルの性能を顕著に向上させ、特に Ridge および Lasso において RMSE が約 18.7 から約 18.5 に低下した。
• 本モデルは、さまざまな条件下でも性能のばらつきが最小限に抑えられており、高い安定性と信頼性を示した。
• 先行研究と比較すると、本研究のモデルは、Hamidieh 他（RMSE: 9.5、R2: 0.920）および Li 他（RMSE: 83.565、R2: 0.899）を含む多数の既存手法よりも低い RMSE（9.68）および高い R2（0.922）を達成した。