[論文レビュー] Transfer-learning-based Surrogate Model for Thermal Conductivity of Nanofluids

Saeel S. Pai, Abhijeet Banthiya|arXiv (Cornell University)|Jan 2, 2022

Nanofluid Flow and Heat Transfer被引用数 4

ひとこと要約

本稿では、32種類の粒子-フリーケーション組み合わせを対象として、人工ニューラルネットワークを用いた転移学習ベースのサーモグラフモデルを提案する。低精度の相関式から生成されたデータで事前学習し、限られた高精度の実験データでファインチューニングすることで、モデルは適合度R² = 0.93を達成し、実験データのみで学習したベースラインモデル（R² = 0.83）を著しく上回った。

ABSTRACT

Heat transfer characteristics of nanofluids have been extensively studied since the 1990s. Research investigations show that the suspended nanoparticles significantly alter the suspension's thermal properties. The thermal conductivity of nanofluids is one of the properties that is generally found to be greater than that of the base fluid. This increase in thermal conductivity is found to depend on several parameters. Several theories have been proposed to model the thermal conductivities of nanofluids, but there is no reliable universal theory yet to model the anomalous thermal conductivity of nanofluids. In recent years, supervised data-driven methods have been successfully employed to create surrogate models across various scientific disciplines, especially for modeling difficult-to-understand phenomena. These supervised learning methods allow the models to capture highly non-linear phenomena. In this work, we have taken advantage of existing correlations and used them concurrently with available experimental results to develop more robust surrogate models for predicting the thermal conductivity of nanofluids. Artificial neural networks are trained using the transfer learning approach to predict the thermal conductivity enhancement of nanofluids with spherical particles for 32 different particle-fluid combinations (8 particles materials and 4 fluids). The large amount of lower accuracy data generated from correlations is used to coarse-tune the model parameters, and the limited amount of more trustworthy experimental data is used to fine-tune the model parameters. The transfer learning-based models' results are compared with those from baseline models which are trained only on experimental data using a goodness of fit metric. It is found that the transfer learning models perform better with goodness of fit values of 0.93 as opposed to 0.83 from the baseline models.

研究の動機と目的

• ナノフラッドにおける異常な熱伝導度向上を予測する普遍的な理論的モデルの欠如に対処する。
• 予測モデルを強固に学習させるための高品質な実験データが限られているという課題を克服する。
• 低精度の相関式データと高精度の実験データの両方を活用するデータ効率の良いサーモグラフモデルを開発する。
• 転移学習を用いて、多様な粒子-フリーケーション組み合わせにおける熱伝導度の予測精度を向上させる。
• 転移学習が、ナノフラッドにおける複雑で非線形な熱現象の機械学習モデルを強化する有効性を実証する。

提案手法

• 大規模な相関式から生成されたデータ（低精度）で最初に学習し、その後に小規模な実験データ（高精度）でファインチューニングする、人工ニューラルネットワークの転移学習を用いる。
• 8種類の粒子材料 × 4種類のベースフリーケーションの組み合わせ（合計32通り）を用い、多様なナノフラッド系におけるモデルの一般化能力を評価する。
• 2段階の学習戦略を採用：まず合成的相関データで粗調整し、広範なパターンを学習した後、実際の実験データでファインチューニングして予測を精緻化する。
• 適合度指標（R²）を用いて、実験データのみで学習したベースラインモデルと比較して、転移学習モデルの性能を定量的に評価する。
• ハイパーパramータチューニングを実施し、標準的なディープラーニングアーキテクチャを最適化して、モデルの収束性と予測精度を向上させる。
• 水、エチレングリコール、およびその他の一般的な液体を含む、多数の粒子種別およびベースフリーケーションに対する予測の妥当性を検証することで、モデルの頑健性を確保する。

実験結果

リサーチクエスチョン

• RQ1 実験データのみで学習したモデルと比較して、転移学習はナノフラッド熱伝導度のサーモグラフモデルの予測精度を向上させるか？
• RQ2 低精度の相関式データを、ナノフラッド熱伝導度予測のニューラルネットワークの事前学習源として用いることは、どの程度有効か？
• RQ3 転移学習アプローチは、ナノフラッドにおける多様な粒子-フリーケーション組み合わせにどの程度一般化可能か？
• RQ4 限られた実験データに対して、従来の教師あり学習と比較して、転移学習を用いることで、モデル性能にどの程度の定量的改善が得られるか？
• RQ5 相関式データと実験データのハイブリッド学習は、複雑で非線形な熱現象を扱うより頑健で正確なサーモグラフモデルの構築に寄与するか？

主な発見

• 転移学習ベースのサーモグラフモデルは、適合度（R²）0.93を達成し、実験データのみで学習したベースラインモデル（R² = 0.83）を著しく上回った。
• モデルは32種類の異なる粒子-フリーケーション組み合わせにおいて強く一般化し、物性の変動に対しても頑健であることが示された。
• 相関式から生成されたデータでの事前学習により、収束が速くなり、パラメータ初期化が改善され、データ品質が低くても最終的な性能が向上した。
• 限られた実験データでのファインチューニングにより、相関式予測に起因する系のバイアスが効果的に是正され、精度が向上した。
• ハイブリッド学習戦略により、過学習が低減され、特に高品質な実験データが不足している状況でもモデルの安定性が向上した。
• 結果から、ナノフラッド熱物理学のようなデータが乏しい科学分野において、転移学習が実用的で効果的なアプローチであることが確認された。