[論文レビュー] A Deep Neural Network Surrogate Modeling Benchmark for Temperature Field Prediction of Heat Source Layout

Xianqi Chen, Xiaoyu Zhao+5 more|arXiv (Cornell University)|Mar 20, 2021

Industrial Vision Systems and Defect Detection参考文献 22被引用数 9

ひとこと要約

本論文は、複雑な熱源配置からの温度場を予測するための深層ニューラルネットワーク（DNN）代理モデルベンチマークを導入し、従来のシミュレーションベースのレイアウト最適化における高い計算コストに対処する。物理的に制約された多様なデータセット（HSLD）を構築し、10種類の最先端DNNモデルを評価することで、超高次元の画像対画像回帰のための包括的なベースラインを確立し、データの多様性、損失関数の設計、モデルの一般化性能といった、熱源配置予測における重要な課題を明らかにする。

ABSTRACT

Thermal issue is of great importance during layout design of heat source components in systems engineering, especially for high functional-density products. Thermal analysis generally needs complex simulation, which leads to an unaffordable computational burden to layout optimization as it iteratively evaluates different schemes. Surrogate modeling is an effective way to alleviate computation complexity. However, temperature field prediction (TFP) with complex heat source layout (HSL) input is an ultra-high dimensional nonlinear regression problem, which brings great difficulty to traditional regression models. The Deep neural network (DNN) regression method is a feasible way for its good approximation performance. However, it faces great challenges in both data preparation for sample diversity and uniformity in the layout space with physical constraints, and proper DNN model selection and training for good generality, which necessitates efforts of both layout designer and DNN experts. To advance this cross-domain research, this paper proposes a DNN based HSL-TFP surrogate modeling task benchmark. With consideration for engineering applicability, sample generation, dataset evaluation, DNN model, and surrogate performance metrics, are thoroughly studied. Experiments are conducted with ten representative state-of-the-art DNN models. Detailed discussion on baseline results is provided and future prospects are analyzed for DNN based HSL-TFP tasks.

研究の動機と目的

• 高機能密度の高いシステム設計における、シミュレーションベースの熱的解析における計算ボトルネックを解消すること。
• 複雑な熱源配置からの超高次元温度場予測（HSL-TFP）のためのデータ駆動型代理モデルベンチマークを構築すること。
• 多様なデータ、代表的なDNNモデル、マルチビュー評価指標を備えた標準化された評価フレームワークを提供し、HSL-TFPタスクに適すること。
• DNNベースの熱的代理モデルにおける、データ生成、モデルアーキテクチャ、トレーニングに関する主な課題を特定すること。
• 工学的応用における、代理モデル支援型熱源配置最適化を進歩させる基盤を提供すること。

提案手法

• レイアウトと温度場を200×200の空間行列として扱う画像対画像回帰問題として定式化した、新しいHSL-TFPベンチマークタスクを提案する。
• レイアウト空間における多様性と物理的整合性を確保するための2つのランダムレイアウトサンプリング手法と、特別なサンプリング戦略を開発する。
• レイアウトの複雑さと熱応答のばらつきをカバーする10,000組のユニークなレイアウト-温度ペアを含む、Heat Source Layout Dataset（HSLD）を構築する。
• エンコーダデコーダ（例：U-Net、SegNet）とフィーチャープライミッド（例：FPN）構造を、バックボーンネットワーク（例：ResNet、VGG、AlexNet）と組み合わせた10種類の代表的DNNアーキテクチャを採用し、代理モデルを構築する。
• 予測精度と一般化能力を評価するための多面的評価プロトコルを設計し、グローバルMAE、ローカルMAE、勾配ベースの指標を用いる。
• 空間分解能の向上と予測の正確性を高めるために、ネットワークアーキテクチャに二次補間に基づくアップサンプリングを統合する。

Figure 1: The overview of the HSL-TFP task.

実験結果

リサーチクエスチョン

• RQ1 複雑な熱源配置からの超高次元温度場予測に適した、多様かつ物理的に整合性のあるデータセットをどのように生成できるか？
• RQ2 HSL-TFPベンチマークタスクにおいて、どのDNNアーキテクチャとトレーニング戦略が最良の一般化性能を示すか？
• RQ3 異なる損失関数と評価指標は、DNN代理モデルの予測精度と頑健性にどのように影響を与えるか？
• RQ4 現在のDNN代理モデルは、データ効率性、トレーニング収束性、モデル一般化性能の面で、どのような主な制限を抱えているか？
• RQ5 実時間かつ正確な熱的評価を工学的レイアウト最適化に支援するため、どのようにして代理モデルを改善できるか？

主な発見

• HSLDデータセットは、レイアウト構成とそれによる温度分布の両方で高い多様性を達成しており、モデルの訓練と評価に強固な基盤を提供する。
• FPNまたはU-Netアーキテクチャを備えたResNetベースのモデルが優れた性能を示し、最良のモデルではテストセットでグローバルMAEが0.89 Kに達した。
• ローカルMAE指標は、モデルが勾配が急な領域での温度予測に特に困難を抱えていることを示しており、空間的に適応する損失関数の導入が求められる。
• 勾配ベースの指標は、二次補間によるアップサンプリングが、温度場再構成における空間的詳細を保持することでモデル性能を向上させることを示唆している。
• 現在のDNN代理モデルは、未学習のレイアウトパターンへの一般化において、データ効率性とトレーニング安定性の面で課題を抱えている。
• ベンチマークは、グローバルMAEだけではモデル評価が不十分であり、包括的な性能分析にはマルチビュー指標が不可欠であることを明らかにした。

Figure 3: The illustration of the feasible layout region $\Omega_{C}$ of component $C$ in the layout container.