[논문 리뷰] A Deep Neural Network Surrogate Modeling Benchmark for Temperature Field Prediction of Heat Source Layout

Xianqi Chen, Xiaoyu Zhao외 5명|arXiv (Cornell University)|2021. 03. 20.

Industrial Vision Systems and Defect Detection참고 문헌 22인용 수 9

한 줄 요약

이 논문은 복잡한 열원 레이아웃으로부터 온도 분포를 예측하기 위한 딥 뉴럴 네트워크(DNN) 서rogate 모델링 벤치마크를 소개한다. 기존의 시뮬레이션 기반 레이아웃 최적화 방식은 계산 비용이 높다는 문제를 해결하고자 하며, 다양한 물리적 제약 조건을 반영한 데이터셋(HSLD)을 구축하고, 10종의 최신 DNN 모델을 평가함으로써 초고차원 이미지 간 회귀 문제에 대한 종합적인 기준을 수립한다. 이는 열원 레이아웃 예측에서 데이터 다양성, 손실 함수 설계, 모델 일반화 능력 등 핵심 과제를 드러낸다.

ABSTRACT

Thermal issue is of great importance during layout design of heat source components in systems engineering, especially for high functional-density products. Thermal analysis generally needs complex simulation, which leads to an unaffordable computational burden to layout optimization as it iteratively evaluates different schemes. Surrogate modeling is an effective way to alleviate computation complexity. However, temperature field prediction (TFP) with complex heat source layout (HSL) input is an ultra-high dimensional nonlinear regression problem, which brings great difficulty to traditional regression models. The Deep neural network (DNN) regression method is a feasible way for its good approximation performance. However, it faces great challenges in both data preparation for sample diversity and uniformity in the layout space with physical constraints, and proper DNN model selection and training for good generality, which necessitates efforts of both layout designer and DNN experts. To advance this cross-domain research, this paper proposes a DNN based HSL-TFP surrogate modeling task benchmark. With consideration for engineering applicability, sample generation, dataset evaluation, DNN model, and surrogate performance metrics, are thoroughly studied. Experiments are conducted with ten representative state-of-the-art DNN models. Detailed discussion on baseline results is provided and future prospects are analyzed for DNN based HSL-TFP tasks.

연구 동기 및 목표

• 고기능 밀도 시스템 설계에서 시뮬레이션 기반 열 분석의 계산적 병목 현상을 해결하기 위해.
• 복잡한 열원 레이아웃으로부터 초고차원 온도 분포 예측(HSL-TFP)을 위한 데이터 기반 서rogate 모델링 벤치마크를 개발하기 위해.
• 다양한 데이터, 대표적인 DNN 모델, 다중 시각 평가 지표를 포함한 표준화된 평가 프레임워크를 제공하여 HSL-TFP 작업을 위해.
• DNN 기반 열 서rogate 모델링에서 데이터 생성, 모델 아키텍처, 학습 전략 등 핵심 과제를 규명하기 위해.
• 공 ingeneering 적용 분야에서 서rogate 보조 열원 레이아웃 최적화를 발전시키기 위한 기초를 제공하기 위해.

제안 방법

• 레이아웃과 온도 분포를 200×200 공간 행렬로 간주하여, 이미지 간 회귀 문제로 설정된 새로운 HSL-TFP 벤치마크 작업을 제안한다.
• 레이아웃의 다양성과 물리적 일관성을 확보하기 위해 두 가지 무작위 레이아웃 샘플링 방법과 특수 설계된 샘플링 전략을 개발한다.
• 레이아웃 복잡도와 열 응답 변동성을 모두 커버하는 10,000개의 고유한 레이아웃-온도 쌍을 포함한 열원 레이아웃 데이터셋(HSLD)을 구축한다.
• 백본 네트워크(예: ResNet, VGG, AlexNet)를 활용한 인코더-디코더(예: U-Net, SegNet) 및 피처 피라미드(예: FPN) 아키텍처를 조합한 10종의 대표적인 DNN 아키텍처를 활용해 서rogate 모델링을 수행한다.
• 전역 MAE, 국소 MAE, 기울기 기반 지표를 포함한 다면적 평가 프로토콜을 설계하여 예측 정확도와 일반화 능력을 평가한다.
• 공간 해상도 향상과 예측 정밀도 향상을 위해 네트워크 아키텍처 내에서 이차 보간 기반 업샘플링을 통합한다.

Figure 1: The overview of the HSL-TFP task.

실험 결과

연구 질문

• RQ1 어떻게 복잡한 열원 레이아웃으로부터 초고차원 온도 분포 예측을 위한 다양하고 물리적으로 일관된 데이터셋을 생성할 수 있는가?
• RQ2 HSL-TFP 벤치마크 작업에서 최고의 일반화 성능을 보이는 DNN 아키텍처와 학습 전략는 무엇인가?
• RQ3 다양한 손실 함수와 평가 지표는 DNN 서rogate의 예측 정확도와 강건성에 어떤 영향을 미치는가?
• RQ4 현재 DNN 서rogate는 열원 레이아웃 예측에서 데이터 효율성, 학습 수렴성, 모델 일반화 능력 측면에서 어떤 핵심 한계를 지니는가?
• RQ5 공 ingeneering 레이아웃 최적화에서 실시간이고 정확한 열 평가를 지원하기 위해 서rogate 모델은 어떻게 향상시킬 수 있는가?

주요 결과

• HSLD 데이터셋은 레이아웃 구성과 결과 온도 분포 모두에서 높은 다양성을 확보하여 강력한 모델 훈련과 평가를 가능하게 한다.
• FPN 또는 U-Net 아키텍처를 갖춘 ResNet 기반 모델이 뛰어난 성능을 보이며, 최고의 모델은 테스트 세트에서 전역 MAE 0.89 K를 기록한다.
• 국소 MAE 지표는 모델이 고기울기 영역에서의 온도 예측에 더 어려움을 겪고 있음을 드러내며, 공간적으로 적응형 손실 함수의 필요성을 시사한다.
• 기울기 기반 지표는 이차 보간 기반 업샘플링이 온도 분포 재구성에서 공간 세부 정보를 유지함으로써 모델 성능을 향상시킨다고 제안한다.
• 현재 DNN 서rogate는 특히 미리 보지 않은 레이아웃 패턴으로 일반화할 때 데이터 효율성과 학습 안정성 측면에서 도전 과제를 겪고 있다.
• 벤치마크는 전역 MAE만으로는 모델 평가에 부족하며, 종합적인 성능 분 析를 위해 다중 시각 평가 지표가 필수적임을 드러낸다.

Figure 3: The illustration of the feasible layout region $\Omega_{C}$ of component $C$ in the layout container.