[논문 리뷰] Advances in Bayesian Probabilistic Modeling for Industrial Applications

Sayan Ghosh, Piyush Pandita외 6명|arXiv (Cornell University)|2020. 03. 26.

Advanced Multi-Objective Optimization Algorithms참고 문헌 51인용 수 4

한 줄 요약

이 논문은 고·저해상도 시뮬레이션과 실험 데이터를 가우시안 프로세스를 사용하여 통합함으로써 복잡한 산업 시스템에서 불확실성 정량화와 견고한 의사결정을 가능하게 하는 확장 가능하고 전부 베이지안 프레임워크인 GE의 베이지안 하이브리드 모델링(GEBHM)을 제시한다. 이는 고전적 케네디와 오헤건 프레임워크를 발전시켜 모델 불일치 모델링, 동적 다중출력 校정, 고성능 계산 환경 지원 등의 기능을 추가하여, 항공기 엔진 설계에서부터 발전소 모델링에 이르기까지의 적용에서 성공을 거두었다.

ABSTRACT

Industrial applications frequently pose a notorious challenge for state-of-the-art methods in the contexts of optimization, designing experiments and modeling unknown physical response. This problem is aggravated by limited availability of clean data, uncertainty in available physics-based models and additional logistic and computational expense associated with experiments. In such a scenario, Bayesian methods have played an impactful role in alleviating the aforementioned obstacles by quantifying uncertainty of different types under limited resources. These methods, usually deployed as a framework, allows decision makers to make informed choices under uncertainty while being able to incorporate information on the the fly, usually in the form of data, from multiple sources while being consistent with the physical intuition about the problem. This is a major advantage that Bayesian methods bring to fruition especially in the industrial context. This paper is a compendium of the Bayesian modeling methodology that is being consistently developed at GE Research. The methodology, called GE's Bayesian Hybrid Modeling (GEBHM), is a probabilistic modeling method, based on the Kennedy and O'Hagan framework, that has been continuously scaled-up and industrialized over several years. In this work, we explain the various advancements in GEBHM's methods and demonstrate their impact on several challenging industrial problems.

연구 동기 및 목표

• 공학 설계 및 최적화 과정에서의 제한된, 노이즈가 많은, 고비용의 산업 데이터 문제를 해결한다.
• 고차원, 일시적, 다중 해상도 시스템에서 전통적 베이지안 校정의 한계를 극복한다.
• 물리 기반 시뮬레이션과 실험 측정치를 통합하는 통합적이고 확장 가능하며 계산적으로 효율적인 확률 모델링 프레임워크를 개발한다.
• 다양한 소스의 새로운 데이터를 지속적으로 업데이트함으로써 실시간 의사결정을 가능하게 한다.
• 산업 규모의 응용에서 철저한 검증, 불확실성 전파 및 시각화를 통해 모델의 신뢰성을 확보한다.

제안 방법

• 베이지안 校정과 메타모델링의 기초로 케네디와 오헤건 프레임워크를 적응한다.
• 모델 불일치를 명시적으로 모델링함으로써 시뮬레이션의 부정확성을 고려하는 전부 베이지안 접근을 구현한다.
• 보정 과정 중에 동적으로 가우시안 프로세스(GP) 대체모델을 구축하여 들어오는 데이터로 반복적으로 개선할 수 있도록 한다.
• 다중출력 GP 모델을 사용하여 동적 시스템과 다중 출력을 동시에 처리할 수 있도록 프레임워크를 확장한다.
• 전방향 불확실성 정량화 및 전파를 통합하여 관심 있는 양의 신뢰구간을 예측한다.
• HPC 플랫폼에서 도메인 분할과 다중 수준 조정 행렬을 사용하여 수백 개의 매개변수를 포함하는 고차원 입력 공간에 스케일링한다.

실험 결과

연구 질문

• RQ1 어떻게 베이지안 방법을 체계적으로 확장하고 산업 현장에 적용하여 제한된 데이터를 가진 고차원, 다중 해상도, 일시적인 공학 문제를 다룰 수 있는가?
• RQ2 실제 산업 응용에서의 강건성과 신뢰성을 확보하기 위해 케네디와 오헤건 프레임워크에 어떤 개선이 필요한가?
• RQ3 복잡한 시스템에서 시뮬레이션과 실험의 불확실성 및 모델 불일치를 일관되게 정량화하고 전파할 수 있는 방법은 무엇인가?
• RQ4 고성능 계산과 확장 가능한 GP 알고리즘은 산업 환경에서의 베이지안 모델링의 효율성과 정확도를 어떻게 향상시킬 수 있는가?
• RQ5 작업 임bedding을 사용한 조합적 모델링은 다중 데이터셋 산업 문제에서 데이터 효율성과 예측 성능을 향상시킬 수 있는가?

주요 결과

• GEBHM은 다단계 엔진 블레이드 레인지 모델의 보정과 검증을 성공적으로 수행하여 불확실성 하에서 유동성 성능을 정확하게 예측하였다.
• 엔진 시스템의 일시적 열 모델에 대한 프레임워크의 보정이 강건하게 수행되었으며, 예측 불확실성 구간은 실험 측정치와 일치하였다.
• GEBHM은 복합 사이클 발전소에서 고해상도 성능 예측 및 최적화를 달성하여 고비용의 물리적 시험에 대한 의존도를 감소시켰다.
• 고해상도 CFD 시뮬레이션과 함께 날개 냉각 시스템 데이터를 통합함으로써 설계 개선을 뒷받침하는 불확실성 정량화를 실현하였다.
• 도메인 분할과 다중 해상도 조정 행렬을 사용한 확장 가능한 GP 알고리즘의 활용으로 대규모 문제에 대해 계산 비용이 수개월 단위로 감소하였다.
• 임bed된 작업 변수를 통한 다중 데이터셋 모델링은 배출가스 모델링 및 제어 시스템 보정과 같은 응용에서 데이터 효율성과 예측 정확도를 향상시켰다.