[논문 리뷰] A Principled Method for the Creation of Synthetic Multi-fidelity Data Sets

Clyde Fare, Peter J. Fenner외 1명|arXiv (Cornell University)|2022. 08. 11.

Advanced Multi-Objective Optimization Algorithms인용 수 4

한 줄 요약

이 논문은 핵심 상관관계를 갖춘 다중 출력 가우시안 프로세스를 활용하여, 합성 다중 정밀도 데이터셋을 생성하는 원칙적인 방법을 제시한다. 이를 통해 합성 정밀도 간 상관관계와 기준 데이터 간의 체계적인 제어가 가능해지며, 다양한 정밀도 수준의 프록시 품질을 갖춘 다중 정밀도 최적화 알고리즘의 벤치마킹이 가능해진다. 이는 분석 함수와 실제 세계 데이터셋 사이의 격차를 메운다.

ABSTRACT

Multifidelity and multioutput optimisation algorithms are of active interest in many areas of computational design as they allow cheaper computational proxies to be used intelligently to aid experimental searches for high-performing species. Characterisation of these algorithms involves benchmarks that typically either use analytic functions or existing multifidelity datasets. However, analytic functions are often not representative of relevant problems, while preexisting datasets do not allow systematic investigation of the influence of characteristics of the lower fidelity proxies. To bridge this gap, we present a methodology for systematic generation of synthetic fidelities derived from preexisting datasets. This allows for the construction of benchmarks that are both representative of practical optimisation problems while also allowing systematic investigation of the influence of the lower fidelity proxies.

연구 동기 및 목표

• 프록시 정밀도 품질의 제어 가능한 변동을 允許하는 다중 정밀도 최적화 알고리즘을 위한 체계적이고 대표적인 벤치마크의 부족을 해결하기 위해.
• 저정밀도 프록시와 진실값 간 상관관계에 따라 알고리즘 성능이 어떻게 달라지는지 체계적으로 조사할 수 있도록 하기 위해.
• 실제 문제와 유사한 특성을 가지면서도 기준 데이터와의 통계적 관계가 제어 가능한 합성 정밀도를 생성하기 위해.
• 실제 프록시 특성을 반영하면서도 정밀도 상관관계를 정밀하게 조정할 수 있는 융통성 있는 생성 프레임워크를 제공하기 위해.

제안 방법

• 이 방법은 기존의 고정밀도 및 저정밀도 데이터를 기반으로 하여, 상관관계를 모델링하기 위해 다중 출력 가우시안 프로세스(MOGP)에 핵심 상관관계 커널을 적용한다.
• MOGP의 하이퍼파ram터는 기준 함수 및 프록시 함수의 고유한 특성(예: 길이 척도)을 포착하기 위해 최대 로그 우도를 최적화하여 조정된다.
• 기존의 모델 구조를 기반으로 하여 합성 정밀도를 나타내는 새로운 출력 차원을 추가한다.
• 합성 정밀도 샘플은 기존의 정밀도 데이터와 사전 샘플의 선형 조합으로 표현되며, 이를 통해 원하는 상관관계 수준을 달성하기 위해 계수를 해석적으로 구한다.
• 목표로 하는 피어슨 상관관계 수준에 맞추기 위해 순차적인 콜레스키 기반 방법을 사용하여 계수를 구해 상관관계를 제어한다.
• 이 방법은 생성된 합성 정밀도가 데이터와 통계적으로 일관되면서도 정밀도 품질을 상관관계 파rameter를 통해 임의로 조정할 수 있도록 보장한다.

실험 결과

연구 질문

• RQ1 저정밀도 프록시와 진실값 간 상관관계를 체계적으로 변화시킬 수 있는 합성 다중 정밀도 데이터셋을 어떻게 생성할 수 있는가?
• RQ2 합성 정밀도는 얼마나 정밀도 품질을 정밀하게 제어하면서도 실제 기능적 특성을 잘 재현할 수 있는가?
• RQ3 프록시 데이터 내 정밀도 간 상관관계 수준이 다중 정밀도 최적화 알고리즘의 성능에 어떻게 영향을 미치는가?
• RQ4 제안된 방법은 실제 문제와 유사한 특성을 가지면서도 철저한 알고리즘 벤치마킹에 적합한 합성 데이터셋을 생성할 수 있는가?

주요 결과

• 이 방법은 기준값과 기존의 저정밀도 프록시와 모두 사용자가 정의한 상관관계 수준을 갖는 합성 정밀도를 성공적으로 생성한다.
• 합성 정밀도의 사후 분포에서 유도된 샘플은 기존의 정밀도 데이터와 사전 샘플의 선형 조합으로 표현되며, 이는 상관관계에 대한 분석적 제어를 가능하게 한다.
• 이 방법은 실제 최적화 문제와 유사한 특성을 갖는 벤치마크 데이터셋을 생성할 수 있으며, 프록시 정밀도 품질을 체계적으로 변화시킬 수 있다.
• 이 방법은 기저 함수의 구조에 관계없이 기존의 단일 또는 다중 정밀도 데이터셋에 대해 일반적으로 적용 가능하다.
• Liu 및 Currin 테스트 함수에 대한 실증 결과는 기준 함수와 다양한 정도의 상관관계를 갖는 다양한 합성 정밀도를 생성할 수 있음을 보여준다.
• 이 프레임워크는 정밀도 비용과 상관관계 간의 제어 가능한 트레이드오프를 갖는 합성 정밀도를 생성할 수 있으며, 다중 정밀도 최적화에서의 회귀 곡선 분석을 깊이 있게 수행할 수 있다.