[논문 리뷰] Contour location via entropy reduction leveraging multiple information sources

Alexandre Noll Marques, Rémi Lam외 1명|arXiv (Cornell University)|2018. 05. 19.

Industrial Vision Systems and Defect Detection인용 수 16

한 줄 요약

이 논문은 엔트로피 기반 할당 함수를 통해 다수의 정보 소스를 활용하여 평가에 비용이 많이 드는 함수의 윤곽을 효율적으로 탐지하는 새로운 알고리즘인 CLoVER를 제안한다. 윤곽 엔트로피를 공식적인 불확실성 측도로 도입하고, 단위 비용당 엔트로피 감소를 최대화함으로써 기존 방법들보다 정확도와 효율성 면에서 뛰어난 성능을 보였다. 벤치마크 문제에서의 성능 평가 결과, 이 알고리즘은 기존의 방법들을 능가하는 결과를 도출하였다.

ABSTRACT

We introduce an algorithm to locate contours of functions that are expensive to evaluate. The problem of locating contours arises in many applications, including classification, constrained optimization, and performance analysis of mechanical and dynamical systems (reliability, probability of failure, stability, etc.). Our algorithm locates contours using information from multiple sources, which are available in the form of relatively inexpensive, biased, and possibly noisy approximations to the original function. Considering multiple information sources can lead to significant cost savings. We also introduce the concept of contour entropy, a formal measure of uncertainty about the location of the zero contour of a function approximated by a statistical surrogate model. Our algorithm locates contours efficiently by maximizing the reduction of contour entropy per unit cost.

연구 동기 및 목표

• 공 ingeneering 및 과학적 응용 분야에서 흔히 발생하는 평가에 비용이 많이 드는 함수의 윤곽을 탐지하는 문제를 해결하기 위해.
• 다양한 저비용, 편향이 있으며 노이즈가 많은 근사치(정보 소스)를 고정밀도 평가와 함께 활용하여 계산 비용을 줄이기 위해.
• 한정된 예산 내에서 윤곽 위치에 대한 불확실성을 최소화할 수 있도록 적응적으로 평가 점을 선택하는 방법을 개발하기 위해.
• 윤곽 위치에 대한 불확실성을 새로운 지표인 윤곽 엔트로피로 공식화하기 위해.
• 기존 윤곽 탐지 알고리즘들보다 정확도와 수렴 속도 면에서 뛰어나도록 성능을 향상시키기 위해.

제안 방법

• 함수의 영점 윤곽 위치에 대한 불확실성에 대한 공식적인 측도로 윤곽 엔트로피를 도입하며, 이는 가우시안 프로세스 서rogate 모델 기반의 함수 모델링을 기반으로 한다.
• 사전에 정의된 정밀도 계층이 필요 없는 다중 정보 소스 가우시안 프로세스 서rogate를 활용한다.
• 단일 단계의 사전 예측 할당 함수를 사용하여, 단위 평가 비용당 윤곽 엔트로피 감소를 최대화한다.
• 모든 가용 정보 소스로부터 작은 수의 무작위 평가를 통해 서rogate를 초기화한다.
• 불확실성이 높을 경우 저비용 소스를 우선적으로 활용하면서, 엔트로피 감소 할당 함수를 최적화하여 새로운 평가 점을 순차적으로 선택한다.
• 반복적으로 서rogate 모델을 업데이트하고 할당 함수를 재최적화하여 수렴하거나 예산 소진 시까지 진행한다.

실험 결과

연구 질문

• RQ1 다수의 저성능, 노이즈가 많고 편향이 있는 정보 소스를 통합함으로써 윤곽 탐지 성능을 어떻게 향상시킬 수 있는가?
• RQ2 서rogate 모델에서 윤곽 위치에 대한 효과적인 공식적인 불확실성 측도는 무엇인가?
• RQ3 기준으로서의 엔트로피 감소가 히وري스틱한 불확실성 측도보다 더 효율적인 윤곽 국소화를 이끌 수 있는가?
• RQ4 제안된 엔트로피 기반 할당 함수는 기존의 할당 함수와 비교해 윤곽 탐지에서 어떤 성능을 보이는가?
• RQ5 저비용 정보 소스를 우선적으로 활용함으로써, 고비용 평가를 최소화하면서도 높은 정확도를 달성할 수 있는가?

주요 결과

• 브레인-후 함수에서 g(x) > 80 인 영역의 면적 추정에 있어 CLoVER는 EGRA, 란잔, TMSE, TIMSE, SUR 알고리즘들을 모두 능가하여 평균 상대 오차가 낮았다.
• 브레인-후 벤치마크에서 CLoVER는 모든 경쟁 알고리즘보다 평균적으로 더 낮은 면적 추정 상대 오차를 기록하였으며, 중앙값 오차는 1% 이하였다.
• 튜브러리액터 사례에서 CLoVER는 22회의 반복 후 D = 0.165에서 홉프 분기점을 탐지하였고, IS0에 대한 고정밀도 평가를 단 4회만 사용하였다.
• 22회의 반복 후 CLoVER는 윤곽 엔트로피를 약 ∼6×10⁻⁹로 감소시켜 윤곽 위치에 대한 거의 확실한 판단을 내릴 수 있었다.
• CLoVER는 고비용인 IS0 평가 2회를 사용하기 전에 저비용인 IS1에 대해 총 11회의 평가를 우선적으로 수행함으로써, 비용 인식 탐색의 효과성을 입증하였다.
• 단위 비용당 엔트로피 감소 기반 할당 함수는 탐욕적 또는 이차 손실 기반 대안들보다 더 빠른 수렴 속도와 더 나은 불확실성 정량화 성능을 보였다.