[논문 리뷰] Topology Optimization under Uncertainty using a Stochastic Gradient-based Approach

Subhayan De, Jerrad Hampton외 2명|arXiv (Cornell University)|2019. 02. 11.

Topology Optimization in Engineering참고 문헌 71인용 수 5

한 줄 요약

이 논문은 불확실성 하에서의 위상 최적화를 위한 확률적 경사하강법 기반 접근법을 제안하며, 각 반복에서 목적함수, 제약조건 및 그들의 도함수를 근사하기 위해 단지 몇 차례의 인접/전진 해석을 사용함으로써 계산 비용을 감소시킨다. 이 방법은 고차원 불확실성 조건에서도 결정론적 방법과 유사한 성능을 보이며, 효율적인 강건 설계를 가능하게 하며, SGD 변종과 확률적 경사하강법을 사용한 GCMMA를 통합한다.

ABSTRACT

Topology optimization under uncertainty (TOuU) often defines objectives and constraints by statistical moments of geometric and physical quantities of interest. Most traditional TOuU methods use gradient-based optimization algorithms and rely on accurate estimates of the statistical moments and their gradients, e.g., via adjoint calculations. When the number of uncertain inputs is large or the quantities of interest exhibit large variability, a large number of adjoint (and/or forward) solves may be required to ensure the accuracy of these gradients. The optimization procedure itself often requires a large number of iterations, which may render TOuU computationally expensive, if not infeasible. To tackle this difficulty, we here propose an optimization approach that generates a stochastic approximation of the objective, constraints, and their gradients via a small number of adjoint (and/or forward) solves, per iteration. A statistically independent (stochastic) approximation of these quantities is generated at each optimization iteration. The total cost of this approach is only a small factor larger than that of the corresponding deterministic TO problem. We incorporate the stochastic approximation of objective, constraints and their design sensitivities into two classes of optimization algorithms. First, we investigate the stochastic gradient descent (SGD) method and a number of its variants, which have been successfully applied to large-scale optimization problems for machine learning. Second, we study the use of the proposed stochastic approximation approach within conventional nonlinear programming methods, focusing on the Globally Convergent Method of Moving Asymptotes (GCMMA). The performance of these algorithms is investigated with structural design optimization problems utilizing a Solid Isotropic Material with Penalization (SIMP), as well as an explicit level set method.

연구 동기 및 목표

• 정확한 도함수 추정을 위해 많은 인접/전진 해석을 요구하는 전통적 TOuU 방법의 높은 계산 비용을 해결한다.
• 통계적 모멘트와 도함수를 계산하는 데 비용이 많이 들기 때문에 고차원 불확실성 하에서 확장 가능한 TOuU 해결책을 개발한다.
• 각 반복에서 정확한 도함수 평가를 저비용의 확률적 근사치로 대체하여 효율적인 강건 위상 최적화를 가능하게 한다.
• 현대적 SGD 알고리즘(예: Adam, AdaGrad)과 기존 비선형 프로그래밍(GCMMA) 모두에 확률적 경사하강법을 통합하여 더 넓은 적용 가능성을 확보한다.
• SIMP 및 레벨셋 방법을 모두 사용하여 2차원 및 3차원 구조 설계 문제에 대해 제안된 방법의 효과성을 입증한다.

제안 방법

• 각 최적화 반복에서 통계적으로 독립적인 목적함수, 제약조건 및 그들의 도함수의 근사치를 생성하기 위해 소수의 무작위 샘플(예: n=4)을 사용한다.
• 몬테카를로 샘플링을 통해 유도된 확률적 추정치로 정확한 도함수 계산을 대체함으로써 각 반복의 비용을 크게 감소시킨다.
• 이러한 확률적 경사하강법을 SGD, AdaGrad, Adam 등의 확률적 최적화 알고리즘에 통합하여 설계 공간을 효율적으로 탐색한다.
• 전역 수렴 성질을 유지하면서 계산 오버헤드를 줄이기 위해, 전역 수렴 이동 점점 방법(GCMMA)을 확률적 경사하강법을 사용하도록 적응시킨다.
• 위상 최적화에 대해 고체 등방성 재료에 벌크 펜alties를 적용한(SIMP) 방법과 명시적 레벨셋 방법 모두에 이 방법을 적용한다.
• 최종 설계를 0–1 재료 분포로 해석하기 위해 밀도 임계값(예: 0.5 또는 0.7)을 사용하며, 이진 해에 수렴하는지 평가한다.

실험 결과

연구 질문

• RQ1 확률적 경사하강법 근사치는 설계 품질을 유지하면서 TOuU의 계산 비용을 결정론적 수준에 가깝게 낮출 수 있는가?
• RQ2 TOuU에서 확률적 경사하강법을 사용할 때, SGD 기반 방법(예: Adam, AdaGrad)은 기존 비선형 프로그래밍(GCMMA)과 비교해 어떻게 성능을 보이는가?
• RQ3 각 반복에서의 샘플 수가 TOuU에서 확률적 근사의 정확도와 수렴성에 얼마나 큰 영향을 미치는가?
• RQ4 제안된 방법은 다양한 구조적 구성 및 불확실성 수준에서 낮은 분산과 높은 평균 성능을 보이는 강건한 설계를 달성할 수 있는가?
• RQ5 적응형 경사하강법(예: AdaGrad, Adam)을 사용할 경우, GCMMA에 비해 0–1 설계로의 수렴성이 향상되는가?

주요 결과

• 확률적 경사하강법 접근법은 TOuU의 계산 비용을 결정론적 위상 최적화 비용의 약간의 배수 수준으로 낮춰 이전에는 비가능시였던 문제들을 해결 가능하게 하였다.
• 모든 세 가지 방법—GCMMA, AdaGrad, Adam—은 예제 II에서 초기 설계 대비 약 97–99%의 목적함수 값 감소를 달성하여 뛰어난 성능을 보였다.
• AdaGrad와 Adam은 GCMMA보다 더 나은 0–1 설계를 생성하였으며, 0과 1 근처에서 재료 밀도 값의 히스토그램이 더 두꺼워져 이진 해로의 수렴이 향상된 것으로 나타났다.
• GCMMA는 특히 높은 밀도 임계값(예: 0.7)에서 0–1 설계로의 수렴에 어려움을 겪었지만, SGD 기반 방법들은 더 명확한 재료 분포 패턴을 유지하였다.
• 적응형 경사하강법(AdaGrad, Adam)을 사용함으로써, 목표함수에서 분산 가중치가 높을 경우 비볼록 설계 공간을 더 효과적으로 탐색할 수 있었다.
• 이 방법은 각 반복에서 최소한의 샘플링(예: n=4)으로도 2차원 및 3차원 예제에서 직관적이고 강건한 설계를 성공적으로 도출하였으며, 저비용의 확률적 근사화의 실현 가능성을 확인하였다.