[논문 리뷰] Randomized Approach to Nonlinear Inversion Combining Simultaneous Random and Optimized Sources and Detectors

Selin Aslan, Eric de Sturler외 1명|arXiv (Cornell University)|2017. 06. 17.

Sparse and Compressive Sensing Techniques참고 문헌 28인용 수 3

한 줄 요약

이 논문은 산란광 단층촬영(DOT)에서 비선형 역문제를 가속화하기 위해 랜덤화된 방식과 최적화된 방식을 융합한 하이브리드 접근법을 제안한다. 이는 대규모 PDE 해법의 수를 줄임으로써 성능을 향상시킨다. 랜덤 동시 소스/수신기와 자료의 감도를 최대화하는 최적화된 소스/수신기를 조합함으로써, 전체 데이터 역문제와 유사한 해의 품질을 확보하면서도 PDE 해법의 횟수를 12배 감소시켰으며, 수렴성과 효율성이 크게 향상되었다.

ABSTRACT

In partial differential equations-based (PDE-based) inverse problems with many measurements, many large-scale discretized PDEs must be solved for each evaluation of the misfit or objective function. In the nonlinear case, evaluating the Jacobian requires solving an additional set of systems. This leads to a tremendous computational cost, and this is by far the dominant cost for these problems. Several authors have proposed randomization and stochastic programming techniques to drastically reduce the number of system solves by estimating the objective function using only a few appropriately chosen random linear combinations of the sources. While some have reported good solution quality at a greatly reduced cost, for our problem of interest, diffuse optical tomography, the approach often does not lead to sufficiently accurate solutions. We propose two improvements. First, to efficiently exploit Newton-type methods, we modify the stochastic estimates to include random linear combinations of detectors, drastically reducing the number of adjoint solves. Second, after solving to a modest tolerance, we compute a few simultaneous sources and detectors that maximize the Frobenius norm of the sampled Jacobian to improve the rate of convergence and obtain more accurate solutions. We complement these optimized simultaneous sources and detectors by random simultaneous sources and detectors constrained to a complementary subspace. Our approach leads to solutions of the same quality as obtained using all sources and detectors but at a greatly reduced computational cost, as the number of large-scale linear systems to be solved is significantly reduced.

연구 동기 및 목표

• DOT에서 수천 개의 소스와 수신기가 포함된 대규모 PDE를 다수 풀이해야 하는 비선형 역문제의 높은 계산 비용을 해결한다.
• DOT 응용 분야에서 랜덤 동시 소스와 수신기를 사용하는 표준 확률적 근사(SAA) 방법이 수렴성과 정확도가 떨어지는 문제를 해결한다.
• 랜덤화된 수신기 조합을 통해 애드조인트 해법 횟수를 줄임으로써 뉴턴 유형의 방법의 효율성과 정확도를 향상시킨다.
• 감도가 높은 주로 영향을 미치는 자료의 감도 성분을 포괄하는 최적화된 동시 소스와 수신기를 도입함으로써 해의 품질과 수렴 속도를 향상시킨다.
• 정확도를 유지하면서 계산 비용을 최소화하기 위해 랜덤 및 최적화된 소스/수신기를 융합한 강건하고 저비용의 프레임워크를 개발한다.

제안 방법

• 표본 평균 근사(SAA) 방법을 사용하여 소스와 수신기의 랜덤 선형 조합을 통해 목적 함수와 기울기를 추정한다.
• SAA를 애드조인트 해법 단계로 확장하여 수신기 조합을 랜덤화함으로써, 자료의 감도 평가 시 필요로 하는 애드조인트 시스템의 수를 크게 줄인다.
• 초기 최적화 단계에서 랜덤 소스/수신기를 사용한 후, 샘플된 자료의 감도 행렬의 프로베니우스 노름을 최대화하는 소수의 최적화된 동시 소스와 수신기를 계산한다.
• 최적화된 소스와 수신기를 상보적 부분공간에 제약을 두어 중복을 방지하고 감도 포괄 능력을 향상시킨다.
• 랜덤 및 최적화된 소스/수신기를 하나의 프레임워크에 통합하여 역문제의 감도 구조 탐색과 활용의 균형을 이룬다.
• 비선형 최소제곱 문제를 효율적으로 해결하기 위해 TREGS 신뢰영역 알고리즘과 가우스-뉴턴 정규화를 사용한다.

실험 결과

연구 질문

• RQ1 소스와 수신기를 모두 랜덤화함으로써 DOT 역문제에서 PDE 해법 횟수를 줄일 수 있으며, 이로 인해 해의 품질이 손상되지 않을 수 있는가?
• RQ2 표준 SAA 방법이 DOT에서 랜덤 소스와 수신기를 사용할 경우 노이즈 수준에 도달하지 못하고 정체되는 이유는 무엇이며, 이를 어떻게 극복할 수 있는가?
• RQ3 감도를 최대화하는 최적화된 동시 소스와 수신기가 비선형 역문제의 수렴성과 정확도를 향상시킬 수 있는가?
• RQ4 계산 비용을 최소화하면서도 높은 재구성 정밀도를 유지하기 위해 랜덤 및 최적화된 소스/수신기 간의 최적의 균형은 무엇인가?
• RQ5 동적 표본 크기 조정과 비교했을 때, 랜덤 및 최적화된 소스/수신기를 융합하는 방식은 수렴 속도와 정확도 측면에서 어떤가?

주요 결과

• 32×32×32 격자에서 225개의 소스와 수신기를 사용하는 경우, 제안된 방법은 전체 소스/수신기 조합을 사용한 경우에 비해 대규모 PDE 해법 총 횟수를 약 12배 감소시켰다.
• 최적화된 동시 소스와 수신기 2개를 포함함으로써 SAA 방법의 수렴성이 향상되어 잔차 노름 δ²을 달성하는 데 726회의 PDE 해법만으로도 충분했으며, 이는 전체 데이터 사례의 9225회에 비해 상당히 줄어든 수치였다.
• 최적화된 소스와 수신기 4개를 추가함으로써 PDE 해법 횟수는 762회로 더 줄었고, 높은 재구성 품질을 유지하였다.
• 이 방법은 전체 데이터 역문제와 동일한 수준의 재구성 품질을 달성했으며, 중간 수준의 정밀도에서도 진짜 이면형상이 잘 재현되었다.
• 랜덤 및 최적화된 소스/수신기의 조합은 더 빠른 수렴과 강건한 성능을 보였으며, 특히 표준 SAA가 정체되는 후반 최적화 단계에서 두드러진 효과를 보였다.
• 이 방법은 확장 가능하며, 많은 수의 소스와 수신기, 그리고 다중 주파수를 포함하는 더 큰 문제에서는 더욱 높은 계산적 이점을 제공할 것으로 기대된다.