[논문 리뷰] Parametrically prox-regular functions

Planiden, Chayne|arXiv (Cornell University)|2013. 01. 01.

Optimization and Variational Analysis참고 문헌 18인용 수 3

한 줄 요약

이 논문은 매개변수를 포함하는 최적화 문제에서 최소화점의 안정성 분석을 가능하게 하기 위해, Prox-regular 함수의 확장으로서 매개변수적 Prox-regular(Para-prox-regular) 함수를 도입한다. 이는 f-attentive ε-로컬라이제이션의 단조성에 기반한 para-prox-regularity의 특성화를 제공하며, Proximal 평균과 같은 핵심 예시를 일반화하고, 강한 애미너블 함수에 대한 조건을 완화함으로써 매개변수 최적화의 안정성에 대한 이해를 발전시킨다.

ABSTRACT

Prox-regularity is a generalization of convexity that includes all lower-C² functions. Therefore, the study of prox-regular functions provides insight on a broad spectrum of important functions. Parametrically prox-regular (para-prox-regular) functions are a further extension of this family, produced by adding a parameter. Such functions have been shown to play a key role in understanding the stability of minimizers in optimization problems. This thesis discusses para-prox-regular functions in ℝn. We begin with some basic examples of para-prox-regular functions, and move on to the more complex examples of the convex and non-convex proximal averages. We develop an alternate representation of para-prox-regular functions, related to the monotonicity of an f-attentive ε-localization as was done for prox-regular functions [25]. Levy in [18] provided proof of one implication of this relationship; we provide a characterization. We analyze two common forms of parametrized functions that appear in optimization: finite parametrized sum of functions, and finite parametrized max of functions. The example of strongly amenable functions by Poliquin and Rockafellar [27] is given, and a relaxation of its necessary conditions is presented. Some open questions and directions of further research are stated.

연구 동기 및 목표

• Prox-regular 함수 이론을 매개변수를 포함하도록 확장하여 매개변수 최적화 문제의 분석을 가능하게 한다.
• f-attentive ε-로컬라이제이션의 단조성에 기반한 para-prox-regular 함수의 특성화를 통해 이전 결과를 일반화한다.
• 최적화에서 흔히 나타나는 매개변수 구조, 예를 들어 유한 합과 함수의 최대값을 분석한다.
• 강한 애미너블 함수에 대한 필요 조건을 완화하여 매개변수 최적화에서의 적용 범위를 넓힌다.
• 열린 문제를 식별하고 매개변수 변동 분석 분야의 향후 연구 방향을 제안한다.

제안 방법

• Levy [18]의 부분 결과를 완성하기 위해, f-attentive ε-로컬라이제이션의 단조성에 기반한 para-prox-regular 함수의 대체 표현을 개발한다.
• Para-prox-regularity의 완전한 특성화를 제공하며, Levy [18]의 부분 결과를 보완한다.
• 유한 매개변수 합과 함수의 최대값을 매개변수 최적화의 정준 형태로 분석한다.
• Proximal 평균(凸 및 비凸 모두)을 para-prox-regular 함수의 핵심 예시로 고려한다.
• Poliquin과 Rockafellar [27]의 강한 애미너블성에 대한 필요 조건을 완화하여 더 넓은 적용 가능성을 확보한다.
• 변동 분석 및 Proximal 분석 도구를 사용하여 매개변수 변화에 따른 최소화점의 안정성 문제를 연구한다.

실험 결과

연구 질문

• RQ1 Prox-regularity는 어떻게 매개변수를 가진 함수로 일반화할 수 있으며, 이러한 일반화를 정의하는 성질은 무엇인가?
• RQ2 Para-prox-regularity와 f-attentive ε-로컬라이제이션의 단조성 사이의 정확한 관계는 무엇인가?
• RQ3 유한 합과 함수의 최대값과 같은 일반적인 매개변수 형태는 어떻게 para-prox-regularity를 나타내는가?
• RQ4 최적화에서 안정성을 유지하면서 강한 애미너블성에 대한 조건을 어떻게 완화할 수 있는가?
• RQ5 매개변수적 Prox-regular 함수 이론에서 아직 남아 있는 열린 문제들은 무엇인가?

주요 결과

• f-attentive ε-로컬라이제이션의 단조성에 기반한 para-prox-regular 함수의 완전한 특성화가 확립되었으며, 이는 이전의 부분 결과를 확장한다.
• 적절한 조건 하에서 유한 매개변수 합과 함수의 최대값이 para-prox-regular임이 입증된다.
• Proximal 평균(凸 및 비凸 모두)은 para-prox-regular 함수의 핵심 예시로 규명된다.
• 강한 애미너블성에 대한 필요 조건이 완화되어 안정성 분석에 적용 가능한 함수의 범위가 넓어진다.
• 이 틀은 매개변수 최적화 문제에서 최소화점의 안정성 분석을 위한 기초를 제공한다.
• 특히 더 넓은 함수 클래스로 para-prox-regularity를 확장하는 데 있어 여러 열린 질문과 연구 방향이 식별된다.