[논문 리뷰] Optimizing certain combinations of spectral and linear$/$distance functions over spectral sets

M. Seetharama Gowda|arXiv (Cornell University)|2019. 02. 18.

Advanced Optimization Algorithms Research참고 문헌 31인용 수 4

한 줄 요약

이 논문은 스펙트럴 집합이 다양한 대수적 구조에서 존재하는 스펙트럴 함수, 선형 함수, 거리 함수의 조합을 최적화하기 위한 통합 프레임워크인 Fan-Theobald-von Neumann(FTvN) 시스템을 제안한다. 스펙트럴 집합 위에서의 최적화 문제는 고유값 사상의 이미지 위에서의 대응하는 문제와 동치임을 입증하며, 최적값이 존재하는 조건은 가환성 조건을 만족할 때 성립함을 보이며, 이는 조르당 대수, 정규 분해 체계, 초구형 다항식의 고전적 결과를 일반화한다.

ABSTRACT

In the settings of Euclidean Jordan algebras, normal decomposition systems (or Eaton triples), and structures induced by complete isometric hyperbolic polynomials, we consider the problem of optimizing a certain combination (such as the sum) of spectral and linear$/$distance functions over a spectral set. To present a unified theory, we introduce a new system called Fan-Theobald-von Neumann system which is a triple $(V,W,λ)$, where $V$ and $W$ are real inner product spaces and $λ:V ightarrow W$ is a norm preserving map satisfying a Fan-Theobald-von Neumann type inequality together with a condition for equality. In this general setting, we show that optimizing a certain combination of spectral and linear$/$distance functions over a set of the form $E=λ^{-1}(Q)$ in $V$, where $Q$ is a subset of $W$, is equivalent to optimizing a corresponding combination over the set $λ(E)$ and relate the attainment of the optimal value to a commutativity concept. We also study related results for convex functions in place of linear$/$distance functions. Particular instances include the classical results of Fan and Theobald, von Neumann, results of Tam, Lewis, and Bauschke et al., and recent results of Ramirez et al. As an application, we present a commutation principle for variational inequality problems over such a system.

연구 동기 및 목표

• 유럽리드 조르당 대수, 정규 분해 체계, 초구형 다항식의 구조 간 최적화 결과를 통합하고 일반화하기 위해.
• 스펙트럴 집합 위에서의 최적화와 그 고유값 사상에 의한 이미지 위에서의 최적화 간 동치성을 보장하는 최소한의 공리 집합—즉, Fan-Theobald-von Neumann 시스템에 의해 기술되는 공리—를 규명하기 위해.
• 스펙트럴 함수와 선형 함수, 거리 함수, 볼록 함수의 조합에 대한 고전적 스펙트럴 최적화 결과를 일반화하기 위해.
• 이러한 최적화 문제에서 최적값이 도달되는 조건을 결정하는 가환성 조건을 규명하기 위해.
• 이 일반화된 설정에서 변분부등식 문제에 대한 가환성 원칙을 수립하기 위해.

제안 방법

• 고유값 사상 $\lambda: {\cal V} \to {\cal W}$ 가 범수를 유지하는 맵이며, Fan-Theobald-von Neumann 유형의 부등식과 등식 조건을 만족하는 삼중체 $({\cal V}, {\cal W}, \lambda)$로 FTvN 시스템을 정의한다.
• 집합 $Q \subseteq {\cal W}$ 에 대해 $E = \lambda^{-1}(Q)$ 로 정의되는 스펙트럴 집합과, $\Phi = \phi \circ \lambda$ 로 정의되는 스펙트럴 함수를 정의한다.
• 동치성 정리 유도: $\sup_E(f + \Phi) = \sup_{\lambda(E)}(f^* + \phi)$ 와 $\inf_E(g + \Phi) = \inf_{\lambda(E)}(g_* + \phi)$, 여기서 $f^*$ 와 $g_*$ 는 ${\cal W}$ 에서 유도된 함수이다.
• 최적값이 도달되는 것은 결정 변수 $x$ 가 매개변수 $c$ 와 가환성 조건 $\langle c, x \rangle = \langle \lambda(c), \lambda(x) \rangle$ 을 만족할 때이고, 오직 그 때에만 성립함을 입증한다.
• 이 프레임워크를 사용하여, 유럽리드 조르당 대수, Eaton 삼중체, 초구형 다항식에서 알려진 결과들을 복원하고 일반화한다.
• 실내적 내적 공간 위에서 비항등 사상 선형 변환을 사용하여, 정규 분해 체계이거나 유럽리드 조르당 대수이지 않은 새로운 FTvN 시스템의 예를 구성한다.

실험 결과

연구 질문

• RQ1 유럽리드 조르당 대수나 Eaton 삼중체와 같은 고전적 설정을 초월하여, 스펙트럴 집합 위에서의 최적화와 고유값 사상에 의한 이미지 사이의 동치성은 일반화될 수 있는가?
• RQ2 스펙트럴 집합 위에서 스펙트럴 함수와 선형/거리 함수의 합을 최적화할 때, 최소한의 공리적 구조는 무엇인가? 이는 최적화 문제를 이미지 공간 위로 축소시킬 수 있도록 보장한다.
• RQ3 결정 변수와 문제 매개변수 사이의 가환성 조건을 통해 최적값 도달 조건을 어떻게 특성화할 수 있는가?
• RQ4 이러한 최적화 동치성에서 선형 함수나 거리 함수를 볼록 함수로 대체할 수 있는 정도는 어느 정도인가?
• RQ5 유럽리드 조르당 대수나 정규 분해 체계와 이sov메픽이 아닌 비트리비얼한 FTvN 시스템의 예는 존재하는가?

주요 결과

• 스펙트럴 집합 $E = \lambda^{-1}(Q)$ 위에서 $f + \Phi$ 를 최적화하는 것은 $\lambda(E)$ 위에서 $f^* + \phi$ 를 최적화하는 것과 동치이며, $\sup_E(f + \Phi) = \sup_{\lambda(E)}(f^* + \phi)$ 와 $\inf_E(g + \Phi) = \inf_{\lambda(E)}(g_* + \phi)$ 가 성립한다.
• 최적값은 결정 변수 $x$ 가 $\langle c, x \rangle = \langle \lambda(c), \lambda(x) \rangle$ 를 만족할 때, 오직 그 때에만 도달된다. 이는 FTvN 시스템 내에서의 가환성 조건을 정의한다.
• 이 프레임워크는 고전적 결과를 복원하고 일반화한다: Fan의 부등식, von Neumann의 추적 부등식, Theobald의 추적 최소화, Tam의 대칭 콘에 대한 결과.
• 이 논문은 $S$ 가 $90^\circ$ 회전인 $({\mathbb{R}}^2, {\mathbb{R}}^2, S)$ 라는 비트리비얼한 FTvN 시스템을 구성한다. 이 시스템은 정규 분해 체계이지도, 유럽리드 조르당 대수이지도 않다.
• 변분부등식 문제에 대한 가환성 원칙이 수립된다: 스펙트럴 집합 위에서의 VI 문제의 해는 고유값 사상 $\lambda$ 에 의한 이미지 공간 위에서의 해와 일치하며, 동일한 가환성 조건을 만족한다.
• 동치 결과는 합 이외의 함수 조합에도 성립하며, 선형 함수나 거리 함수 대신 볼록 함수를 사용하는 경우에도 성립한다.