[논문 리뷰] Hidden Convexity in the l0 Pseudonorm

Jean‐Philippe Chancelier, Michel De Lara|arXiv (Cornell University)|2019. 06. 07.

Point processes and geometric inequalities참고 문헌 16인용 수 7

한 줄 요약

이 논문은 새로운 쌍대성 프레임워크인 E-Capra를 소개하며, 이 새로운 이중성 하에서 비볼록성 l0 허위노름이 스스로의 이중이중 쌍대성과 일치함으로써 숨겨진 볼록성을 드러낸다. 주요 기여는 l0 허위노름이 E-Capra-볼록임을 증명함으로써, 이는 조합론적이고 비볼록적인 성질을 지닌 함수임에도 불구하고 단위 구면에서 일치하는 적절한 볼록 하우프라미티브 하우프라미티브 함수의 존재를 암시한다.

ABSTRACT

The so-called l0 pseudonorm counts the number of nonzero components of a vector of a Euclidian space. It is well-known that the l0 pseudonorm is not convex, as its Fenchel biconjugate is zero. In this paper, we introduce a suitable conjugacy, induced by a novel coupling, E-Capra, that has the property of being constant along primal rays like the l0 pseudonorm. The coupling E-Capra belongs to the class of one-sided linear couplings, that we introduce; we show that they induce conjugacies that share nice properties with the classic Fenchel conjugacy. For the E-Capra conjugacy, induced by the coupling E-Capra, we relate the E-Capra conjugate and biconjugate of the l0 pseudonorm, the characteristic functions of its level sets and the sequence of so-called top-k norms. In particular, we prove that the l0 pseudonorm is equal to its biconjugate: hence, the l0 pseudonorm is E-Capra-convex in the sense of generalized convexity. As a corollary, we show that there exists a proper convex lower semicontinuous function such that this function and the l0 pseudonorm coincide on the Euclidian unit sphere. This hidden convexity property is somewhat surprising as the l0 pseudonorm is a highly nonconvex function of combinatorial nature. We provide different expressions for this proper convex lower semicontinuous function, and we give explicit formulas in the two-dimensional case.

연구 동기 및 목표

• l0 허위노름이 매우 비볼록적이고 조합론적이어서 희박 복원 최적화를 어렵게 하는 근본적 과제를 해결하기 위해.
• l0 허위노름과 유사하게 射선-일관성을 유지하는 일반화된 쌍대성 프레임워크를 개발하기 위해.
• 새로운 커플링 하에서 l0 허위노름이 스스로의 이중이중 쌍대성과 일치함을 증명함으로써 l0 허위노름이 E-Capra-볼록임을 확립하기 위해.
• l0 허위노름이 유클리드 단위 구면에서 일치하는 적절한 볼록 하우프라미티브 하우프라미티브 함수를 구성하기 위해.
• 두 차원과 같은 저차원 사례에서 이 볼록 함수에 대한 명시적 공식을 제공하기 위해.

제안 방법

• 일방향 선형 커플링이라 불리는 새로운 커플링 클래스를 도입하여, Fenchel 쌍대성의 일반화이면서도 射선-일관성을 유지함.
• l0 허위노름의 행동을 원래 사슬 방향에서 일치시키기 위해 설계된 특정한 E-Capra 커플링을 정의함.
• l0 허위노름에 E-Capra 쌍대성을 적용하고, 커플링의 성질을 이용해 그 쌍대성과 이중이중 쌍대성을 유도함.
• l0 허위노름의 E-Capra 이중이중 쌍대성과 그 수준집합의 특성 함수 사이의 정밀한 관계를 확립함.
• l0 허위노름과 E-Capra 쌍대성을 통해 상위-k 노름의 수열과 연결함으로써 구조적 연관성을 드러냄.
• 특히 R²에서 l0 허위노름과 단위 구면에서 일치하는 볼록 함수의 명시적 표현을 도출함.

실험 결과

연구 질문

• RQ1 l0 허위노름처럼 비볼록적인 함수가 일반화된 쌍대성 프레임워크 하에서 볼록임을 입증할 수 있는가?
• RQ2 E-Capra 커플링 하에서 l0 허위노름이 스스로의 이중이중 쌍대성과 일치하는가? 이는 E-Capra-볼록성의 암시이다.
• RQ3 l0 허위노름이 유클리드 단위 구면에서 일치하는 적절한 볼록 하우프라미티브 하우프라미티브 함수가 존재하는가?
• RQ4 l0 허위노름의 수준집합은 그 E-Capra 쌍대성과 이중이중 쌍대성과 어떻게 관련되어 있는가?
• RQ5 두 차원과 같은 저차원 공간에서 이 볼록 함수는 어떤 명시적 형태를 가질까?

주요 결과

• l0 허위노름은 스스로의 E-Capra 이중이중 쌍대성과 일치함을 증명함으로써, 기존 Fenchel 쌍대성에서는 드러나지 않는 숨겨진 볼록성인 E-Capra-볼록성을 입증함.
• l0 허위노름의 비볼록성에도 불구하고, 유클리드 단위 구면에서 일치하는 적절한 볼록 하우프라미티브 하우프라미티브 함수가 존재함.
• l0 허위노름의 E-Capra 쌍대성과 이중이중 쌍대성은 그 수준집합의 특성 함수와 명시적으로 연결되어 있음.
• l0 허위노름은 E-Capra 쌍대성을 통해 상위-k 노름의 수열과 연결되어 깊이 있는 구조적 연관성을 드러냄.
• 두 차원에서는 l0 허위노름과 단위 구면에서 일치하는 볼록 함수가 명시적인 닫힌 형태 표현을 가짐.