[논문 리뷰] Orlicz addition for measures and an optimization problem for the $f$-divergence

Shaoxiong Hou, Deping Ye|arXiv (Cornell University)|2016. 06. 06.

Point processes and geometric inequalities참고 문헌 22인용 수 3

한 줄 요약

이 논문은 측도의 오르리츠 덧셈을 도입하고, $f$-divergence를 선형 오르리츠 덧셈에 따른 총 질량의 일阶 변동으로 기능적으로 해석한다. 이는 이중 기능적 오르리츠-브룬-민코프스키 부등식을 수립하고, 함수 $\phi$에 대한 볼록성 조건 하에서 측도에 대한 이중 기능적 오르리츠 애피니티 및 지미널 표면적의 극값이 가우시안 측도에서 달성됨을 보여주며, 새로운 기능적 애피니티 등면적 부등식을 도출한다.

ABSTRACT

In this paper, the Orlicz addition of measures is proposed and an interpretation of the $f$-divergence is provided based on a linear Orlicz addition of two measures. Fundamental inequalities, such as, a dual functional Orlicz-Brunn-Minkowski inequality, are established. We also investigate an optimization problem for the $f$-divergence and establish functional affine isoperimetric inequalities for the dual functional Orlicz affine and geominimal surface areas of measures.

연구 동기 및 목표

• 측도에 대한 이중 오르리츠-브룬-민코프스키 이론의 기능적 유사체를 도입하기 위해 측도의 오르리츠 덧셈을 제안하는 것.
• 두 측도에 대한 선형 오르리츠 덧셈 하에서 총 질량의 일阶 변동으로서 $f$-divergence를 해석하는 것.
• 함수 $f$-divergence에 대한 최적화 문제를 조사하고, 측도에 대한 이중 기능적 오르리츠 애피니티 및 지미널 표면적을 정의하는 것.
• 이러한 새로운 표면적 기능수를 위한 기능적 애피니티 등면적 부등식을 수립하는 것.
• 함수 $\phi$에 대한 적절한 볼록성 및 단조성 조건 하에서 이러한 기능수의 극값이 가우시안 측도에서 달성됨을 보이는 것.

제안 방법

• 함수 $\varphi \in \Phi_m$를 이용한 은닉 방정식을 통해 비음성 가측 함수 $p_1, \dots, p_m \in \mathscr{F}$의 오르리츠 덧셈을 정의하며, 이 함수 $\varphi$는 각 성분에서 엄격하게 증가하고 $\varphi(\mathbf{0}) = 0$을 만족한다.
• 밀도 함수의 오르리츠 합의 $L^1$-노름으로 정의된 총 질량을 통해 오르리츠 덧셈을 측도로 확장한다.
• 핵심 기능적 도구로 $f$-divergence $D_f(P,Q) = \int_\Omega f(p/q) q \, d\mu$를 사용하며, 이를 선형 오르리츠 덧셈 하에서 일阶 변동으로 해석한다.
• 적분에 대한 젠슨 부등식과 동치임을 보여 이중 기능적 오르리츠-브룬-민코프스키 부등식을 수립한다.
• 측도의 클래스 $\mathscr{D}$에 대해 $f$-divergence의 하한으로서 이중 기능적 오르리츠 애피니티 표면적 $\widetilde{\Omega}_\phi^{orlicz}(P)$를 정의하고, 마찬가지로 지미널 표면적 $\widetilde{G}_\phi^{orlicz}(P)$도 정의한다.
• 로그-볼록 측도 $P$에 대해, 함수 $\phi \in \Phi$일 때, 기능수 $\widetilde{\Omega}_\phi^{orlicz}(P)$와 $\widetilde{G}_\phi^{orlicz}(P)$는 가우시안 측도 $\gamma_n \circ c_1$에서 최댓값을 달성함을 증명한다.

실험 결과

연구 질문

• RQ1 두 측도에 대한 선형 오르리츠 덧셈 하에서 $f$-divergence는 어떻게 일阶 변동으로 해석될 수 있는가?
• RQ2 측도에 대한 이중 오르리츠-브룬-민코프스키 이론의 기능적 유사체는 무엇이며, 고전적 브룬-민코프스키 부등식과 어떻게 관련되어 있는가?
• RQ3 측도에 대한 이중 기능적 오르리츠 애피니티 및 지미널 표면적이 극값을 갖는 조건은 무엇인가?
• RQ4 이중 기능적 오르리츠-브룬-민코프스키 부등식은 적분에 대한 젠슨 부등식과 동치인가?
• RQ5 이중 기능적 오르리츠 표면적은 최소화 또는 최대화될 수 있으며, 만약 가능하면 어떤 측도에서 극값을 달성하는가?

주요 결과

• 이중 기능적 오르리츠-브룬-민코프스키 부등식은 적분에 대한 젠슨 부등식과 동치이며, 정보 이론과 기능적 해석학 사이에 깊은 연결을 수립한다.
• 함수 $\phi \in \Phi$일 때, 이중 기능적 오르리츠 애피니티 표면적 $\widetilde{\Omega}_\phi^{orlicz}(P)$는 $\phi(c_1^n) c_1^{-n} \mu(\gamma_n)$ 이하로 유계이며, $P = \gamma_n \circ c_1$일 때 등호가 성립한다.
• 이중 기능적 오르리츠 지미널 표면적 $\widetilde{G}_\phi^{orlicz}(P)$는 모든 로그-볼록 측도 $P \in \mathscr{D}$ 중에서 가우시안 측도 $\gamma_n \circ c_1$에서 최댓값을 달성한다.
• $\phi$가 엄격히 볼록이지만 $\Phi$에 속하지 않을 경우에도, $\widetilde{\Omega}_\phi^{orlicz}(P)$에 대해 상한 $\phi(c_1^n) c_1^{-n} \mu(\gamma_n)$이 여전히 성립하며, 이때 $c_1 > 0$은 정리 15에서 정의된 바와 같다.
• 주어진 조건 하에서 이중 오르리츠 표면적에 대한 기능적 애피니티 등면적 부등식은 날카롭게 성립하며, 정확히 가우시안 측도에서 극값을 달성한다.
• 제안된 오르리츠 덧셈 연산은 고전적 $L_p$-덧셈을 일반화하며, 비선형 및 비동차 연산 하에서 기하학적 및 정보이론적 기능수를 연구하는 데 있어 민첩한 프레임워크를 제공한다.