[論文レビュー] Minimization of divergences on sets of signed measures

Michel Broniatowski, Amor Keziou|arXiv (Cornell University)|Mar 29, 2010

Risk and Portfolio Optimization参考文献 32被引用数 49

ひとこと要約

本稿は、参照確率測度 P と符号付き有限測度の部分集合との間の φ-発散の最小化に関する存在および特徴付け条件を確立する。特に線形モーメント制約の下で、弱位相と Fenchel 双対性を用いて φ-射影の存在を証明し、双対達成および一意性の十分条件を提示する。これにより、最大エントロピーおよび経験尤度フレームワークが、一般の発散を用いた符号付き測度へと拡張される。

ABSTRACT

We consider the minimization problem of $ϕ$-divergences between a given probability measure $P$ and subsets $Ω$ of the vector space $\mathcal{M}_\mathcal{F}$ of all signed finite measures which integrate a given class $\mathcal{F}$ of bounded or unbounded measurable functions. The vector space $\mathcal{M}_\mathcal{F}$ is endowed with the weak topology induced by the class $\mathcal{F}\cup \mathcal{B}_b$ where $\mathcal{B}_b$ is the class of all bounded measurable functions. We treat the problems of existence and characterization of the $ϕ$-projections of $P$ on $Ω$. We consider also the dual equality and the dual attainment problems when $Ω$ is defined by linear constraints.

研究の動機と目的

• 弱位相の下で、符号付き有限測度の閉凸集合への確率測度 P の φ-射影の存在および特徴付けを確立すること。
• 最小発散推定の理論を、最小化測度が確率測度でない場合を含む符号付き測度へと拡張すること。
• 線形モーメント制約の下で φ-発散最小化の双対問題における双対解の存在および達成の十分条件を提供すること。
• 最大エントロピー、経験尤度、モーメント問題のアプローチを、共通の φ-発散フレームワークの下で統一および一般化すること。
• Fenchel 双対性および凸関数 φ の逆導関数写像を用いて、最小化測度の構造を特徴付けること。

提案手法

• 有界可測関数の族と与えられた関数族 F によって誘導される弱位相を用いて、符号付き測度空間における収束を定義する。
• Fenchel 双対性を適用して、プライマルの φ-発散最小化問題をラグランジュ乗数上の双対最適化問題に変換する。
• 符号付き測度の Lebesgue 分解を用いて、絶対連続でない測度に対しても Radon-Nikodym 微分と特異部を用いて φ-発散を定義する。
• 発散生成関数 φ の凸共役 φ* を取り、双対問題を導出し、双対目的関数を sup_λ {λ₀ − ∫φ*(λᵀg(x)) dP(x)} と得る。
• φ の逆導関数 φ′⁻¹ を用いて、正則性条件下で最小化測度 Q* を dQ*/dP = φ′⁻¹(λᵀg(x)) により構成する。
• 凸解析の定理（例：定理 2.5–2.7）を用いて、制約集合の位相的および凸性仮定の下で最小化測度の存在を保証する。

実験結果

リサーチクエスチョン

• RQ1 確率測度 P が符号付き測度の閉凸集合へ射影される φ-射影が存在する条件は何か？
• RQ2 φ-発散最小化の双対問題が達成可能となる条件は何か？また、双対解が一意となる条件は何か？
• RQ3 制約がモーメント空間において線形であるとき、φ-発散の最小化測度を明示的に特徴付ける方法は何か？
• RQ4 φ-射影が参照測度 P と同じ台を持つように保証する条件は何か？
• RQ5 双対等式が成立する場合と、双対最適解が達成される場合の条件は何か？

主な発見

• 集合が閉であり、発散がその集合上で有限である限り、弱位相の下で符号付き測度の閉凸集合への P の φ-射影は存在する。
• φ が強凸かつ可微分であるとき、最小化測度 Q* は dQ*/dP = φ′⁻¹(λ̄ᵀg(x)) を満たすある双対乗数 λ̄ により一意に特徴付けられる。
• 双対達成は、共役関数 φ* の定義域の内部に双対解 λ̄ が存在する場合に成立し、双対目的関数が有限であることを保証する。
• φ(0) = ∞ および lim|x|→∞ φ(x)/|x| = ∞ などの条件下で、双対等式 inf_Q∈M_g φ(Q,P) = sup_λ {λ₀ − ∫φ*(λᵀg(x)) dP(x)} が成立する。
• 双対達成の十分条件として、(i) φ(0) = ∞、(ii) φ が無限大で線形より速く増加、(iii) 制約関数 g_i が有界または共役指数 k における L_k に属する、が挙げられる。
• φ が本質的に滑らかでかつ強凸である場合、双対最適解 λ̄ は一意であり、これにより φ-射影の一意性が保証される。