[論文レビュー] Pairwise optimal coupling of multiple random variables

Omer Angel, Yinon Spinka|arXiv (Cornell University)|Mar 2, 2019

Limits and Structures in Graph Theory参考文献 10被引用数 6

ひとこと要約

この論文は、一様なランダム置換と再帰的サンプリングの2つの異なる手法を用いて、複数の確率変数への古典的な最適カップリング定理の一般化を実現する。各ペアの不一致確率は、$\frac{2d_{\mathrm{TV}}(X,Y)}{1 + d_{\mathrm{TV}}(X,Y)}$ で抑えられ、いくつかの状況で最良の境界を達成する。両手法とも、最悪ケースでの不一致率が最適になる。

ABSTRACT

We generalize the optimal coupling theorem to multiple random variables: Given a collection of random variables, it is possible to couple all of them so that any two differ with probability comparable to the total-variation distance between them. In a number of cases we show that the disagreement probability we achieve is the best possible. The proofs of sharpness rely on new results in extremal combinatorics, which may be of independent interest.

研究の動機と目的

• 2つの確率変数に対する古典的な最適カップリング定理を、複数の確率変数の集合へと拡張すること。
• 全変動距離を用いて、ペアワイズの不一致確率が抑えられるカップリングを確立すること。
• 導出された境界が、特にサイズが異なる集合上の一様分布の場合に最適であることを証明すること。
• 問題を極値的組合せ論に結びつけ、最適性が集合の交差パターンに関するタイトな境界に依存することを示すこと。
• 一般のコスト関数を用いた多マージン最適輸送への結果の一般化の可能性を検討すること。

提案手法

• 共通のインデックス集合上で一様なランダム置換を用いてカップリングを構築し、変数間の不一致確率を最小化すること。
• Kleinberg–Tardosにインspiredされた再帰的サンプリングに基づく手法を用い、不一致が有界な離散的確率変数をカップリングすること。
• 構造化された確率変数の族、特に部分集合上の一様分布に対して、ペアワイズの不一致数を極値的組合せ論で分析すること。
• 対称性と包含・排除の議論を活用し、族内のすべてのペアにおける総不一致の下界を導出すること。
• 漸近的挙動の分析により、$F(x) = \frac{2x}{1+x}$ という不一致境界の最適性を証明すること。
• $\alpha < 1$ を用いたスケーリング論法により、$\alpha = 1$ の場合の最適性結果を一般の不一致境界へ拡張すること。

実験結果

リサーチクエスチョン

• RQ1 2つの確率変数に対する最適カップリング境界を、不一致のタイトさを保ちつつ複数の確率変数へ一般化できるか？
• RQ2 任意の複数変数カップリングにおいて、$\frac{2d_{\mathrm{TV}}(X,Y)}{1 + d_{\mathrm{TV}}(X,Y)}$ がペアワイズ不一致確率の最良の境界であるか？
• RQ3 一様分布を部分集合上で持つ確率変数の族において、総不一致を最小化する組合せ的構成は何か？
• RQ4 2つの不一致境界の点ごとの最小値は、有効な不一致境界のままか？
• RQ5 結果を一般のコスト関数を用いた多マージン最適輸送へ一般化できるか？

主な発見

• 任意の共通の $\sigma$-有限測度に関して絶対連続な確率変数の族に対して、すべてのペアについて $\mathbb{P}(X \neq Y) \leq \frac{2d_{\mathrm{TV}}(X,Y)}{1 + d_{\mathrm{TV}}(X,Y)}$ を満たすカップリングが存在することを確立した。
• 特に、基数 $n+k$ の基底集合からサイズ $n$ の部分集合上の一様分布に対して、この境界が最適であることが示された。特に $k \gg n$ の場合に成り立つ。
• $d_{\mathrm{TV}} = 1 - \frac{1}{n}$ の場合、最適な不一致確率は $F(1 - \frac{1}{n}) = \frac{2n-2}{2n-1}$ であり、$k \to \infty$ の極限でこの境界はタイトである。
• 最適性の証明は極値的組合せ論に依存する：交差サイズが $n-1$ のペアの数が支配的であり、同じ最小要素を持つようなそのようなペアの最大数は $\frac{n_5}{5}$ であり、これがタイトな境界を導く。
• 漸近的集合系の分析により、$x = 1 - \frac{1}{n}$ の近傍で $F(x) = \frac{2x}{1+x}$ が最適であることが証明された。
• 同じサイズの集合上の一様分布に対して、境界 $\frac{2d_{\mathrm{TV}}}{1 + d_{\mathrm{TV}}}$ がシャープであることが示され、Broder や Charikar の既知の結果と一致する。