[論文レビュー] Selective inference for the problem of regions via multiscale bootstrap

Yoshikazu Terada, Hidetoshi Shimodaira|arXiv (Cornell University)|Nov 2, 2017

Bayesian Methods and Mixture Models参考文献 20被引用数 6

ひとこと要約

本稿では、多変量正規モデルにおける仮説検定のための選択的推論手法を提案する。特に、階層的クラスタリングに焦点を当て、パrameter空間内の任意形状の領域を扱う。マルチスケールブートストラップリサンプリングと符号付き距離および平均曲率を用いた幾何的補正を活用することで、選択バイアスを補正する漸近的第二次の正確さを持つp値を生成する。計算コストは繰り返しブートストラップと同等の効率を達成するが、低コストである。

ABSTRACT

A general approach to selective inference is considered for hypothesis testing of the null hypothesis represented as an arbitrary shaped region in the parameter space of multivariate normal model. This approach is useful for hierarchical clustering where confidence levels of clusters are calculated only for those appeared in the dendrogram, thus subject to heavy selection bias. Our computation is based on a raw confidence measure, called bootstrap probability, which is easily obtained by counting how many times the same cluster appears in bootstrap replicates of the dendrogram. We adjust the bias of the bootstrap probability by utilizing the scaling-law in terms of geometric quantities of the region in the abstract parameter space, namely, signed distance and mean curvature. Although this idea has been used for non-selective inference of hierarchical clustering, its selective inference version has not been discussed in the literature. Our bias-corrected $p$-values are asymptotically second-order accurate in the large sample theory of smooth boundary surfaces of regions, and they are also justified for nonsmooth surfaces such as polyhedral cones. The $p$-values are asymptotically equivalent to those of the iterated bootstrap but with less computation.

研究の動機と目的

• 階層的クラスタリングによって同定されたクラスタに対する頻度的推論における選択バイアスという重要な問題に取り組む。
• 多変量正規パラメータ空間における任意形状の領域に適用可能な一般化された選択的推論フレームワークを構築する。
• 従来の非選択的推論に用いられていたマルチスケールブートストラップ手法を、選択的推論設定に拡張する。
• 繰り返しブートストラップと同等の漸近的正確さを維持しつつ、計算コストを低減した効率的な代替手法を提供する。
• 高次元パラメータ空間における滑らかでない領域（例えば多面体錐）に対しても有効であることを保証する。

提案手法

• パラメータ空間内の領域の幾何的量（符号付き距離および平均曲率）を推定するためにマルチスケールブートストラップリサンプリングを用いる。
• 幾何的量のスケーリング則を用いてブートストラップ確率（BP）のバイアス補正を施し、選択的推論用の補正済みp値を導出する。
• 滑らかな境界条件の下で、漸近的に第二次の正確さを持つp値 $ p_{ ext{SI},k}(H|S,y) $ を導出する。
• 下不完全ガンマ関数と正規化定数を含む積分を用いたp値の表現を採用する。
• 理論的に繰り返しブートストラップのp値と同等であるが、計算コストを低減した。
• 多変量正規性および境界関数のリプシッツ連続性の仮定の下で、手法の有効性を確立する。

実験結果

リサーチクエスチョン

• RQ1 データに依存するクラスタ選択が深刻な選択バイアスを引き起こす階層的クラスタリングにおけるクラスタに、選択的推論を一貫して適用する方法は何か？
• RQ2 マルチスケールブートストラップ手法は、非選択的推論にとどまらず、選択的推論の文脈でも有効なp値を提供できるか？
• RQ3 符号付き距離および平均曲率といった幾何的量は、選択的推論におけるブートストラップ確率のバイアス補正に果たす役割は何か？
• RQ4 本手法は、繰り返しブートストラップと比較して、精度および効率の点でどのように差が現れるか？
• RQ5 多面体錐のように一般的にクラスタリング問題で現れる滑らかでない境界に対しても、本手法は頑健であるか？

主な発見

• 提案手法の選択的推論p値は、多変量正規モデルにおける滑らかな境界条件下で、漸近的に第二次の正確さを達成する。
• 標準ブートストラップと同等の計算効率を達成し、繰り返しブートストラップよりもはるかに低いコストで、同程度の漸近的正確さを維持する。
• バイアス補正済みp値は、下不完全ガンマ関数を用いた表現を通じて、繰り返しブートストラップのp値と理論的に同等であることが示された。
• 滑らかでない領域（多面体錐を含む）に対しても有効であり、実世界のクラスタリング問題への適用範囲を拡大する。
• p値の積分表現を用いた理論的裏付けが提供され、$ I_k( heta) $ および $ J_k( heta) $ を含む条件が第二次の正確さを満たすことが示された。
• 標準ブートストラップ確率（例：pvclust）で観察される重度の選択バイアスを是正する。肺がんデータセットの例では、$ p_{ ext{AU}} $ と $ p_{ ext{SI}} $ の間で顕著な差が確認された。