[論文レビュー] Pliable Methods for Post-Selection Inference Under Convex Constraints

Snigdha Panigrahi, Jonathan Taylor+1 more|arXiv (Cornell University)|May 28, 2016

Statistical Methods and Inference被引用数 1

ひとこと要約

本稿では、凸制約下での線形モデルにおけるモデル選択後推論のための柔軟なベイジアン枠組みを提案する。モデル選択条件下での不確実な正確尤度のための新規近似を用いる。この手法は漸近的に一貫性を示し、新規データが到着する状況でも実用的で適応可能な推論を可能にする。シミュレーションおよびHIV薬剤耐性解析を通じて実証された。

ABSTRACT

Inference after model selection has been an active research topic in the past few years, with numerous works offering different approaches to addressing the perils of the reuse of data. In particular, major progress has been made recently on large and useful classes of problems by harnessing general theory of hypothesis testing in exponential families, but these methods have their limitations. Perhaps most immediate is the gap between theory and practice: implementing the exact theoretical prescription in realistic situations---for example, when new data arrives and inference needs to be adjusted accordingly---may be a prohibitive task. In this paper we propose a Bayesian framework for carrying out inference after model selection in the linear model. Our framework is very flexible in the sense that it naturally accommodates different models for the data, instead of requiring a case-by-case treatment. At the core of our methods is a new approximation to the exact likelihood conditional on selection, the latter being generally intractable. We prove that, under appropriate conditions, our approximation is asymptotically consistent with the exact truncated likelihood. The advantages of our methods in practical data analysis are demonstrated in simulations and in application to HIV drug-resistance data.

研究の動機と目的

• 理論的後選択推論手法と動的データ環境における実装の間のギャップを埋めること。
• 個別のケースごとの調整を必要としない、さまざまなデータモデルに対応可能な柔軟な枠組みを開発すること。
• モデル選択条件下での正確な切断尤度に対する計算可能な近似を提供すること。
• 提案された近似が真の条件付き尤度と漸近的に一貫性を示すことを保証すること。
• シミュレーションおよびHIV薬剤耐性データへの実世界応用を通じて、実用的有用性を示すこと。

提案手法

• 線形モデルに凸制約を課した状況下でのモデル選択後の推論に、ベイジアンアプローチを採用する。
• 選択されたモデル条件下での不確実な正確尤度に対する新規な近似を導入する。
• この近似は、正則性条件の下で真の切断尤度と漸近的に一貫性を保つように設計されている。
• 新規データが到着する際の逐次的更新が可能であり、リアルタイム推論を支援する。
• このアプローチは一般性に富んでおり、異なるデータモデルや制約に対して再設計を必要としない。
• 設計およびモデル選択に関する適切な正則性条件の下で、理論的保証が確立されている。

実験結果

リサーチクエスチョン

• RQ1 凸制約が存在する状況において、後選択推論を理論的に妥当かつ実用的に可能にする方法は何か？
• RQ2 異なるモデルに対して個別対応を要しない汎用的ベイジアン枠組みを構築できるか？
• RQ3 計算的に扱いやすく、かつ漸近的に一貫性を持つ条件付き尤度の近似は何か？
• RQ4 新規観測値が時間経過とともに到着する逐次的データ環境において、この手法はどのように機能するか？
• RQ5 HIV薬剤耐性解析のような実世界応用において、この手法の経験的性能はいかがなものか？

主な発見

• 提案された尤度近似は、正則性条件の下で正確な切断尤度と漸近的に一貫性を示す。
• この枠組みにより、新規データが到着し、モデル選択を更新する必要がある動的環境でも実用的な推論が可能になる。
• シミュレーションでは、後選択信頼区間の適切な頻度的カバレッジ性が維持されていることが示された。
• モデル固有のチューニングを必要とせず、多様なデータモデルにおいても頑健な性能を示した。
• HIV薬剤耐性応用において、選択された遺伝子変異について解釈可能で信頼性の高い推論が得られた。
• ベイジアン枠組みは、凸制約下での後選択推論に対して柔軟かつスケーラブルなソリューションを提供する。