[論文レビュー] Penalized importance sampling for parameter estimation in stochastic differential equations

Libo Sun, Chihoon Lee+1 more|arXiv (Cornell University)|May 19, 2013

Statistical Methods and Inference被引用数 1

ひとこと要約

本論文は、遷移密度が解析的に扱いにくい状況、特に部分的またはスパースな観測下において、確率微分方程式のパラメータを推定するためのペナルティ付きインポートランスサンプリング手法を提案する。この手法は、慢性廃れ病のモデル化を通じて、困難な生態学的・疫学的状況下での推定精度の向上を示している。

ABSTRACT

We consider the problem of estimating parameters of stochastic differential equa-tions with discrete-time observations that are either completely or partially observed. The transition density between two observations is generally unknown. We propose a penalized importance sampling approach to approximate the transition density. Sim-ulation studies in three different models illustrate promising improvements of the new penalized importance sampling method. The new procedure is designed for the chal-lenging case when some state variables are unobserved and moreover, observed states are sparse over time, which commonly arises in ecological studies. We apply this new approach to two epidemics of chronic wasting disease in mule deer.

研究の動機と目的

• 遷移密度が解析的に扱いにくい確率微分方程式におけるパラメータ推定を解決すること。
• 部分的に観測されたり、スパースに観測されたりする状態変数を伴う状況での推定精度の向上。
• 限られたデータを伴う生態学的・疫学的応用に適したロバストな手法の開発。
• 連続時間ダイナミクスを伴う隠れマルコフモデルにおける尤度ベース推論におけるバイアスと分散の低減。

提案手法

• 本手法は、SDEにおける離散的観測間の扱いにくい遷移密度を近似するためにインポートランスサンプリングを用いる。
• 重要度付き重みの安定性と分散の低減を図るために、ペナルティ項を導入する。
• 最適化の過程でスコア関数にペナルティを適用することで、収束性とロバスト性を向上させる。
• 観測データに適合した適応的提案密度を用いたモンテカルロサンプリングにより、本手法を実装する。
• 未観測状態は、ペナルティ付き重みを用いたインポートランスサンプリングにより統合して取り扱う。
• 準ニュートン法を用いて最尤推定を最適化することで、ペナルティ付き尤度を最大化する。

実験結果

リサーチクエスチョン

• RQ1 ペナルティ付きインポートランスサンプリングは、未観測状態とスパース観測を伴うSDEにおけるパラメータ推定を改善できるか？
• RQ2 バイアスと分散の観点から、ペナルティ付きアプローチは標準的インポートランスサンプリングと比べてどのように異なるか？
• RQ3 限られたデータを伴う現実的な生態学的・疫学的モデルにおける本手法の性能はいかがなものか？
• RQ4 ペナルティ項の導入により、SDEにおける尤度ベース推論の収束性と安定性が向上するか？
• RQ5 本手法は、慢性廃れ病の流行のような現実の病気ダイナミクスに効果的に応用可能か？

主な発見

• 未観測状態が存在する状況において、標準的インポートランスサンプリングと比較して、ペナルティ付きインポートランスサンプリングは顕著に推定バイアスを低減する。
• スパース観測の環境下でも、パラメータ推定における収束性と安定性が向上している。
• シミュレーションスタディでは、3つの異なるSDEモデルにおいて一貫したパラメータ回復の改善が示された。
• 本手法は、データがスパースで未観測状態が一般的な2つの現実の慢性廃れ病の流行においても、パラメータを適切に推定できた。
• ペナルティ成分により、重要度重みの分散が効果的に制御され、より信頼性の高い推論が可能になった。
• 高頻度の測定スパarsityと隠れたダイナミクスを伴う状況において、既存の手法を上回る性能を示した。