[論文レビュー] An Exponential-Polynomial Divergence-based Robust Information Criterion for Linear Panel Data Models and Neural Networks

Udita Goswami, Shuvashree Mondal|arXiv (Cornell University)|Mar 25, 2026

Spatial and Panel Data Analysis被引用数 0

ひとこと要約

Exponential-Polynomial Divergence Information Criterion (EPDIC) と Minimum Exponential-Polynomial Divergence Estimator (MEPDE) を導入し、一般化スコアマッチングを用いた調整で汚染データに対してロバストなモデル選択を実現。線形パネルデータモデルおよびニューラルネットワークに適用可能で、影響関数解析を含む。

ABSTRACT

Model selection is a cornerstone of statistical inference, where information criteria are widely employed to balance model fit and complexity. However, classical likelihood-based criteria are often highly sensitive to contamination, outliers, and model misspecification. In this paper, we develop a robust alternative based on the Exponential-Polynomial Divergence, a flexible extension of existing divergence measures that enhances adaptability to diverse data irregularities. The proposed Exponential-Polynomial Divergence Information Criterion preserves the objective of approximating the discrepancy between the true model and candidate models while incorporating robustness against anomalous observations. Its theoretical properties are established, and robustness is examined through influence function analysis, demonstrating controlled sensitivity to extreme data points. For practical implementation, a data-driven tuning parameter selection strategy based on generalized score matching is employed, ensuring improved computational stability and efficiency. The effectiveness of the proposed method is demonstrated through extensive simulation studies under varying contamination levels, as well as real data applications involving linear mixed-effects panel data models and neural network-based prediction tasks. The results consistently show improved stability and reliability compared to classical likelihood and density power divergence-based information criteria. The proposed framework thus provides a practical and unified approach for model selection in complex and contaminated data settings.

研究の動機と目的

• 汚染、外れ値、ミススペシフィケーションのある状況でのロバストなモデル選択を動機づける。
• DPD、BED、KL ダイバージェンスを一般化する柔軟なダイバージェンスベースの枠組みを開発する。
• Exponential-Polynomial Divergence Information Criterion (EPDIC) とその推定量に基づく性質を定義・分析する。
• 安定性と効率性を確保するため、一般化スコアマッチングを用いた調整パラメータ選択を提供する。

提案手法

• 三つの調整パラメータ α, β, γ を用いて Exponential-Polynomial Divergence (EPD) を定義し、複数のダイバージェンス（DPD、BED、KL）を統一する。
• 経験的EPD を最小化することにより Minimum Exponential-Polynomial Divergence Estimator (MEPDE) を導出し、重み w(t)=β t e^{α t}+(1-β)(1+γ)t^{γ} を用いた加重推定方程式を得る。
• MEPDE は独立性非同質観測に対する MDPDE のロバストな一般化であることを示し、正則性条件の下で一貫性と漸近正規性を確立する。
• Exponential-Polynomial Divergence Information Criterion (EPDIC) を nH_n^{(α,β,γ)}( hetâ) + tr(Omega Psi^{-1}) として定式化し、堅牢な枠組みで TIC と AIC に接続する。
• EPDIC の影響関数を分析し、α>0 および γ>0 のとき影響が有界となるロバスト性を示す。
• GSM による調整パラメータ選択を提案し、Fisher ダイバージェンスを最小化して α、β、γ を選択する。

実験結果

リサーチクエスチョン

• RQ1 汚染下でのモデル選択のための Exponential-Polynomial Divergence に基づくロバストな情報基準をどう構築するか。
• RQ2 提案された MEPDE と EPDIC の漸近性・ロバスト性（一貫性、正規性、影響関数）はどうなるか。
• RQ3 データ駆動で安定した方法で α、β、γ を GSM で選択するにはどうするか。
• RQ4 提案手法はパネルデータとニューラルネットワークの文脈で、古典的な尤度ベース基準や DPD ベース基準と比較して安定性・信頼性を向上させるか。

主な発見

• EPDIC は AIC/TIC のロバストな代替を提供し、漸近的な TIC に類似した補正項 tr(Omega Psi^{-1}) を有する。
• MEPDE は独立非同質データの標準的正則性条件の下で一貫性と漸近正規性を持つ。
• EPDIC の影響関数は α>0 および γ>0 のとき有界であり、アウトライアに対してロバストである一方、(α,β,γ)→(0,0,0) のときは有界性が崩れる。
• GSM に基づく調整パラメータ選択は、正規化定数を用いずにデータ適応的で計算的に安定した α、β、γ の選択法を提供する。
• 線形混合効果パネルモデルやニューラルネットワークの実データ実験・シミュレーションは、古典的な尤度基準および DPD ベースの基準よりも安定性と信頼性の向上を示した。