[论文解读] Nonparametric estimation in a semimartingale regression model. Part 2. Robust asymptotic efficiency

Victor Konev, Serguei Pergamenchtchikov|ArXiv.org|Sep 17, 2009

Stochastic processes and financial applications参考文献 11被引用 10

一句话总结

本文建立了在连续时间回归模型中，针对周期信号的非参数估计，模型选择程序的渐近效率。通过引入鲁棒风险（即在一大类噪声分布上，二次风险的上确界），作者推导出紧致的渐近界，并证明了Pinsker常数可被达到，从而在模型误设下确认了该程序的最优性。

ABSTRACT

In this paper we prove the asymptotic efficiency of the model selection procedure proposed by the authors in the first part. To this end we introduce the robust risk as the least upper bound of the quadratical risk over a broad class of observation distributions. Asymptotic upper and lower bounds for the robust risk have been derived. The asymptotic efficiency of the procedure is proved. The Pinsker constant is found.

研究动机与目标

• 建立在具有周期信号的半马氏回归模型中，非参数估计的模型选择程序的渐近效率。
• 定义并分析一种鲁棒风险度量，以考虑噪声分布的不确定性，确保在模型误设下的性能保证。
• 推导鲁棒风险的紧致渐近上界与下界，从而确定最优收敛速率。
• 证明所提出的模型选择程序可达到Pinsker常数，从而在一大类噪声分布下确认其渐近效率。

提出的方法

• 将鲁棒风险定义为满足矩条件和可积性条件的一族噪声分布上，二次风险的上确界。
• 利用半马氏噪声的随机积分表示，并通过条件 (1.4) 假设零均值和有界方差，使用统一的上界 σ*。
• 应用分部积分法与Buniakowski–Cauchy–Schwarz不等式，在鲁棒风险框架下推导二次风险的下界。
• 推导得分函数 Ψj = ∂/∂θj ln(f(y,z)Φ(z))，并利用其将估计量的偏差与方差联系至费舍尔信息量。
• 证明鲁棒风险的下界依赖于信号分量 Sj 的 L² 范数与噪声方差 σ*，从而导出Pinsker型界。
• 利用半马氏噪声的结构及观测的条件分布，推导费舍尔信息量及其在下界中的作用。

实验结果

研究问题

• RQ1 文献[10]提出的模型选择程序是否可在模型误设下实现渐近效率？
• RQ2 在具有半马氏噪声的非参数估计中，鲁棒风险的紧致下界是什么？
• RQ3 在该模型的鲁棒风险框架下，Pinsker常数是否作为最优速率出现？
• RQ4 当鲁棒风险被定义为在一大类噪声分布上，二次风险的上确界时，其渐近行为如何？
• RQ5 在该半马氏设定下，费舍尔信息量与鲁棒风险下界之间存在何种关系？

主要发现

• 鲁棒风险具有紧致的渐近上界与下界，确认了模型选择程序的最优性。
• 推导出Pinsker常数，并证明其为鲁棒风险的精确下界，表明该程序在渐近下是高效的。
• 二次风险的下界可表示为 B²j / E[Ψ²j]，其中 Bj 为偏差项，E[Ψ²j] 为费舍尔信息量，从而导出紧致的Oracle不等式。
• 渐近下界依赖于信号分量 Sj 的 L² 范数与噪声方差 σ*，在给定的矩条件下该界是紧致的。
• 通过分部积分法推导出得分函数 Ψj，并证明其满足 E[Ψj] = 0 与 E[Ψ²j] = (1/σ*)∫₀ⁿ S²j(t) dt + Ij，其中 Ij 表示高阶项。
• 当模型选择程序能自适应未知的信号光滑度时，鲁棒风险被最小化，且在极限下达到Pinsker常数。