[论文解读] Non-parametric estimation in a semimartingale regression model. Part 1. Oracle Inequalities

Victor Konev, Serguei Pergamenchtchikov|ArXiv.org|Sep 17, 2009

Stochastic processes and financial applications参考文献 13被引用 5

一句话总结

本文提出了一种非参数估计周期函数的模型选择程序，适用于具有广义半鞅噪声的连续时间回归模型。在对噪声结构假设极少的前提下，建立了精确的非渐近 oracle 不等式，确保在包括扩散和跳变分量在内的广泛噪声过程类中实现最优估计性能。

ABSTRACT

This paper considers the problem of estimating a periodic function in a continuous time regression model with a general square integrable semimartingale noise. A model selection adaptive procedure is proposed. Sharp non-asymptotic oracle inequalities have been derived.

研究动机与目标

• 为具有广义平方可积半鞅噪声的连续时间回归模型中的周期信号开发一种自适应估计程序。
• 推导出非渐近 oracle 不等式，以信号未知平滑度和噪声特征为依据量化估计风险。
• 确保所提出的程序在无需事先知晓信号平滑度或噪声分布的情况下实现最优收敛速率。
• 将现有的非参数估计理论扩展至包含扩散与跳变分量混合的半鞅驱动模型。
• 提供一种理论基础坚实、基于模型选择的方法，能够自适应未知正则性与噪声结构。

提出的方法

• 作者考虑一个连续时间回归模型，其中信号为 1-周期函数，噪声为广义平方可积半鞅。
• 定义关于半鞅噪声的随机积分，并利用条件 $\mathbb{E}[I_n^2(f)] \leq \sigma^* \int_0^n f^2(s) ds$ 建立矩界。
• 基于由复杂度参数索引的一族估计量，构建一个基于数据驱动惩罚函数的模型选择程序。
• 该方法依赖于周期信号的傅里叶基展开，并利用不同正则性假设下傅里叶系数的性质。
• 通过非渐近分析随机积分和局部鞅上确界的偏差-方差权衡，推导出精确的 oracle 不等式。
• 分析包括对噪声过程上确界的界估计以及复合泊松分量的矩估计，以确保可积性与收敛性。

实验结果

研究问题

• RQ1 能否在具有周期信号的半鞅回归模型中，为非参数估计建立非渐近 oracle 不等式？
• RQ2 如何设计一种模型选择程序，使其能够自适应未知的信号平滑度与未知的噪声特征？
• RQ3 当噪声为广义半鞅（包括扩散与跳变分量）时，估计周期函数的最优收敛速率是什么？
• RQ4 估计风险在多大程度上可由信号的 $L^2$-范数与噪声强度 $\sigma^*$ 有界？
• RQ5 在不同正则性条件下，信号的傅里叶系数如何影响估计程序的性能？

主要发现

• 本文建立了精确的非渐近 oracle 不等式，能够统一控制在周期信号与半鞅噪声类上的估计风险。
• 所提出的模型选择程序在无需事先知晓信号平滑度或噪声分布的情况下，实现了最优收敛速率。
• 对于可微周期信号 $S$，其傅里叶系数满足 $\sup_{l \geq 2} l \sum_{j=l}^\infty \theta_j^2 \leq 4 |\dot{S}|_1^2$，这对控制估计程序中的偏差至关重要。
• 随机积分 $I_n(f) = \int_0^n f_s d\xi_s$ 定义良好，具有零均值，且方差有界于 $\sigma^* \int_0^n f^2(s) ds$，从而确保估计量的稳定性。
• 分析表明，噪声过程 $\xi_t = \varrho_1 w_t + \varrho_2 z_t$（其中 $z_t$ 为复合泊松过程）满足 oracle 不等式成立所必需的矩条件。
• 该方法对混合噪声类型（包括连续扩散与不连续跳变分量）具有鲁棒性，这一点通过涉及 $\mathbb{E}|Y_1|^3$ 与 $\mathbb{E}N_n^3$ 的矩估计得到验证。