[论文解读] Semiparametric estimation of a mixture of two linear regressions where one component is known

Laurent Bordes, Ivan Kojadinovic+1 more|arXiv (Cornell University)|Jan 1, 2012

Statistical Methods and Inference参考文献 19被引用 2

一句话总结

本文提出了一种计算高效的半参数方法，用于估计一个已知分量的两分量线性回归混合模型。通过用 O(n) 的矩方法估计量替代先前工作中基于优化的 O(n²) 方法，该方法在弱条件下实现了渐近正态性——无需假设误差分布关于零对称——从而能够更广泛地应用于大规模数据集，如双色ChIP-chip微阵列数据。

ABSTRACT

A new estimation method for the two-component mixture model introduced in Vandekerkhove (2012) is proposed. This model, which consists of a two-component mixture of linear regressions in which one component is entirely known while the proportion, the slope, the intercept and the error distribution of the other component are unknown, seems to be of interest for the analysis of large datasets produced from two-color ChIPchip high-density microarrays. In spite of good performance for datasets of reasonable size, the method proposed in Vandekerkhove (2012) suffers from a serious drawback when the sample size becomes large, as it is based on the optimization of a contrast function whose pointwise computation requires O(n2) operations. The range of applicability of the method derived in this work is substantially larger as it is based on a method-of-moment estimator whose computation only requires O(n) operations. From a theoretical perspective, the asymptotic normality of both the estimator of the Euclidean parameter vector and of the semiparametric estimator of the c.d.f. of the error is proved under weak conditions not involving the zero-symmetry assumption typically used this last decade. The finite-sample performance of the latter estimators is studied

研究动机与目标

• 解决在两分量线性回归混合模型中，现有方法在大样本规模下的计算低效问题。
• 通过引入一种更快的替代方法，克服Vandekerkhove (2012) 中对比函数优化带来的 O(n²) 计算负担。
• 开发一种在弱正则性条件下依然有效的估计方法，特别是无需对误差分布的零对称性做假设。
• 通过渐近正态性证明确保理论有效性，涵盖欧几里得参数向量和误差分布累积分布函数的半参数估计量。
• 实现对高密度微阵列数据（如双色ChIP-chip实验数据）的实际应用，其中样本量大且计算效率至关重要。

提出的方法

• 提出一种矩方法估计量，作为对比函数优化的计算高效替代方案。
• 通过避免对所有观测对逐点评估对比函数，将计算复杂度从 O(n²) 降低至 O(n)。
• 利用来自结构模型的矩条件，估计未知分量的未知参数（斜率、截距、比例及误差分布）。
• 在弱正则性条件下，建立对欧几里得参数向量估计量的渐近正态性。
• 在不假设误差项分布关于零对称的条件下，证明误差分布累积分布函数的半参数估计量的渐近正态性。
• 利用基于条件矩的估计方程，一致且高效地识别未知分量的参数。

实验结果

研究问题

• RQ1 能否为一个已知分量的两分量线性回归混合模型中的半参数估计，开发出一种计算可扩展的方法？
• RQ2 所提出的方法是否在弱于先前工作的条件下保持理论有效性与渐近正态性，特别是无需假设误差分布关于零对称？
• RQ3 该方法是否能在保持估计精度的同时，实现 O(n) 的计算复杂度，而相较于 O(n²) 的基于对比的方法？
• RQ4 在实际样本规模下，矩方法估计量的有限样本性能与基于对比的估计量相比如何？
• RQ5 该方法是否适用于并有效处理大规模生物数据集，如双色ChIP-chip微阵列产生的数据？

主要发现

• 所提出的方法实现了 O(n) 的计算复杂度，相较于Vandekerkhove (2012) 的 O(n²) 对比方法，显著提升了可扩展性。
• 在弱正则性条件下，对欧几里得参数向量估计量的渐近正态性已得到证明，且无需对误差分布的零对称性做假设。
• 在相同弱条件下，误差分布累积分布函数的半参数估计量也具有渐近正态性。
• 有限样本性能评估表明，即使在中等样本量下，矩方法估计量仍保持了强大的估计精度。
• 由于计算效率高且理论基础稳健，该方法特别适用于大规模数据集，如高密度双色ChIP-chip微阵列产生的数据。
• 无需零对称性假设，显著拓宽了模型在现实世界数据中的适用范围，因为此类对称性在实际中常被违反。