[論文レビュー] A new approach to optimal designs for correlated observations

Holger Dette, Maria Konstantinou+1 more|arXiv (Cornell University)|Jan 1, 2015

Optimal Experimental Design Methods参考文献 13被引用数 2

ひとこと要約

本稿では、相関誤差を伴う線形回帰モデルにおける最適設計および効率的推定器を構築するための新しい連続時間的手法を提案する。確率積分とドーブ＝マイヤー分解を活用することで、最良線形不偏推定量（BLUE）を確率積分として表現し、離散近似が重み付き最小二乗推定量およびその最適設計と実質的に同一となるようにする。これにより、非凸最適化を必要とせず、高い効率性と実装の容易さを実現する。

ABSTRACT

This paper presents a new and effcient method for the construction of optimal designs for regression models with dependent error processes. In contrast to most of the work in this field, which starts with a model for a finite number of observations and considers the asymptotic properties of estimators and designs as the sample size converges to infinity, our approach is based on a continuous time model. We use results from stochastic anal- ysis to identify the best linear unbiased estimator (BLUE) in this model. Based on the BLUE, we construct an efficient linear estimator and corresponding optimal designs in the model for finite sample size by minimizing the mean squared error between the opti- mal solution in the continuous time model and its discrete approximation with respect to the weights (of the linear estimator) and the optimal design points, in particular in the multi-parameter case. In contrast to previous work on the subject the resulting estimators and corresponding optimal designs are very efficient and easy to implement. This means that they are practi- cally not distinguishable from the weighted least squares estimator and the corresponding optimal designs, which have to be found numerically by non-convex discrete optimization. The advantages of the new approach are illustrated in several numerical examples.

研究の動機と目的

• 従属誤差を伴う回帰モデルの最適設計を構築する課題に対処すること。これは一般的に非凸最適化問題を引き起こす。
• 重み付き最小二乗推定量のための複雑な非凸数値最適化を必要とする、漸近的および離散時間的手法の限界を克服すること。
• 最適重み付き最小二乗推定量およびその対応する設計と実質的に同一となる推定量および設計を提供する手法を開発すること。
• 特に多パラメータモデルにおいて、従来の手法の代替として計算的に効率的かつ実装可能な代替手法を提供すること。
• 確率積分と測度の絶対連続性に基づく厳密な連続時間枠組みを構築し、BLUEを導出すること。

提案手法

• 本手法は、相関誤差を伴う連続時間線形回帰モデルに立脚し、ドーブ＝マイヤー分解とC([a,b])上での測度の絶対連続性を用いて、最良線形不偏推定量（BLUE）を導出する。
• BLUEは、連続時間における最適解として、確率積分 ∫₀ᵇ ˙f(t) dYt として表現される。
• 有限標本では、連続時間BLUEとその離散近似との平均二乗誤差を最小化することで、重みμiおよび設計点tiを最適化する。
• 本手法は伊藤の公式と測度論的道具を用いて、共分散構造を導出し、得られる推定量の最適性を証明する。
• 定数項を含むモデルでは、定数項を分離し、変換されたモデルを用いて残りの成分に対するBLUEの導出を実施する。
• 得られる推定量は、観測値の行列重み付き線形結合であり、連続時間解への近似誤差を最小化するように設計点と重みが選ばれる。

実験結果

リサーチクエスチョン

• RQ1 連続時間確率モデルは、有限標本において重み付き最小二乗推定量およびその最適設計と実質的に同一となる最適推定量および設計をもたらすことができるか？
• RQ2 相関誤差を伴う連続時間モデルにおいて、最良線形不偏推定量（BLUE）はどのように表現され、計算可能か？
• RQ3 平均二乗誤差および設計効率の観点から、連続時間BLUEとその離散近似との関係は何か？
• RQ4 提案手法は、非凸離散最適化を必要とせず、多パラメータモデルにおいても高い効率性を達成できるか？
• RQ5 定数項の導入は、最適推定量および設計の導出および実装にどのような影響を及えるか？

主な発見

• 提案された推定量は、重み付き最小二乗推定量と漸近的に同等であり、連続時間における完全な軌道から導出される最良線形不偏推定量（BLUE）と同一の精度を達成する。
• 本手法は、多パラメータモデルでさえも、最適重み付き最小二乗推定量およびその対応する最適設計と実質的に同一となる推定量および設計を生成する。
• 得られる推定量は実装が容易であり、従来のアプローチとは異なり、複雑な非凸離散最適化問題を解く必要がない。
• f(0) = 0 であるモデルでは、BLUEは ˆθBLUE = M⁻¹₀ ∫₀ᵇ ˙f(t) dYt に簡略化され、Var(ˆθBLUE) = M⁻¹₀ となる。これは解析的に扱いやすい。
• 定数項を含むモデル（1 ∈ span{f₁,…,fₘ}）では、定数項を分離し、残りのパラメータに対するBLUEを ∫₀ᵇ ˙˜f(t) dYt を用いて導出し、共分散行列を ˜M⁻¹₀ とする。
• 誤差過程が統合的であるか、滑らかなサンプルパスを持つ場合、本手法は均等設計に対しても高い効率性を達成する。