[論文レビュー] Optimal designs in regression with correlated errors

Holger Dette, Andrey Pepelyshev+1 more|arXiv (Cornell University)|Jan 1, 2015

Optimal Experimental Design Methods参考文献 12被引用数 2

ひとこと要約

本稿では、コンpact区間上の相関誤差を伴う回帰モデルにおける最適設計の完全な解決策を提示する。修正された通常最小二乗推定量（OLS）を導入し、誤差の共分散構造を変換することで、最良線形不偏推定量（BLUE）と同等の漸近的効率性を達成した。連続時間モデルにおける最適設計およびBLUEの明示的解析的表現が得られた。

ABSTRACT

This paper discusses the problem of determining optimal designs for regression models, when the observations are dependent and taken on an interval. A complete solution of this challenging optimal design problem is given for a broad class of regression models and covariance kernels. We propose a class of estimators which are only slightly more complicated than the ordinary least-squares estimators. We then demonstrate that we can design the experiments, such that asymptotically the new estimators achieve the same precision as the best linear unbiased estimator computed for the whole trajectory of the process. As a by-product we derive explicit expressions for the BLUE in the continuous time model and analytic expressions for the optimal designs in a wide class of regression models. We also demonstrate that for a finite number of observations the precision of the proposed procedure, which includes the estimator and design, is very close to the best achievable. The results are illustrated on a few numerical examples.

研究の動機と目的

• 相関誤差を伴う回帰における最適設計という長年の課題を解決すること。
• 最良線形不偏推定量（BLUE）と同等の漸近的精度を達成する修正OLS推定量を開発すること。
• 一般の共分散核を有する連続時間モデルにおける最適設計およびBLUEの明示的解析的表現を導出すること。
• 提案手法が小さな標本サイズに対しても近似的に最適性を保つことを示すこと。

提案手法

• 相関誤差を考慮するための変換を施した修正OLS推定量を提案する。
• 誤差過程を標準ブラウン運動に類似した過程に変換するためのドゥーブ型表現を適用する。
• 変数変換と測度変換を用いて、元の設計問題を独立増分を持つ標準形に変換する。
• 行列重み付き設計および最適設計を、元の測度および共分散構造の変換により導出する。
• 変換されたモデル下で、修正OLSの共分散行列とBLUEの共分散行列が等価であることを確立する。
• リーマン＝スティルチェス積分を用いて、連続時間枠組みにおける符号付き測度および行列重み付き設計を扱う。

実験結果

リサーチクエスチョン

• RQ1 相関誤差を伴う回帰モデルに対して、BLUEの精度に匹敵する最適設計を構築できるか？
• RQ2 相関下で最適設計問題を単純化するための誤差過程のどの変換が有効か？
• RQ3 一般の共分散核を有する連続時間回帰モデルにおいて、最適設計およびBLUEの明示的解析的表現を導出できるか？
• RQ4 有限標本において、提案された推定量および設計の性能は理論的最適値からどれほど離れているか？
• RQ5 提案手法は小さな標本サイズに対してもロバストで効率的か？

主な発見

• 提案された修正OLS推定量は、同じ設計下でBLUEと同等の漸近的分散を達成し、理論的最良精度を効果的に再現する。
• ドゥーブ表現および共分散核の変換を用いて、連続時間モデルにおけるBLUEの明示的解析的表現が導出された。
• 測度変換を用いることで、広範な回帰モデルおよび共分散核に対して最適設計が閉形式で得られた。
• 有限標本においても、最適設計下でのBLUEとの効率的損失は無視できるほど小さく、Nが小さい場合でも顕著でない。
• 変換枠組みにより、変換されたモデル下で修正推定量の共分散行列がBLUEの共分散行列と等しくなることが保証され、漸近的同等性が証明された。
• 本手法により、連続時間モデルから得られる最適戦略を離散的・有限標本設定に実装可能となり、効率的損失を最小限に抑えられる。