[論文レビュー] Autocorrelated Optimize-via-Estimate: Predict-then-Optimize versus Finite-sample Optimal

Zichun Wang, Gar Goei Loke+1 more|arXiv (Cornell University)|Feb 2, 2026

Advanced Bandit Algorithms Research被引用数 0

ひとこと要約

本論文は A-OVE を提案する。A-OVE は VARMA の自己相関を考慮した Optimize-via-Estimate であり、oracle に対するリグレットが低く、取引コストを伴うポートフォリオ最適化において PTO/ETO ML ベンチマークを上回る。

ABSTRACT

Models that directly optimize for out-of-sample performance in the finite-sample regime have emerged as a promising alternative to traditional estimate-then-optimize approaches in data-driven optimization. In this work, we compare their performance in the context of autocorrelated uncertainties, specifically, under a Vector Autoregressive Moving Average VARMA(p,q) process. We propose an autocorrelated Optimize-via-Estimate (A-OVE) model that obtains an out-of-sample optimal solution as a function of sufficient statistics, and propose a recursive form for computing its sufficient statistics. We evaluate these models on a portfolio optimization problem with trading costs. A-OVE achieves low regret relative to a perfect information oracle, outperforming predict-then-optimize machine learning benchmarks. Notably, machine learning models with higher accuracy can have poorer decision quality, echoing the growing literature in data-driven optimization. Performance is retained under small mis-specification.

研究の動機と目的

• 有限サンプルの不確実性下でデータ駆動型最適化を動機づける。
• VARMA(p,q) 不確実性に対する自己相関を持つ Optimize-via-Estimate モデル A-OVE を提案する。
• 尤度に基づく分解（Fisher-Neyman 分解）を用いて十分統計量を再帰的に計算する方法を導出する。
• 取引コストを伴うポートフォリオ最適化へ A-OVE を適用し、PTO/ETO ベースラインと比較する。
• モデルの小さなミス指定性に対するロバスト性を示し、実データで検証する。

提案手法

• データ駆動型最適化フレームワーク（PTO, ETO, FPtP, OVE）を定義する。
• OVE を自己相関を持つVARMA(p,q) 不確実性へ拡張し、L(Y;ξ) のFisher-Neyman分解を導出する。
• A-OVE の意思決定が十分統計量の関数として計算可能であることを、尤度ベースの定式化で示す。
• 重み付き十分統計量を用いた閉形式の A-OVE 解を与える系を述べる：xOVE = (D1̄ + D2̄)^{-1}(μ0 D1̄ e + D2̄ x0).
• Algorithm 1 を開発し、事前分布 u によるξ のモンテカルロ積分を介して A-OVE を近似する。
• 取引コストを組み込んだポートフォリオ問題を特化し、二次コスト形状と 明示的な PTO/ETO/FPtP/A-OVE 解を導く。

実験結果

リサーチクエスチョン

• RQ1 A-OVE は VARMA(p,q) 不確実性の下で PTO/ETO ベンチマークよりも外部データのリグレットを低く抑えられるか。
• RQ2 VARMA の十分統計量をどのように計算し、実現可能な A-OVE 解へ活用できるか。
• RQ3 A-OVE は中程度のモデルミス指定性に対してロバストか、合成データと実データの両方でどう比較されるか。
• RQ4 ML ベースの PTO/ETO アプローチは自己相関がある設定で予測精度を意思決定品質へ必ずしも変換するのか。
• RQ5 取引コストを伴うポートフォリオ最適化で、oracle の性能に対して A-OVE はどう推移するか。

主な発見

Model	Time (s) (n=2)	Time (s) (n=5)	Time (s) (n=10)	MSE (n=2)	MSE (n=5)	MSE (n=10)	Relative Regret (%) (n=2)	Relative Regret (%) (n=5)	Relative Regret (%) (n=10)
A-OVE	1.56	3.18	3.37	-	-	-	0.21	0.18	0.08
ETO	1.20	4.45	13.44	20.05	21.21	59.56	0.33	0.31	0.41
PTO-RNN	0.25	0.27	0.43	23.14	21.32	20.86	38.85	27.00	16.95
PTO-LSTM	0.31	0.31	0.33	23.80	22.36	21.99	15.02	18.23	10.55
PTO-RF	0.43	0.44	0.45	26.22	27.90	26.96	47.53	34.62	17.15
PTO-XGB	1.30	3.06	5.25	30.29	31.68	30.50	69.46	49.27	28.81
FPtP-RF	0.43	0.44	0.45	26.22	27.90	26.96	14.66	14.58	5.33
FPtP-XGB	1.30	3.06	5.25	30.29	31.68	30.50	36.69	28.14	17.15

• A-OVE は n=2,5,10 の資産数に対して完璧情報オラクルに対する低リグレットを達成する。
• A-OVE は相対リグレットの点で一貫して PTO/ETO ML ベンチマークを上回り、ニューラルネットワークや木系アンサンブルを含む場合も同様。
• 予測精度の高い機械学習モデルが必ずしも意思決定品質を良くするとは限らない；A-OVE は学習を下流の最適化と整合させる。
• 小さなモデルミス指定性の下でロバスト性を示し、問題サイズが大きくなるにつれて競争力を保つ。
• パラメトリック ETO は十分に指定された設定で良好に機能する一方、ミス指定性下では不安定になり得るが、A-OVE は有利なまま。
• 実データでは、A-OVE は一貫して低い相対リグレットを達成し、最強クラスの予測ベース手法と同等かそれを上回る。