[论文解读] One-step ahead sequential Super Learning from short times series of many slightly dependent data, and anticipating the cost of natural disasters

Geoffrey Ecoto, Aurélien Bibaut+1 more|arXiv (Cornell University)|Jul 28, 2021

Fault Detection and Control Systems参考文献 14被引用 12

一句话总结

本文提出一种用于具有许多轻微依赖数据点的短期时间序列的一步 ahead 顺序超级学习算法，通过利用条件依赖图和浓度不等式来提高预测准确性。该方法应用于法国自然灾害成本预测，在2007至2017年间实现稳定且低偏差的预测，预测值与实际值的平均比率为106%（离散）和112%（连续）。

ABSTRACT

Suppose that we observe a short time series where each time-t-specific data-structure consists of many slightly dependent data indexed by a and that we want to estimate a feature of the law of the experiment that depends neither on t nor on a. We develop and study an algorithm to learn sequentially which base algorithm in a user-supplied collection best carries out the estimation task in terms of excess risk and oracular inequalities. The analysis, which uses dependency graph to model the amount of conditional independence within each t-specific data-structure and a concentration inequality by Janson [2004], leverages a large ratio of the number of distinct a's to the degree of the dependency graph in the face of a small number of t-specific data-structures. The so-called one-step ahead Super Learner is applied to the motivating example where the challenge is to anticipate the cost of natural disasters in France.

研究动机与目标

• 开发一种能够适应具有许多轻微依赖数据点的短期时间序列的顺序学习算法。
• 解决在仅有有限时间观测但具有高空间粒度的情况下预测法国自然灾害成本的挑战。
• 通过利用基于依赖图建模的条件独立结构来提高预测准确性。
• 在数据稀疏性和异质性背景下，实现集成模型的在线、实时自适应。
• 为再保险和公共政策背景下的风险暴露估计提供一种稳健且理论基础坚实的解决方案。

提出的方法

• 使用一步 ahead 顺序超级学习器，在新数据到达时实时更新模型权重。
• 利用顶点集 𝒜 和最大度 deg(𝒢) 的依赖图对数据点之间的条件依赖关系进行建模。
• 应用 Janson 的浓度不等式以在弱依赖条件下控制方差，利用比值 |𝒜|/deg(𝒢) 实现统计稳定性。
• 引入固定汇总度量 Z̄ₜ = Summ(Ōₜ) 以增强条件独立性假设。
• 同时采用离散和连续元学习器组合基础算法，权重通过在线交叉验证学习。
• 由于空间分辨率限制，对地址级数据进行城市层面聚合，土壤湿度指数（SWI）作为关键预测变量。

实验结果

研究问题

• RQ1 当仅有少量时间点可用时，顺序超级学习器能否有效组合多个基础算法？
• RQ2 如何利用依赖图中的条件独立结构来改善高维、短期时间序列的预测？
• RQ3 尽管时间观测有限，|𝒜|/deg(𝒢) 比值在多大程度上提升了估计性能？
• RQ4 该方法在仅使用城市级数据和 SWI 的情况下，预测法国干旱事件总成本的效果如何？
• RQ5 自然灾难认定的时间变化标准对模型性能和校准有何影响？

主要发现

• 离散总体超级学习器在2007至2017年间的预测成本与实际成本的平均比率为106%，范围为67%至164%。
• 连续总体超级学习器的平均比率为112%，范围为70%至180%，表明存在轻微但稳定的过预测。
• 该算法从2007年到2017年始终为同一组四个基础超级学习器分配正权重，表明随时间推移的模型选择具有稳定性。
• 该方法有效利用了 |𝒜|/deg(𝒢) 比值来补偿有限的时间观测，即使在时间序列较短的情况下也能实现可靠推断。
• 引入针对协变量 Zₐ,ₜ 的时间特定权重并未提升性能，反而增加了变异性，因此被放弃，转而采用更简单的加权方式。
• 专家认为预测结果高度令人满意，尤其是在极端成本年份（如2012年和2016年）高财务风险背景下。