[論文レビュー] One-step ahead sequential Super Learning from short times series of many slightly dependent data, and anticipating the cost of natural disasters

Geoffrey Ecoto, Aurélien Bibaut+1 more|arXiv (Cornell University)|Jul 28, 2021

Fault Detection and Control Systems参考文献 14被引用数 12

ひとこと要約

本稿では、多くのわずかな相関を持つデータポイントを有する短い時系列データに対して、条件付き依存グラフと集中不等式を活用することで予測精度を向上させる、1ステップ先予測の逐次的スーパー・ラーニング手法を提案する。フランスにおける自然災害のコスト予測に応用した結果、2007年から2017年の間で、予測値と実際のコストの平均比が離散的ケースで106%、連続的ケースで112%の安定的でバイアスの小さい予測が達成された。

ABSTRACT

Suppose that we observe a short time series where each time-t-specific data-structure consists of many slightly dependent data indexed by a and that we want to estimate a feature of the law of the experiment that depends neither on t nor on a. We develop and study an algorithm to learn sequentially which base algorithm in a user-supplied collection best carries out the estimation task in terms of excess risk and oracular inequalities. The analysis, which uses dependency graph to model the amount of conditional independence within each t-specific data-structure and a concentration inequality by Janson [2004], leverages a large ratio of the number of distinct a's to the degree of the dependency graph in the face of a small number of t-specific data-structures. The so-called one-step ahead Super Learner is applied to the motivating example where the challenge is to anticipate the cost of natural disasters in France.

研究の動機と目的

• 短い時系列データに多くわずかな相関を持つデータポイントがある状況において、適応可能な逐次的学習アルゴリズムを開発すること。
• 限られた時系列観測数ではあるが、高い空間的分解能を有するフランスにおける自然災害コストの予測という課題に取り組むこと。
• 依存関係グラフを用いてモデル化された条件付き独立構造を活用することで、予測精度を向上させること。
• データのスパarsityと多様性に直面しても、オンラインでリアルタイムにアンサンブルモデルを適応可能にする仕組みを提供すること。
• 再保険および公共政策分野におけるリスク露出推定に、強固で理論的根拠を有する手法を提供すること。

提案手法

• 新規データの到着に応じてリアルタイムでモデル重みを更新する1ステップ先逐次的スーパー・ラーナーを用いる。
• 頂点集合 𝒜 と最大次数 deg(𝒢) を持つ依存関係グラフを用いて、データポイント間の条件付き依存関係をモデル化する。
• 弱い依存性下での分散を制御するためにジャンサンの集中不等式を適用し、統計的安定性を高めるために |𝒜|/deg(𝒢) の比を活用する。
• 条件付き独立仮定を強化するために、固定要約統計量 Z̄ₜ = Summ(Ōₜ) を組み込む。
• 離散的および連続的の両方のメタ・ラーナーを用いてベースアルゴリズムを組み合わせ、オンライン交差検証により重みを学習する。
• 空間的分解能の制限のため、住所レベルのデータを都市単位に集計し、土壌水分指数（SWI）を主要な予測変数とする。

実験結果

リサーチクエスチョン

• RQ1 少数の時系列ポイントしか利用できない状況で、1ステップ先逐次的スーパー・ラーナーが複数のベースアルゴリズムを効果的に統合できるか。
• RQ2 依存関係グラフを介して得られる条件付き独立構造は、高次元的かつ短い時系列データの予測をどのように改善できるか。
• RQ3 |𝒜|/deg(𝒢| の比が、限られた時系列観測数にもかかわらず、推定性能をどの程度向上させるか。
• RQ4 都市単位のデータと SWI のみを用いて、フランスにおける干ばつイベントの総コストを予測する際に、提案手法がどの程度の精度を示すか。
• RQ5 自然災害の宣言基準が時間とともに変化する場合、モデルの性能とキャリブレーションにどのような影響を与えるか。

主な発見

• 離散的上位スーパー・ラーナーは、2007年から2017年の間で、予測値と実際の干ばつコストの平均比が106%に達し、範囲は67%から164%までであった。
• 連続的上位スーパー・ラーナーは、平均比が112%に達し、範囲は70%から180%までであった。これはやや高いが安定した過剰予測を示している。
• アルゴリズムは2007年から2017年までの間、常に同じ4つのベーススーパー・ラーナーに正の重みを割り当てており、時間経過に伴うモデル選択の安定性が確認された。
• 本手法は、限られた時系列観測数を補うために |𝒜|/deg(𝒢) の比を効果的に活用し、短い時系列でも信頼性のある推論を可能にした。
• 予測変数 Zₐ,ₜ に時間別重みを導入しても性能向上が見られず、ばらつきが増加したため、単純な重み付けに切り替えられた。
• 専門家は、特に2012年や2016年のような極端なコストが発生した年において、高い財務的インパクトがある中で予測結果が非常に満足できるものであったと評価した。