[論文レビュー] Gini-regularized Optimal Transport with an Application to Spatio-Temporal Forecasting

Lucas Roberts, Leo Razoumov+2 more|arXiv (Cornell University)|Dec 7, 2017

Risk and Portfolio Optimization参考文献 16被引用数 7

ひとこと要約

本稿では、Gini不純度関数を正則化子として用いることで、古典的最適輸送解への収束を高速化し、エントロピー正則化よりも数値安定性を向上させるGini正則化最適輸送（GOT）フレームワークを提案する。この手法により、小さな正則化パラメータでも高い精度が得られ、手動によるハイパーパrameterチューニングの必要がなくなる。

ABSTRACT

Rapidly growing product lines and services require a finer-granularity forecast that considers geographic locales. However the open question remains, how to assess the quality of a spatio-temporal forecast? In this manuscript we introduce a metric to evaluate spatio-temporal forecasts. This metric is based on an Opti- mal Transport (OT) problem. The metric we propose is a constrained OT objec- tive function using the Gini impurity function as a regularizer. We demonstrate through computer experiments both the qualitative and the quantitative charac- teristics of the Gini regularized OT problem. Moreover, we show that the Gini regularized OT problem converges to the classical OT problem, when the Gini regularized problem is considered as a function of λ, the regularization parame-ter. The convergence to the classical OT solution is faster than the state-of-the-art Entropic-regularized OT[Cuturi, 2013] and results in a numerically more stable algorithm.

研究の動機と目的

• 最適輸送に基づく地理的に整合性のある指標を導入することで、空間的・時系列的予測を評価する未解決問題に取り組む。
• 特に小さな正則化パラメータにおいても、最適輸送計算の数値安定性と収束速度を向上させる。
• 意思決定木の文脈で知られるGini不純度に基づく、エントロピー正則化の代替となる新たな正則化子を提案する。
• 実験的に、Gini正則化最適輸送がエントロピー正則化最適輸送よりも古典的最適輸送解に早く収束することを示す。
• 空間的配置と分布構造を尊重する、実用的で頑健な局所的予測評価基準を提供する。

提案手法

• Gini不純度関数を凸正則化子として用いることで、最適輸送問題を正則化し、収束の安定化と加速を図る。
• 条件付き勾配法やミラー降下法などの一次順序法を用いて最適化問題を解き、CVXPYや安定化Sinkhorn法と比較する。
• 地理的距離またはユークリッド距離に基づく基底度量を用い、予測された需要分布と実際の需要分布間の空間的関係をモデル化する。
• Gini正則化子を用いて不均一または不規則な輸送計画をペナルティ化し、より空間的に整合性があり安定した解を促進する。
• Gini正則化最適輸送解を正確な線形計画法（LP）解とエントロピー正則化最適輸送と比較し、複数の合成分布（正規分布、一様分布、ログジット正規分布）を用いて検証する。
• 州レベルの局所的予測を評価するため、予測された販売分布とシミュレートされた販売分布間の輸送コストを計算することでフレームワークを応用する。

実験結果

リサーチクエスチョン

• RQ1 Gini不純度関数は、空間的・時系列的予測の最適輸送問題において効果的な正則化子として機能するか？
• RQ2 正則化パラメータλの関数として、Gini正則化最適輸送の収束速度はエントロピー正則化最適輸送と比べてどの程度異なるか？
• RQ3 Gini正則化子は、エントロピー正則化に比べて数値的不安定性を低減し、λの手動チューニングの必要を排除するか？
• RQ4 Gini正則化最適輸送指標は、地理的に意味のある方法で局所的空間的・時系列的予測の品質を効果的に評価できるか？
• RQ5 Gini正則化最適輸送の性能は、異なる元データ分布（例：正規分布、一様分布、ログジット正規分布）においてどのように変化するか？

主な発見

• λが増加するに従い、Gini正則化最適輸送解はエントロピー正則化最適輸送解よりも古典的最適輸送解に早く収束する。
• λ = 50のとき、Gini正則化最適輸送はλ = 1000のエントロピー正則化最適輸送と同等の性能を達成し、収束速度の優位性を示す。
• Gini正則化最適輸送は、小さなλ値でもエントロピー正則化が大きなλを必要とするのとは異なり、より正確な最適輸送計画を生成する。
• Gini正則化最適輸送は、高λ値におけるエントロピー正則化で一般的に見られるアンダーフロー／オーバーフロー問題を回避する、顕著な数値的安定性を示す。
• Gini正則化最適輸送の条件付き勾配法およびミラー降下法は、CVXPYよりもスケーリングが良く、高次元問題に対しても有望な性能を示す。
• 合成実験において、Gini正則化子はすべてのテスト分布でLP解との相対誤差を一貫して低く抑え、特に小さなλ値において顕著な優位性を示す。