[論文レビュー] The Stability of Online Algorithms in Performative Prediction

Gabriele Farina, Juan C. Perdomo|arXiv (Cornell University)|Feb 27, 2026

Advanced Bandit Algorithms Research被引用数 0

ひとこと要約

要約: 本論文は、パフォーマンス設定で展開される任意のno-regretオンラインアルゴリズムが、分布マップのリッツ変性（Lipschitz連続性）を仮定せずに、performatively stableなモデルの混合へと収束することを証明し、安定性の保証をweakly convexまたは非滑らかな損失へ拡張する。

ABSTRACT

The use of algorithmic predictions in decision-making leads to a feedback loop where the models we deploy actively influence the data distributions we see, and later use to retrain on. This dynamic was formalized by Perdomo et al. 2020 in their work on performative prediction. Our main result is an unconditional reduction showing that any no-regret algorithm deployed in performative settings converges to a (mixed) performatively stable equilibrium: a solution in which models actively shape data distributions in ways that their own predictions look optimal in hindsight. Prior to our work, all positive results in this area made strong restrictions on how models influenced distributions. By using a martingale argument and allowing randomization, we avoid any such assumption and sidestep recent hardness results for finding stable models. Lastly, on a more conceptual note, our connection sheds light on why common algorithms, like gradient descent, are naturally stabilizing and prevent runaway feedback loops. We hope our work enables future technical transfer of ideas between online optimization and performativity.

研究の動機と目的

• デプロイされたモデルが将来のデータに影響を与える予測意思決定におけるperformativityを動機付け、形式化する。
• 任意のno-regretオンラインアルゴリズムがperformatively安定なモデル混合を生み出すことを示す。
• データ生成マップのリ Lipschitz性や滑らかさの仮定を必要としない安定性保証を提供する。
• 反復が混合されると勾配降下法のような一般的アルゴリズムが安定性を達成することを示す。
• weakly convexまたは非滑らかな損失関数と有限サンプル再訓練レジームへ安定性結果を拡張する。

提案手法

• データ生成プロセスを z_t ~ D(θ_t) とし、θ_t を現在のモデルとする。
• no-regretオンラインアルゴリズムによって得られるモデルの列を考え、{θ_1,...,θ_T} 上の一様混合 μ を形成する。
• 一様混合 μ が martingaleベースのonline-to-batch論法によって Regret(T)/T-performatively stable であることを証明する。
• この還元がD(·) の連続性や損失の強凸性を必要としないこと、すなわち従来の研究とは異なる点を示す。
• 再訓練の有限サンプル保証と、広い条件下でのSGD/勾配降下法の系の推移に関する系論を導く。
• weakly convex または非滑らかな損失に対する安定性の示唆を議論する。

実験結果

リサーチクエスチョン

• RQ1 任意のno-regretオンラインアルゴリズムと誘導分布 D(·) によって、performatively安定な混合へ収束するか。
• RQ2 分布マップ D(·) のリミット条件（Lipschitz/連続性）なしで安定性保証を得られるか。
• RQ3 勾配降下法や再訓練などの共通の最適化手法が、混合ベースの還元を通じてperformative安定性を継承するか。
• RQ4 非滑らかまたはweakly convex損失の場合の再訓練に関する有限サンプル保証を導出できるか。
• RQ5 これらの結果は、より厳密な滑らかさ仮定の下での従来のperformative prediction研究とどのように関連し、拡張するか。

主な発見

• 任意のno-regretオンラインアルゴリズムの反復の一様混合が Regret(T)/T-performatively stable である。
• 安定性は任意の分布マップ D(·) に対して成立し、連続性やリ Lipschitz性の仮定を要しない。
• 勾配降下法と再訓練は、滑らかさ・DT 条件が緩くても安定性へ収束する、非滑らか/weakly convex 損失を含むことを含む。
• 再訓練の滑らかなサンプル化に対する有限サンプル結果が得られ、広い仮定の下で prior の速度を満たすまたは改善する。
• この枠組みは、ダイナミックでperformative環境において古典的アルゴリズムが反発的なフィードバックループを自然に抑制する理由を説明する。
• 結果はperformativityのオンライン学習的視点を統合するものであり、新たな領域へ安定性保証を拡張する。