[論文レビュー] Swap Regret Minimization Through Response-Based Approachability

Ioannis Anagnostides, Gabriele Farina+3 more|arXiv (Cornell University)|Feb 5, 2026

Advanced Bandit Algorithms Research被引用数 0

ひとこと要約

計算的に効率的なアルゴリズムを導入し、応答ベースのアプローチ可能性フレームワークを用いて一般凸集合上の線形スワップ回帰を最小化し、O(d√T)の後悔を達成して下限と一致するとともに、プロファイルスワップ回帰も最小化する。

ABSTRACT

We consider the problem of minimizing different notions of swap regret in online optimization. These forms of regret are tightly connected to correlated equilibrium concepts in games, and have been more recently shown to guarantee non-manipulability against strategic adversaries. The only computationally efficient algorithm for minimizing linear swap regret over a general convex set in $\mathbb{R}^d$ was developed recently by Daskalakis, Farina, Fishelson, Pipis, and Schneider (STOC '25). However, it incurs a highly suboptimal regret bound of $Ω(d^4 \sqrt{T})$ and also relies on computationally intensive calls to the ellipsoid algorithm at each iteration. In this paper, we develop a significantly simpler, computationally efficient algorithm that guarantees $O(d^{3/2} \sqrt{T})$ linear swap regret for a general convex set and $O(d \sqrt{T})$ when the set is centrally symmetric. Our approach leverages the powerful response-based approachability framework of Bernstein and Shimkin (JMLR '15) -- previously overlooked in the line of work on swap regret minimization -- combined with geometric preconditioning via the John ellipsoid. Our algorithm simultaneously minimizes profile swap regret, which was recently shown to guarantee non-manipulability. Moreover, we establish a matching information-theoretic lower bound: any learner must incur in expectation $Ω(d \sqrt{T})$ linear swap regret for large enough $T$, even when the set is centrally symmetric. This also shows that the classic algorithm of Gordon, Greenwald, and Marks (ICML '08) is existentially optimal for minimizing linear swap regret, although it is computationally inefficient. Finally, we extend our approach to minimize regret with respect to the set of swap deviations with polynomial dimension, unifying and strengthening recent results in equilibrium computation and online learning.

研究の動機と目的

• オンライン最適化におけるより強い後悔概念（スワップ回帰）の必要性と、それらと相関均衡および非操作性との関係を動機づける。
• 一般凸集合上の線形スワップ回帰を最小化する計算効率の高いアルゴリズムを開発する。
• アルゴリズムがプロファイルスワップ回帰も最小化し、非操作性を保証することを示す。
• 情報理論的に一致する下限を提供し、分次元へのスワップ偏差への拡張を議論する。

提案手法

• 線形スワップ回帰を最善応答、凸包K、ターゲット集合Sを用いたアプローチ可能性問題へ還元する。
• BernsteinとShimkin（2015）の応答ベースのアプローチ可能性アルゴリズムを、戦略集合をJohnの位置に配置する前処理ステップと共に適用する。
• 終域作用素とアプローチ可能空間のFrobeniusノルムを境界づける幾何学的前処置（Johnの位置）を導入する。
• 前処置下で線形スワップ回帰のO(d√T)境界を証明する（アルゴリズム2：前処置付き応答ベースのアプローチ可能性）。
• 混合戦略を用いたスワップ偏差への拡張（アルゴリズム3）。
• 最悪ケースでΩ(d√T)の線形スワップ回帰が不可避であることを示す一致する下界を確立する（定理5.1）。

実験結果

リサーチクエスチョン

• RQ1 一般の凸集合（単体を超えて）上で線形スワップ回帰を効率的に最小化できるか。
• RQ2 前処置を用いた場合の線形スワップ回帰の厳密な後悔レートはいくつになり得るか、情報理論的にも最適か。
• RQ3 幾何的次元を用いた前処理を保ちながら、ポリゴン次元を持つスワップ偏差への拡張は可能か。
• RQ4 線形およびプロファイルスワップ回帰の最小化はストラテジックな対立者に対する非操作性とどう関連するか。
• RQ5 既存手法（例：エリプソイドに基づくアルゴリズム）の制限は何で、提案手法はそれとどう比較されるか。

主な発見

• Johnの前処理後、一般凸集合に対する線形スワップ回帰の時間的後悔がLinearSwapRegT = O(d√T)となる。
• 大きなTに対してΩ(d√T)の情報理論的下界が一致しており、中心対称Pでも定数の差を除き最適であることを示す。
• 古典的なGordonらのアルゴリズムは情報理論的には線形スワップ回帰に最適だが計算効率が悪い；新手法は実務的効率を大幅に改善。
• このアプローチはプロファイルスワップ回帰も最小化し、適応的対戦相手に対する非操作性に寄与する。
• この枠組みは多項式次元へのスワップ偏差への拡張を可能にし、従来研究より改善されたPolyDimSwapRegT境界を提供する。
• 下界の構成はP = B1 × B∞ の積集合を用い、対戦的損失下で避けられない後悔の成長を示す。