[論文レビュー] Convergence to Lexicographically Optimal Base in a (Contra)Polymatroid and Applications to Densest Subgraph and Tree Packing

Elfarouk Harb, Kent Quanrud+1 more|arXiv (Cornell University)|Jan 1, 2023

Complexity and Algorithms in Graphs被引用数 3

ひとこと要約

本稿は、密度の高い部分グラフのための反復的グリーディアルゴリズムと木パッケージング、および(反)多面体におけるlexicographically optimal baseを求めるための二次計画法に適用されたFrank-Wolfe法との間で、新しい関係を確立する。Super-Greedy++の収束証明をより単純化し、それがlexicographically optimal dense decomposition vectorに収束することを示す。同時に、凸最適化を用いたThorupのグリーディな木パッケージングの分析を統一的かつ明確に提示し、先行研究よりも強い加法的誤差の保証をもたらす。

ABSTRACT

Boob et al. [1] described an iterative peeling algorithm called Greedy++ for the Densest Subgraph Problem (DSG) and conjectured that it converges to an optimum solution. Chekuri, Quanrud, and Torres [2] extended the algorithm to general supermodular density problems (of which DSG is a special case) and proved that the resulting algorithm Super-Greedy++ (and hence also Greedy++) converges. In this paper, we revisit the convergence proof and provide a different perspective. This is done via a connection to Fujishige's quadratic program for finding a lexicographically optimal base in a (contra)polymatroid [3], and a noisy version of the Frank-Wolfe method from convex optimisation [4,5]. This gives us a simpler convergence proof, and also shows a stronger property that Super-Greedy++ converges to the optimal dense decomposition vector, answering a question raised in Harb et al. [6]. A second contribution of the paper is to understand Thorup's work on ideal tree packing and greedy tree packing [7,8] via the Frank-Wolfe algorithm applied to find a lexicographically optimum base in the graphic matroid. This yields a simpler and transparent proof. The two results appear disparate but are unified via Fujishige's result and convex optimisation.

研究の動機と目的

• 密度の高い部分グラフ問題に対するSuper-Greedy++アルゴリズムの収束証明を、より単純かつ透明性の高いものにすること。
• Super-Greedy++が密度の高い部分グラフ問題に関連する多面体におけるlexicographically optimal baseに収束することを示すこと。
• Frank-Wolfe法をスパニングツリー多面体に適用することで、Thorupのグリーディな木パッケージングアルゴリズムの分析を統一すること。
• 密度の高い部分グラフおよび木パッケージングの両方のアルゴリズムに対して、特にℓ2ノルムにおける加法的誤差境界というより強い収束保証を確立すること。

提案手法

• Fujishigeの(反)多面体におけるlexicographically optimal baseを求めるための二次計画法を、中心的な理論的道具として活用する。
• 収束の分析に、Frank-Wolfe法のノイズを含む変種を二次計画法に適用する。
• 密度の高い部分グラフ問題を、二分探索を用いたサブモジュラ関数の最小化として再定式化し、Super-Greedy++アルゴリズムが関連する多面体上のFrank-Wolfe風の更新に対応することを示す。
• グリーディな木パッケージングを、スパニングツリー基底多面体上のFrank-Wolfe法として再定式化し、各反復で現在の重みベクトルに対する最小スパニングツリーを計算する。
• 多面体の曲率を用いて、ℓ2ノルムにおける収束の反復回数の上限を導出する。
• 同じグリーディアルゴリズムが、Frank-Wolfeフレームワーク内で異なる凸目的関数を用いることで、異なる種類の保証をもたらすことを示す。

実験結果

リサーチクエスチョン

• RQ1 多面体におけるlexicographically optimal baseへのSuper-Greedy++の収束を、組合せ的議論ではなく凸最適化の道具を用いて証明できるか？
• RQ2 Fujishigeの二次計画法にFrank-Wolfe法を適用することで、多面体設定におけるグリーディアルゴリズムの収束に関する、より単純かつ一般的な証明が得られるか？
• RQ3 Thorupのグリーディな木パッケージングアルゴリズムを、Frank-Wolfe最適化の視点から再解釈し、一貫した分析が可能か？
• RQ4 多面体のlexicographic最適化にFrank-Wolfe法を適用した場合、どのような収束保証（加法的誤差 vs 相対誤差）が得られるか？
• RQ5 同じグリーディアルゴリズム（例：木パッケージング）の異なる分析が、なぜ異なる反復回数の上限と誤差の種類をもたらすのか？

主な発見

• Super-Greedy++は、密度の高い部分グラフ問題に関連する多面体におけるlexicographically optimal baseに収束する。これはHarbら[6]が提起した未解決問題に答えている。
• m本の辺を持つ場合、m log(m/ϵ)/ϵ²回の反復後にℓ2誤差境界がϵに達する。
• 木パッケージング問題に関しては、Frank-Wolfeに基づく分析により、ステップサイズγ = 2/(k+2)でO(m/ϵ²)回の反復後に加法的ℓ2誤差保証ϵが得られる。
• 分析により、同じグリーディな木パッケージングアルゴリズムが、二次目的関数を用いたFrank-Wolfeとして解釈可能であり、これは無重みの場合にThorupの相対誤差保証よりも強い加法的誤差境界をもたらす。
• 本稿では、Frank-Wolfeフレームワーク内で異なる凸目的関数（例：二次関数 vs softmax）を用いることで、同じアルゴリズム的更新に対しても異なる収束保証が得られることを示した。
• 曲率に基づく解析により、無重みの場合にThorupのO(m log(mn/ϵ)/ϵ³)から、1/ϵ³から1/ϵ²に改善されたよりタイトな反復回数の上限が得られた。