[論文レビュー] Minimizing a sum of submodular functions

Vladimir Kolmogorov|arXiv (Cornell University)|Jun 10, 2010

Complexity and Algorithms in Graphs参考文献 16被引用数 4

ひとこと要約

本稿では、個々の項に対して特化した交換容量オракルを活用することで、補助グラフにおける部分的フロー問題に問題を還元することにより、部分的関数の和の最小化のための効率的なアルゴリズムを提案する。Iwataの容量スケーリングを用いることで、特に基数依存項において構造を活かし、視覚応用において一般の部分的関数最小化よりも優れた実行時間性能を達成する。

ABSTRACT

We consider the problem of minimizing a function represented as a sum of submodular terms. We assume each term allows an efficient computation of {\em exchange capacities}. This holds, for example, for terms depending on a small number of variables, or for certain cardinality-dependent terms. A naive application of submodular minimization algorithms would not exploit the existence of specialized exchange capacity subroutines for individual terms. To overcome this, we cast the problem as a {\em submodular flow} (SF) problem in an auxiliary graph, and show that applying most existing SF algorithms would rely only on these subroutines. We then explore in more detail Iwata's capacity scaling approach for submodular flows (Math. Programming, 76(2):299--308, 1997). In particular, we show how to improve its complexity in the case when the function contains cardinality-dependent terms.

研究の動機と目的

• 個々の項に効率的な交換容量計算が可能な場合に、一般の部分的関数最小化よりも高速なアルゴリズムを開発すること。
• 基数依存やペアワイズ相互作用などの問題固有の構造を活用することで、一般の部分的関数最小化の非効率性を克服すること。
• 計算コストの高さにより現在は最小 $s$-$t$ カット還元に制限されているコンピュータビジョン分野における複雑なエネルギー関数の実用的最適化を可能にすること。
• 既存の還元を一般化・改善し、部分的フローに容量スケーリングを適用することで、より広いクラスの部分的関数項を効率的に処理できることを示すこと。

提案手法

• 問題を補助グラフにおける部分的フロー（SF）問題に再定式化し、交換容量を個々の部分的関数項に対応させる。
• アルゴリズムは、Iwataの部分的フローにおける容量スケーリング手法を用い、段階的に容量の閾値をスケーリングすることで解を改善する。
• 各項 $f_Q$ に対して、任意の $z \in \mathbb{R}^Q$ に対して $\min_S f_Q(S) - z(S)$ を効率的に計算する特化した交換容量オラクルに依存する。
• 計算量は $\alpha_Q$ と $\beta_Q$ に依存し、これらは異なる項タイプにおける交換容量の計算コストを定量化する：ペアでは $O(1)$、基数項では $O(|Q|)$、ペアワイズ相互作用では $O(|Q|^2)$。
• 弧は部分集合の所属関係（例：$Q'$, $Q''$）に基づいてグループ化され、有効なフロー遷移を効率的に特定するために事前計算された配列と累積和が使用される。
• $\bar{A}_{10}$ の弧におけるグループ間フロー処理を扱うために、$\min \bar{g}(k',k'') > 0$ を根拠とする動的しきい値設定を用いた新規手順 $\texttt{ProcessLeft}_{10}(v)$ が導入される。

実験結果

リサーチクエスチョン

• RQ1 個々の項に構造的特徴がある場合に、一般の部分的関数最小化よりも効率的に部分的関数の和を最小化できるか？
• RQ2 各項に効率的な交換容量オラクルへのアクセスを保ちながら、問題を部分的フローに還元する方法は何か？
• RQ3 基数依存またはペアワイズ相互作用に依存する項がある場合、得られるアルゴリズムの計算量はどのようになるか？
• RQ4 基数依存項が存在する状況で、Iwataの部分的フローのスケーリング計算量を改善できるか？
• RQ5 構造的オラクルを用いた部分的フローにより、最小 $s$-$t$ カットへの過大な還元を回避できるか？

主な発見

• 提案アルゴリズムの時間計算量は $O\left((n + \sum_Q \alpha_Q)(n + \sum_Q \beta_Q)\log U\right)$ であり、$U$ は関数値の上界である。
• ペアワイズ項（$|Q|=2$）では、$O(n^2 \log U)$ となり、これまでは知られていた最良の境界と一致する。
• 凹関数 $g$ を用いた基数依存項 $f_Q(S) = g(|S|)$ の場合、計算量は $O(n|Q| \log U)$ となり、従来の還元で要求される $O(|Q|^2)$ 準拠より改善される。
• 二つの互いに素な部分集合 $Q', Q''$ に依存する項では、計算量は $O(n|Q|^2 \log U)$ となり、一般の部分的関数最小化よりも顕著に優れている。
• 最小 $s$-$t$ カット還元で必要とされる巨大な補助グラフを回避し、項ごとに $O(|Q|)$ のメモリしか使用しない（従来の $O(|Q|^2)$ よりも少ない）。
• 項が小さく構造的であるコンピュータビジョン応用において実用的であり、従来は直接最小化がコスト的に不可能とされていたエネルギー関数の最適化を可能にする。