[論文レビュー] Backpropagation through Combinatorial Algorithms: Identity with Projection Works

Subham Sekhar Sahoo, Anselm Paulus+4 more|arXiv (Cornell University)|May 30, 2022

Advanced Graph Neural Networks被引用数 11

ひとこと要約

本稿では、逆誤差伝搬の際に組合せ最適化ソルバを負の恒等写像層として扱い、問題固有の不変性をコストベクトルの射影によって活用することで、訓練の安定性を高める、ハイパーパramータフリーで効率的なバックプロパゲーション手法を提案する。この手法は追加のソルバ呼び出しを回避し、深層グラフマッチングや画像検索などのタスクで先行手法を上回る性能を示し、問題固有のマージンに代わってノイズ誘発正則化によってロバスト性が向上する。

ABSTRACT

Embedding discrete solvers as differentiable layers has given modern deep learning architectures combinatorial expressivity and discrete reasoning capabilities. The derivative of these solvers is zero or undefined, therefore a meaningful replacement is crucial for effective gradient-based learning. Prior works rely on smoothing the solver with input perturbations, relaxing the solver to continuous problems, or interpolating the loss landscape with techniques that typically require additional solver calls, introduce extra hyper-parameters, or compromise performance. We propose a principled approach to exploit the geometry of the discrete solution space to treat the solver as a negative identity on the backward pass and further provide a theoretical justification. Our experiments demonstrate that such a straightforward hyper-parameter-free approach is able to compete with previous more complex methods on numerous experiments such as backpropagation through discrete samplers, deep graph matching, and image retrieval. Furthermore, we substitute the previously proposed problem-specific and label-dependent margin with a generic regularization procedure that prevents cost collapse and increases robustness.

研究の動機と目的

• 離散的組合せ最適化における勾配のゼロまたは未定義の問題に対処し、離散的組合せソルバを内蔵する深層ネットワークのエンドツーエンド学習を可能にすること。
• 組合せ最適化ソルバの勾配推定において、高コストなソルバ呼び出しやハイパーパramータチューニングの必要性を排除すること。
• 正規化や射影対称性などの組合せ最適化問題における不変性を活用することで、学習の安定性を高めること。
• 先行研究における、ラベル依存のマージンを、コストの崩壊を防ぎ、ロバスト性を向上させる汎用的なノイズベース正則化に置き換えること。
• 理論的に根拠があり、幾何学的感度を持つ、シンプルで効果的な勾配推定アプローチを提供すること。

提案手法

• 逆誤差伝搬の際に、組合せ最適化ソルバを負の恒等写像層として扱い、追加のソルバ評価なしに入力勾配を直接伝搬する。
• 計算グラフ内でのコストベクトルに射影操作を導入し、問題の不変性（例：正規化、スケーリング）に対応する勾配成分を除去する。
• 逆伝搬時に射影を適用することで、解に影響しない不適切な更新を排除し、関連する勾配方向のみを保持する。
• 入力ノイズの摂動を用いて解空間に暗黙のマージンを誘発し、先行研究における真値依存マージンの必要性を排除する。
• 損失関数の区分的線形補間を用いて手法を形式化し、弱い仮定のもとでの収束性を証明する。
• 理論的分析により、本手法がコストの崩壊を回避し、適切な条件下で線形化損失関数における降下を保証することが示された。

実験結果

リサーチクエスチョン

• RQ1 追加のソルバ呼び出しを伴わず、ハイパーパramータフリーな勾配推定器を、組合せ最適化ソルバに対して設計可能か？
• RQ2 スケーリングや正規化などの組合せ最適化問題における不変性は、どのようにして勾配更新の安定性を高めるために活用できるか？
• RQ3 問題固有のマージンを汎用的なノイズベース正則化に置き換えた場合、モデルのロバスト性と収束性にどのような影響を与えるか？
• RQ4 ソルバを負の恒等写像層として扱うことで、幾何的制約のもとで損失関数の降下方向が得られるか？
• RQ5 ブラックボックスバックプロパゲーションのようなより複雑なベースラインと比較して、本手法は性能および学習安定性においてどのように差をつけるか？

主な発見

• 提案手法の恒等写像＋射影法は、深層グラフマッチング、画像検索、離散的推論タスクにおいて、ハイパーパramータなしで先行手法と同等または上回る性能を達成した。
• 入力ノイズを用いて汎用的なマージンを誘発することで、コストの崩壊を防止し、ラベル依存のマージン設計の必要性を排除した。
• 理論的分析により、弱い仮定のもとで線形化損失関数における降下が保証され、解が変化する場合には厳密な改善が得られることを確認した。
• 実験的結果から、本手法は安定しており、特に射影による不変性の適切な処理がなされた場合、ベースライン手法よりも高速に収束することが示された。
• バックプロパゲーション中に追加のソルバ呼び出しを回避しているため、ブラックボックスバックプロパゲーションなどの手法よりも計算的に効率的である。
• 本手法は摂動に対してロバストであり、最短経路、ランク最適化、キーポoinマッチングを含む多様な組合せ問題に一般化して適応可能である。