[論文レビュー] Synthesis and analysis in total variation regularization

Francesco Ortelli, Sara van de Geer|arXiv (Cornell University)|Jan 18, 2019

Sparse and Compressive Sensing Techniques参考文献 13被引用数 10

ひとこと要約

本稿は、一般のグラフ上での1次および高次全 variation 正則化推定器の解析と合成推定器の間の橋渡しを、ランク不足な場合へ一般化し、任意のグラフ上での1次全 variation 推定器の等価な合成形式を導出するための枠組みを提供する。線グラフを用いた離散的グラフ微分作用素を導入し、k次全 variation に対して明示的な辞書を構築することで、合成表現を用いた理論的分析と可視化を可能にする。

ABSTRACT

We generalize the bridge between analysis and synthesis estimators by Elad, Milanfar and Rubinstein (2007) to rank deficient cases. This is a starting point for the study of the connection between analysis and synthesis for total variation regularized estimators. In particular, the case of first order total variation regularized estimators over general graphs and their synthesis form are studied. We give a definition of the discrete graph derivative operator based on the notion of line graph and provide examples of the synthesis form of $k^{ ext{th}}$ order total variation regularized estimators over a range of graphs.

研究の動機と目的

• 全 variation 正則化におけるランク不足な設定への、Eladら（2007）の解析-合成双対性の拡張。
• 任意のグラフ上での解析ベース全 variation 推定器に等価な合成推定器を導出する一般枠組みの確立。
• 線グラフの概念を用いて、k次の離散的グラフ微分作用素を定義する。
• さまざまなグラフ構造上での1次および高次全 variation 正則化の合成形式を実現する明示的辞書の構築。
• 合成形式を用いた全 variation 推定器の理論的分析と可視化の促進。

提案手法

• グラフ微分行列のムーア・ペネロープス逆行列を用いて、解析形式の全 variation 推定器を合成形式に変換する一般的手順を導出する。
• 1次離散的グラフ微分作用素 $ D^1_{ ext{G}} $ を有向グラフの接続行列として定義し、信号の辺単位差分を捉える。
• 元のグラフの線グラフを用いて離散微分を高次 $ k $ に一般化し、$ D^k_{ ext{G}} $ がk次差分を表せるようにする。
• 微分作用素から導かれる行列 $ B $ の逆行列として合成辞書 $ oldsymbol{X} $ を構築し、合成推定器が解析推定器と一致するようにする。
• 対称性と変数変換を用いて、特にパス、サイクル、分岐付きグラフにおける $ k=1,2,3 $ の辞書原子の閉形式表現を導出する。
• パスグラフ、サイクルグラフ、分岐付きグラフにおける明示的例を通じて構築を検証し、合成形式が解析推定器を正確に回復することを示す。

実験結果

リサーチクエスチョン

• RQ1 一般のグラフ上での1次全 variation 正則化推定器に対して、合成形式を導出できるか？
• RQ2 高次全 variation 推定器（$ k \geq 2 $）に対して、合成表現をどのように構築できるか？
• RQ3 線グラフは、グラフ上での高次離散微分を定義する上で果たす役割は何か？
• RQ4 合成形式は、全 variation 推定器の解釈可能性および理論的分析をどのように向上させるか？
• RQ5 さまざまなグラフトポロジー上での $ k^\text{th} $ 次全 variation の合成形式における辞書原子の構造は何か？

主な発見

• 解析形式の全 variation 推定器を、ランク不足な場合を含めて等価な合成形式に変換する一般手法が確立された。
• k次の離散的グラフ微分作用素は、元のグラフの線グラフを用いて定義され、一貫した高次差分計算を可能にする。
• サイズ $ n $ のパスグラフに対して、$ k=1 $ の合成辞書には $ n-1 $ 個の原子があり、$ k=3 $ の場合の辞書の原子数は $ \frac{n(n-1)}{2} $ である。
• 8ノードのパスグラフ上での $ k=3 $ の合成形式は明示的に構築され、行列 $ B^{-1} $ の最後の $ n-1 $ 列が辞書原子を形成する。
• 構築の結果、辞書原子に対称性が現れることが判明した：$ v_{j'} = -T^{n-j} v_j $ であり、これはグラフの中心に対する反転性を示している。
• 理論的導出および例の検証を通じて、合成形式が解析推定器を正確に回復することが確認され、等価性が裏付けられた。