[論文レビュー] Homomorphic Sensing

Manolis C. Tsakiris, Liangzu Peng|arXiv (Cornell University)|Jan 23, 2019

Sparse and Compressive Sensing Techniques参考文献 35被引用数 10

ひとこと要約

本稿は、一般条件下において、並べ替えおよび部分抽出された測定値から一意な信号再構成を保証する代数的枠組み「ホモモーフィックセンシング」を導入する。本稿は、動的計画法に基づく2つのアルゴリズム—Algorithm-A および Algorithm-B—を提案し、小次元におけるラベルなしセンシングのための最初の実行可能なソリューションを提供する。特に、Algorithm-B はアフィン変換下での画像登録において、最先端手法を上回る性能を示す。

ABSTRACT

A recent line of research termed unlabeled sensing and shuffled linear regression has been exploring under great generality the recovery of signals from subsampled and permuted measurements; a challenging problem in diverse fields of data science and machine learning. In this paper we introduce an abstraction of this problem which we call homomorphic sensing. Given a linear subspace and a finite set of linear transformations we develop an algebraic theory which establishes conditions guaranteeing that points in the subspace are uniquely determined from their homomorphic image under some transformation in the set. As a special case, we recover known conditions for unlabeled sensing, as well as new results and extensions. On the algorithmic level we exhibit two dynamic programming based algorithms, which to the best of our knowledge are the first working solutions for the unlabeled sensing problem for small dimensions. One of them, additionally based on branch-and-bound, when applied to image registration under affine transformations, performs on par with or outperforms state-of-the-art methods on benchmark datasets.

研究の動機と目的

• 未知の置換および部分空間変換によって変形された測定値から信号を回復するための一般化された代数的理論の構築。ラベルなしセンシングおよびシャッフル線形回帰の拡張を目的とする。
• 有限個の線形変換の下で、線形部分空間内の信号がそのホモモーフィック画像から一意に同定可能であるための十分条件の確立。
• ブルートフォース手法が失敗する低次元設定における、スケーラブルで正確なラベルなしセンシング問題の解法アルゴリズムの設計。
• 提案された枠組みを、アフィン変換下での画像登録を含む実世界の問題に応用し、競争的または優れた性能を達成すること。

提案手法

• ホモモーフィックセンシングの形式的枠組みを提案。信号再構成を、有限集合からの未知の変換の下での部分空間内の点の同定問題としてモデル化する。
• 代数幾何学と対称多項式を用いて、真の信号が満たすべき置換不変制約を導出し、ノイズのある状況下でも代数的推定が可能であることを実現する。
• 小スケール問題の解空間を効率的に探索するため、分枝限定法によるプルーニングを施した動的計画法に基づく Algorithm-A を導入する。
• よりスケーラブルで、高い外れ値比に強い、第二の動的計画法アプローチである Algorithm-B を開発する。特に、測定数が元の信号次元に比べて著しく少ない場合に顕著な有効性を示す。
• Algorithm-A を画像登録に適応するため、アフィン変換を6次元パラメータとしてモデル化し、線形割当アルゴリズムを用いて対応問題を解く。
• Algorithm-A において、探索空間をプルーニングするための下界スキームを採用するが、これは緩いと指摘されており、高次元または大きな外れ値比においてスケーラビリティに制限をもたらす。

実験結果

リサーチクエスチョン

• RQ1 線形部分空間内の信号が、並べ替えおよび部分抽出された測定値から、どのような代数的条件下で一意に再構成可能か？
• RQ2 分枝限定法を用いた動的計画法は、小次元信号のラベルなしセンシング問題に対して正確な解を提供できるか？
• RQ3 提案されたアルゴリズムの性能は、アフィン変換下および高い外れ値比における画像登録タスクで、最先端手法と比較してどうなるか？
• RQ4 ホモモーフィックセンシング枠組みは、ノイズや部分観測データを扱うように拡張可能であり、理論的保証を維持できるか？
• RQ5 外れ値の有効な割合（例：画像登録における 1−2k/m）が、提案されたアルゴリズムのスケーラビリティおよび正確性に与える影響は何か？

主な発見

• 本稿は、一般の測定行列と、測定数が内在的信号次元の2倍以上である場合、ホモモーフィックセンシング枠組み下で信号の一意再構成が保証されることを確立している。
• Algorithm-A および Algorithm-B は、小次元（n ≤ 4）におけるラベルなしセンシングのための最初の実行可能な正確なソリューションであり、特に Algorithm-B は高い外れ値比およびノイズに強く、耐性がある。
• 画像登録タスクにおいて、Algorithm-C（Algorithm-A を基にした）は、APM、CPD、GMMREG と同等またはそれ以上の性能を示し、特に外れ値比が高い場合に APM が失敗する状況でも優位性を示す。
• 高い外れ値比の下では、Algorithm-C は APM よりも著しく高速に終了する。これは、分枝限定構造が APM の反復的改善手法よりも効率的である可能性を示唆している。
• 外れ値比が低い場合、APM は迅速に収束するため、Algorithm-C の実行時間枠が制限される。しかし、外れ値比が高い状況では、Algorithm-C が疎な対応関係をより効果的に処理できることから、正確性で APM を上回る。
• n=3, m=100, k=80, ノイズ σ=0.01 の条件下で1000回の試行において、相対誤差が0.01未満に保たれ、ノイズおよびシャッフルの度合いが変化しても強い耐性を示している。