[論文レビュー] Robust approximate linear regression without correspondence

Amin Nejatbakhsh, Erdem Varol|arXiv (Cornell University)|Jun 1, 2019

Sparse and Compressive Sensing Techniques参考文献 32被引用数 3

ひとこと要約

本稿では、外れ値と欠損対応が両方の点集合に存在する状況下で線形回帰係数を推定するための、対応なしの頑健な回帰（rRWOC）というフレームワークを提案する。外れ値と欠損を含む状況において、ノイズのない1次元ケースでは正確な回復を達成し、ノイズありまたは高次元設定では近似回復を達成するための確率的アルゴリズムを提案する。RANSACとハンガリアン法に基づく割り当てを用い、理論的保証とC. elegansの神経細胞マッチングにおける検証を実施する。

ABSTRACT

We propose methods for estimating correspondence between two point sets under the presence of outliers in both the source and target sets. The proposed algorithms expand upon the theory of the regression without correspondence problem to estimate transformation coefficients using unordered multisets of covariates and responses. Previous theoretical analysis of the problem has been done in a setting where the responses are a complete permutation of the regressed covariates. This paper expands the problem setting by analyzing the cases where only a subset of the responses is a permutation of the regressed covariates in addition to some covariates being outliers. We term this problem extit{robust regression without correspondence} and provide several algorithms based on random sample consensus for exact and approximate recovery in a noiseless and noisy one-dimensional setting as well as an approximation algorithm for multiple dimensions. The theoretical guarantees of the algorithms are verified in simulated data. We demonstrate an important computational neuroscience application of the proposed framework by demonstrating its effectiveness in a extit{Caenorhabditis elegans} neuron matching problem where the presence of outliers in both the source and target nematodes is a natural tendency.

研究の動機と目的

• 生物学的画像処理において一般的な、外れ値と欠損データを含む対応なし線形回帰の課題に対処すること。
• 従来の対応なし回帰の研究を拡張し、完全な置換だけでなく不完全で汚染されたデータもモデル化すること。
• ノイズありおよび高次元設定における正確および近似回復のための効率的で、証明可能な正しさを持つアルゴリズムを開発すること。
• 実世界の計算神経科学の問題である、異なる個体間のC. elegans神経細胞のマッチングにおいて、本手法の有効性を示すこと。

提案手法

• 完全な置換を仮定する従来の研究を越えて、欠損対応と外れ値を明示的にモデル化するrRWOCの問題定式化を導入すること。
• 1次元ノイズレスrRWOCにおける正確な回復のための多項式時間アルゴリズムを提案。すべての可能なインライヤー対をテストし、ハンガリアン法を用いて割り当てを検証する。
• RANSACに類似したサンプリングを用い、点のペアから得られる候補回帰係数をテストし、割り当てコスト下での最大インライヤー集合を達成するものを選択する。
• 回帰された共変数と応答変数の間の最適割り当てをハンガリアン法で計算し、しきい値を設定したインライヤー数を用いて正しい係数を同定する。
• ノイズあり領域において、正しいと誤った係数推定値を区別できるように、点間距離に基づくマージンνを定義する。
• ノイズ分散の統計的バウンドを用いて、正しい係数推定値が誤ったものよりも顕著に多くのインライヤーを生成する確率が高くなることを示す。

実験結果

リサーチクエスチョン

• RQ1 両方の集合に外れ値と欠損データが存在する1次元rRWOCにおいて、回帰係数の正確な回復が可能か？
• RQ2 ノイズありまたは高次元rRWOCにおける近似回復のための効率的で確率的なアルゴリズムをどのように設計できるか？
• RQ3 不完全な対応とノイズ下での係数回復に対して、どのような理論的保証を提供できるか？
• RQ4 C. elegans神経細胞マッチングのような、外れ値率の高い実世界の応用において、本手法は既存手法を上回る性能を示せるか？

主な発見

• 提案手法は、データの分離にやや緩い仮定のもとで、1次元ノイズレスrRWOC設定において真の回帰係数を正確に回復する。
• ノイズあり領域では、信号対雑音比が十分に高い場合、分散とインライヤー数のバウンドにより、真の係数が高確率で回復されることが示された。
• 真の係数でスケーリングされた異なるデータポイント間の絶対差の最小値の半分として定義されるマージンνを用いることで、正しいと誤った係数推定値の区別が信頼性を持って可能になる。
• 理論的解析により、正しい係数推定値は少なくとも m−k 個のインライヤー（k は外れ値数）を生成するのに対し、誤った推定値はそれより少ないことが示され、インライヤー数の基数によって同定が可能になる。
• インライヤー数に基づく早期終了と確率的サンプリングにより、特に高次元においてブルートフォース手法に比べて計算が著しく効率的になる。
• シミュレーテッドデータにおける実験的検証により理論的保証が確認され、外れ値率の高い状況下でもC. elegansの神経細胞を高い精度でマッチングすることができた。