[論文レビュー] SLURP: Side Learning Uncertainty for Regression Problems

Xuanlong Yu, Gianni Franchi+1 more|arXiv (Cornell University)|Oct 21, 2021

Anomaly Detection Techniques and Applications参考文献 50被引用数 4

ひとこと要約

SLURPは、事前学習済みのメインモデルの特徴量とその予測結果を活用することで、回帰タスクにおける不確実性推定のための汎用的で効率的なサイド学習フレームワークを導入する。最小限の計算コストで最先端の不確実性キャリブレーションを達成し、単眼深度および光流画像のベンチマークで既存手法を上回る性能を発揮する一方で、メインモデルの再訓練を必要とせず、即座に統合可能なプラグアンドプレイ型である。

ABSTRACT

It has become critical for deep learning algorithms to quantify their output uncertainties to satisfy reliability constraints and provide accurate results. Uncertainty estimation for regression has received less attention than classification due to the more straightforward standardized output of the latter class of tasks and their high importance. However, regression problems are encountered in a wide range of applications in computer vision. We propose SLURP, a generic approach for regression uncertainty estimation via a side learner that exploits the output and the intermediate representations generated by the main task model. We test SLURP on two critical regression tasks in computer vision: monocular depth and optical flow estimation. In addition, we conduct exhaustive benchmarks comprising transfer to different datasets and the addition of aleatoric noise. The results show that our proposal is generic and readily applicable to various regression problems and has a low computational cost with respect to existing solutions.

研究の動機と目的

• 深層学習回帰モデルにおける信頼性の高い不確実性推定の欠如、特に深度推定や光流画像推定といったビジョンタスクにおける課題に対処すること。
• メイン予測モデルの再訓練や変更を必要としない汎用的で侵襲性のない手法の開発。
• サイドラーナーを用いて、予測出力に欠落しているセマンティックコンテキストを回復させることで、不確実性推定を向上させること。
• 多様なデータセットおよびノイズ条件下でも高い不確実性キャリブレーション性能を維持しつつ、計算コストを低く抑えること。

提案手法

• サイドラーナーは、元の入力とメインモデルの予測結果を入力として用い、不確実性マップを予測するように訓練される。
• サイドラーナーは、メインモデルの中間層からの特徴量と予測出力を統合し、予測誤差を再構築する。
• メインモデルから抽出された固定された特徴抽出器（例：ResNet）を活用することで、セマンティックコンテキストを保持し、不確実性推定を向上させる。
• メインモデルのトレーニングまたは推論パイプラインを変更せずに統合可能な、可逆アーキテクチャを採用する。
• サイドラーナーはエンドツーエンドで訓練され、予測された不確実性と真値誤差（例：光流画像におけるエンドポイント誤差）の差を最小化するように最適化される。
• 2つのバリエーションを提案：Ours（フル）とOurs-light（軽量版）、両者とも効率性とリアルタイム応用への適合性を考慮して設計されている。

実験結果

リサーチクエスチョン

• RQ1 メインモデルを変更せずに、サイド学習アプローチがピクセル単位の回帰タスクにおける不確実性推定を効果的に実現できるか？
• RQ2 SLURPは、多様なデータセットにおけるキャリブレーションと耐障害性の観点から、既存の不確実性推定手法と比較してどの程度優れているか？
• RQ3 SLURPは、メインモデルの予測から失われたセマンティックコンテキストをどの程度回復させ、不確実性推定を向上させられるか？
• RQ4 アンサンブルベースや共同学習手法と比較して、SLURPの計算効率はどの程度か？

主な発見

• SLURPは、単眼深度および光流画像タスクで最先端の性能を達成し、FlyingChairsではAUSE-EPEが1.20、KITTIでは4.69を記録し、多数のベースラインを上回る。
• Sintelデータセットでは、AUROCが0.906を達成し、MHP（0.878）やConfid（0.728）を大きく上回り、優れた一般化性能を示している。
• 軽量版（Ours-light）では、光流画像タスクで推論時間を65ms、深度タスクで88msにまで短縮し、MC（79ms）やEE（144ms）を上回る速度性能を発揮しながらも、競争力のある精度を維持している。
• SLURPは、トランスファー設定やノイズが加えられた入力に対しても高い性能を維持しており、新しいデータセットに対して微調整なしに耐障害性を示している。
• サイドラーナーは、特にエッジ領域やオクルージョン領域で、メインモデルの特徴量からセマンティックコンテキストを効果的に回復させることで、不確実性推定誤差を低減している。
• 本手法は計算的にも効率的であり、フルモデルではパラメータ数が87.2M、Ours-lightでは57.0Mにとどまり、アンサンブルベースの手法と比較して顕著に少ない。