Skip to main content
QUICK REVIEW

[論文レビュー] Uncertainty-Aware Deep Calibrated Salient Object Detection

Jing Zhang, Yuchao Dai|arXiv (Cornell University)|Dec 10, 2020
Visual Attention and Saliency Detection参考文献 58被引用数 5
ひとこと要約

本稿では、境界分布スムージング(BDS)および不確実性を考慮した温度スケーリング(UATS)という不確実性対応戦略を提案し、深層顕著オブジェクト検出(SOD)ネットワークにおける信頼度のキャリブレーションを向上させる。空間的に変化するラベルスムージングと、学習された不確実性マップに基づく適応的温度スケーリングを用いることで、過信を低減するとともに、7つのベンチマークデータセット全体でキャリブレーションと精度の両方を向上させる。

ABSTRACT

Existing deep neural network based salient object detection (SOD) methods mainly focus on pursuing high network accuracy. However, those methods overlook the gap between network accuracy and prediction confidence, known as the confidence uncalibration problem. Thus, state-of-the-art SOD networks are prone to be overconfident. In other words, the predicted confidence of the networks does not reflect the real probability of correctness of salient object detection, which significantly hinder their real-world applicability. In this paper, we introduce an uncertaintyaware deep SOD network, and propose two strategies from different perspectives to prevent deep SOD networks from being overconfident. The first strategy, namely Boundary Distribution Smoothing (BDS), generates continuous labels by smoothing the original binary ground-truth with respect to pixel-wise uncertainty. The second strategy, namely Uncertainty-Aware Temperature Scaling (UATS), exploits a relaxed Sigmoid function during both training and testing with spatially-variant temperature scaling to produce softened output. Both strategies can be incorporated into existing deep SOD networks with minimal efforts. Moreover, we propose a new saliency evaluation metric, namely dense calibration measure C, to measure how the model is calibrated on a given dataset. Extensive experimental results on seven benchmark datasets demonstrate that our solutions can not only better calibrate SOD models, but also improve the network accuracy.

研究の動機と目的

  • 最先端の深層SODネットワークにおける過信問題に対処する。具体的には、予測の信頼度が真の正確性を反映していない点に焦点を当てる。
  • 画像分類から顕著性検出へと拡張された、密度的な予測タスクにおけるネットワークの正確性と予測信頼度のギャップを調査する。
  • 画素レベルの予測におけるモデルキャリブレーションの定量的評価を可能にする新しい密度的キャリブレーション測度 $\mathcal{C}$ を開発する。
  • 既存のSODネットワークに簡単に統合可能な2つのキャリブレーション戦略(BDSおよびUATS)を導入する。
  • 良好にキャリブレートされたモデルが、特に実世界の応用においてより信頼性が高く、より強固な予測をもたらすことを示す。

提案手法

  • 境界分布スムージング(BDS)を提案。画素ごとの不確実性に基づいて、ハードなバイナリ正解ラベルをガウスカーネルを用いてぼかした連続的ソフトラベルに置き換える。特にオブジェクト境界付近で有効である。
  • 不確実性に応じた温度スケーリング(UATS)を導入。学習済みの不確実性マップに基づき、空間的に変化する温度パラメータを緩和されたシグモイド関数に適用し、モデル出力をソフトなものにすることで、高不確実性領域(例:オブジェクトエッジ)に高い温度を適用する。
  • トレーニング中に不確実性マップを学習し、ラベルスムージングおよび温度適応のガイドとして用いることで、空間的に注意を向けた動的キャリブレーションを可能にする。
  • 学習済みの空間的に変化する温度を用いた緩和されたシグモイド関数により、真の予測不確実性をよりよく反映するソフトな出力確率を生成する。
  • BDSおよびUATSを既存のSODネットワークにプラグインモジュールとして統合し、トレーニングパイプラインへの変更を最小限にとどめる。
  • 画素レベル出力におけるモデルキャリブレーションの評価を可能にする新しい評価指標、密度的キャリブレーション測度 $\mathcal{C}$ を提案する。

実験結果

リサーチクエスチョン

  • RQ1最先端のSODネットワークはどの程度過信しており、その過信は実世界応用における信頼性にどのように影響するか?
  • RQ2学習済みの不確実性マップに基づくラベルスムージングは、密度的予測タスクにおけるモデルキャリブレーションと一般化性能の両方を向上させるか?
  • RQ3不確実性マップに基づく空間的に変化する温度スケーリングは、固定温度の後処理よりも優れたキャリブレーション予測をもたらすか?
  • RQ4提案された密度的キャリブレーション測度 $\mathcal{C}$ は、既存の指標と比較して、画素レベル出力におけるモデルキャリブレーションの評価においてどのように優れているか?
  • RQ5提案されたキャリブレーション戦略は、顕著なアーキテクチャ変更や再トレーニングのオーバーヘッドなしに、既存のSODネットワークに効果的に適用可能か?

主な発見

  • 提案されたBDSおよびUATS戦略により、7つのベンチマークデータセット全体で予測信頼度と実際の正確性のギャップが顕著に縮小され、密度的キャリブレーション測度 $\mathcal{C}$ が低減していることが実証された。
  • DUTS-TEデータセットでは、提案手法が $\mathcal{C}$ 測度 0.068 を達成し、DGRL(0.142)や他のベースラインを上回り、優れたキャリブレーション性能を示した。
  • アブレーションスタディの結果、M1(Base + BDS)は一般化性能を向上させるとともに $\mathcal{C}$ を低減したが、均一なラベルスムージング(M2)は性能を低下させた。これは不確実性対応スムージングの重要性を示している。
  • UATS(M3)は一貫して精度とキャリブレーションの両方を向上させ、DUTS-TEで $\mathcal{C}$ 0.068、F-measure 0.851 を達成し、均一なTS(M4)や適応的TS(M5)といった後処理手法を上回った。
  • 学習済みの不確実性マップを有する完全なモデル(M0)は、DUTS-TEで $\mathcal{C}$ 0.068、F-measure 0.851 を達成し、エンドツーエンドの不確実性学習の利点を実証した。
  • 従来のキャリブレーション手法とは異なり、本手法は精度とキャリブレーションを同時に向上させる。これは、実世界の展開において二重の利点をもたらす。

より良い研究を、今すぐ始めましょう

論文の読解から最終レビューまで、研究時間を劇的に削減しましょう。

クレジットカード登録不要

このレビューはAIが作成し、人間の編集者が確認しました。