[論文レビュー] Bayesian Optimization Meets Laplace Approximation for Robotic Introspection

Matthias Humt, Jong‐Seok Lee+1 more|arXiv (Cornell University)|Oct 30, 2020

Machine Learning and Data Classification参考文献 34被引用数 5

ひとこと要約

この論文は、ロボットの自己認識における不確実性のキャリブレーションを向上させるために、スケーラブルなラプラス近似（LA）フレームワークにベイズ最適化（BO）を組み合わせたものである。BOを用いて正則化ハイパーパrameterを最適化することで、LAの事後分布近似におけるアンダーフィッティングを軽減し、ランダムサーチよりも優れたキャリブレーションと精度を達成した。DenseNet121を用いたImageNet上でも効果が実証された。

ABSTRACT

In robotics, deep learning (DL) methods are used more and more widely, but their general inability to provide reliable confidence estimates will ultimately lead to fragile and unreliable systems. This impedes the potential deployments of DL methods for long-term autonomy. Therefore, in this paper we introduce a scalable Laplace Approximation (LA) technique to make Deep Neural Networks (DNNs) more introspective, i.e. to enable them to provide accurate assessments of their failure probability for unseen test data. In particular, we propose a novel Bayesian Optimization (BO) algorithm to mitigate their tendency of under-fitting the true weight posterior, so that both the calibration and the accuracy of the predictions can be simultaneously optimized. We demonstrate empirically that the proposed BO approach requires fewer iterations for this when compared to random search, and we show that the proposed framework can be scaled up to large datasets and architectures.

研究の動機と目的

• 深層ニューラルネットワーク（DNNs）における信頼性の高い信頼度推定の欠如が、長期的な自律的ロボットシステムの実現を妨げているという問題に取り組む。
• DNNsにおけるラプラス近似（LA）の本質的なアンダーフィッティング問題に起因する、非対称な真の重み事後分布を捉えきれないガウス事後分布の欠陥を克服する。
• ドロップアウト層のようなアーキテクチャ変更を必要とせず、大規模DNNにおけるモデル不確実性を推定するスケーラブルで実用的な手法を開発する。
• ベイズ最適化（BO）を用いてLA正則化のハイパーパrameterを最適化することで、DNNのキャリブレーションと予測精度を向上させる。

提案手法

• 最大事後確率（MAP）推定値を中心とする多変量ガウス分布を用いて、DNN重みの事後分布をラプラス近似（LA）で近似する。
• 損失関数の曲率（ヘッセ行列の逆行列）を用いて、ガウス事後分布の共分散行列を定義し、不確実性推定を可能にする。
• 大規模DNNにスケーリング可能なヘッセ行列の計算を実現するため、Kronecker因子分解を用いる。
• LA事後分布を制御する正則化ハイパーパrameterを最適化するための、新規のベイズ最適化（BO）フレームワークを導入する。
• 最適なハイパーパラメータを探索する際に、確率的サロゲートモデル（ガウス過程）を用い、高価値領域を効率的に探索し、コストの高いアンダーフィッティング領域を回避する。
• 各層の曲率を別々に取り扱うことで、ハイパーパラメータ空間の高次元性に対しても表現力を高める層固有の正則化を導入する。

実験結果

リサーチクエスチョン

• RQ1 ベイズ最適化（BO）は、深層ニューラルネットワークにおけるラプラス近似（LA）のハイパーパラメータ最適化において、ランダムサーチを上回ることができるか？
• RQ2 提案されたLA-BOフレームワークは、標準的なDNNやMCドロップアウトと比較して、予測精度とキャリブレーション（期待キャリブレーション誤差、ECEで測定）の両方を向上させるか？
• RQ3 LA-BOフレームワークは、ImageNetのような大規模データセットやDenseNet121のような複雑なアーキテクチャにスケーリング可能か？
• RQ4 個々の層を別々に正則化する場合、高次元ハイパーパラメータ空間における本手法の性能はいかがなものか？
• RQ5 LA-BOフレームワークは、特に0.6–0.7の信頼度バインに顕著に現れる過信の度合いをどれほど軽減するか？

主な発見

• 提案されたBOベースのLAハイパーパラメータ最適化は、ランダムサーチよりも収束が早く、より少ない評価回数で良好なキャリブレーションと精度を達成した。
• ResNet18を用いたCIFAR-10では、LA + BOが期待キャリブレーション誤差（ECE）0.17を達成した。これはベースラインのECE 4.57およびLA + RSの0.70よりも顕著に低い。
• DenseNet121を用いたImageNet上では、同じ10回の評価予算内においてBOがランダムサーチよりも低いECEを達成し、0.6–0.7の信頼度バインにおけるキャリブレーションが向上した。
• ImageNet上では、精度をわずかに向上（74.42%から約74.5%）させながら、誤ったキャリブレーションを顕著に低減させた。これは、重みのマージナライゼーションが性能向上に寄与することを示している。
• 状態アーキテクチャを凌駕するものではない対角曲率近似を用いても、LAにBOを適用することでキャリブレーションが顕著に向上した。これは、本手法のロバスト性と実用性を示している。
• フレームワークは大規模なモデルやデータセットに成功裏にスケーリング可能であり、自己認識AIを必要とする実世界のロボットアプリケーションへの実用性を裏付けた。