[論文レビュー] On Single Source Robustness in Deep Fusion Models

Taewan Kim, Joydeep Ghosh|arXiv (Cornell University)|Jun 1, 2019

Adversarial Robustness in Machine Learning被引用数 7

ひとこと要約

本論文は、1つの入力ソースにノイズが存在する状況において、深層融合モデルのロバスト性を向上させる2つの手法を提案する：対応する最適化アルゴリズムを備えた特別なトレーニング損失、および内在的なノイズ耐性を有する新しい畳み込み融合層。両手法とも、クリーンなデータにおける性能を損なうことなく、3Dオブジェクト検出におけるロバスト性を顕著に向上させる。

ABSTRACT

Algorithms that fuse multiple input sources benefit from both complementary and shared information. Shared information may provide robustness against faulty or noisy inputs, which is indispensable for safety-critical applications like self-driving cars. We investigate learning fusion algorithms that are robust against noise added to a single source. We first demonstrate that robustness against single source noise is not guaranteed in a linear fusion model. Motivated by this discovery, two possible approaches are proposed to increase robustness: a carefully designed loss with corresponding training algorithms for deep fusion models, and a simple convolutional fusion layer that has a structural advantage in dealing with noise. Experimental results show that both training algorithms and our fusion layer make a deep fusion-based 3D object detector robust against noise applied to a single source, while preserving the original performance on clean data.

研究の動機と目的

• 線形融合モデルが単一入力ソースにノイズが存在する場合に、 inherently なロバスト性を維持するかどうかを調査すること。
• 1つの入力ストリームがノイズで汚染された場合に、標準的な融合モデルにロバスト性の欠如が生じることを解決すること。
• クリーンなデータにおける性能を維持しながら、ロバスト性を向上させるトレーニング手法およびアーキテクチャ的要素を開発すること。
• 自律走行などの安全が重要な応用分野における、提案手法の有効性を評価すること。

提案手法

• トレーニング中に単一入力ソースのノイズに対するロバスト性を明示的に促進するカスタム損失関数を設計すること。
• 提案された損失関数を用いて、ノイズ状態下での融合モデル最適化を実行する対応するトレーニングアルゴリズムを開発すること。
• 1つの入力ソースからのノイズ伝搬を内在的に抵抗する構造的設計を有する新しい畳み込み融合層を導入すること。
• 3Dオブジェクト検出ベンチマークを用いて、提案された損失/トレーニング手法および新しい融合層を用いて深層融合モデルを訓練・評価すること。
• クリーンおよびノイズ状態の両方の入力条件下で、提案手法と標準的な融合ベースラインの性能を比較すること。

実験結果

リサーチクエスチョン

• RQ1 1つの入力ソースがノイズで汚染された場合に、線形融合モデルは inherently ロバスト性を維持するのか？
• RQ2 注意深く設計されたトレーニング損失は、単一入力ソースのノイズ下で深層融合モデルのロバスト性を向上させられるか？
• RQ3 構造的に設計された畳み込み融合層は、単一入力ソースのノイズ処理において内在的な利点を提供するのか？
• RQ4 提案手法は、ロバスト性を向上させる一方で、クリーンなデータにおける性能をどの程度維持できるのか？

主な発見

• 線形融合モデルは、1つの入力ソースにノイズが存在する場合に、 inherently ロバスト性を維持しないことが判明し、入力の汚染に対して脆弱であることが示された。
• 提案されたトレーニング損失および対応するアルゴリズムは、単一入力ソースのノイズ状態下で、深層融合モデルのロバスト性を顕著に向上させた。
• 新規に導入された畳み込み融合層は、再トレーニングを要せずとも、ノイズ耐性を高める構造的利点を提供した。
• 両提案手法とも、クリーンなデータにおける元の性能を維持しながら、ノイズが存在する単一入力ソース入力下でのロバスト性を著しく向上させた。