[論文レビュー] Persistency of Excitation for Robustness of Neural Networks

Kamil Nar, S. Shankar Sastry|arXiv (Cornell University)|Nov 4, 2019

Neural Networks and Applications参考文献 26被引用数 13

ひとこと要約

本論文は、交差エントロピー損失関数と二乗誤差損失関数の選択が、トレーニング中のネットワーク重みの持続的励起（persistent excitation）を分析することで、ニューラルネットワークのロバストネスに与える影響を調査している。交差エントロピー損失は、低次元部分空間におけるサポートベクターの励起が不十分なために、決定マージンが悪化することを示しており、線形モデルに由来する正則化を提案することで、持続的励起を強制し、 adversarial な例に対するロバストネスを向上させている。

ABSTRACT

When an online learning algorithm is used to estimate the unknown parameters of a model, the signals interacting with the parameter estimates should not decay too quickly for the optimal values to be discovered correctly. This requirement is referred to as persistency of excitation, and it arises in various contexts, such as optimization with stochastic gradient methods, exploration for multi-armed bandits, and adaptive control of dynamical systems. While training a neural network, the iterative optimization algorithm involved also creates an online learning problem, and consequently, correct estimation of the optimal parameters requires persistent excitation of the network weights. In this work, we analyze the dynamics of the gradient descent algorithm while training a two-layer neural network with two different loss functions, the squared-error loss and the cross-entropy loss; and we obtain conditions to guarantee persistent excitation of the network weights. We then show that these conditions are difficult to satisfy when a multi-layer network is trained for a classification task, for the signals in the intermediate layers of the network become low-dimensional during training and fail to remain persistently exciting. To provide a remedy, we delve into the classical regularization terms used for linear models, reinterpret them as a means to ensure persistent excitation of the model parameters, and propose an algorithm for neural networks by building an analogy. The results in this work shed some light on why adversarial examples have become a challenging problem for neural networks, why merely augmenting training data sets will not be an effective approach to address them, and why there may not exist a data-independent regularization term for neural networks, which involve only the model parameters but not the training data.

研究の動機と目的

• 高精度を達成しているにもかかわらず、深層ニューラルネットワークが小さな入力摂動に対して脆弱である理由を理解すること。
• 特に交差エントロピー損失の選択が、そのようなロバストネスの欠如に寄与しているかどうかを調査すること。
• 勾配降下法のダイナミクスにおける持続的励起の役割を分析すること。
• ネットワーク重みが、特により深いネットワークにおいて、持続的励起を維持できなくなる条件を同定すること。
• 古典的線形モデルの正則化にインspiredされた、持続的励起の原則に基づくニューラルネットワーク用の正則化戦略を提案すること。

提案手法

• 2層ニューラルネットワークを用いて、二乗誤差損失関数と交差エントロピー損失関数の両方を用いた勾配降下法のダイナミクスを分析する。
• トレーニング中のネットワーク重みの持続的励起のための条件を導出し、交差エントロピー損失が非サポートベクターからの勾配寄与の急速な減衰を引き起こすことを示す。
• 交差エントロピー損失でトレーニングされた線形分類器のマージン解析を導入し、マージンの大きさがアフィン部分空間におけるサポートベクターの幾何学的配置に依存することを証明する。
• 古典的正則化項（例：L2）を、モデルパラメータの持続的励起を強制するメカニズムとして再解釈する。
• 線形モデルで観察される持続的励起行動を模倣することで、深層ネットワーク向けの新しい正則化アルゴリズムを提案する。
• 理論的分析と実証的検証を用いて、交差エントロピー損失下でのマージン形成の悪化が、低次元のサポートベクター構成に起因することを示す。

実験結果

リサーチクエスチョン

• RQ1 なぜ交差エントロピー損失でトレーニングされたニューラルネットワークは、小さな入力摂動に対してロバスト性に欠けるのか？
• RQ2 入力空間におけるサポートベクターの幾何学的配置が、交差エントロピー損失を使用した際のマージンサイズにどのように影響するか？
• RQ3 ネットワーク重みにおける持続的励起の欠如が、adversarial 脆弱性にどの程度寄与しているか？
• RQ4 従来の線形モデルで用いられる正則化項が、ニューラルネットワークにおける持続的励起を強制するメカニズムとして再解釈可能か？
• RQ5 データに依存しない正則化法を設計することは可能か？その場合、持続的励起を保証することで、深層ネットワークのロバストネスを向上させられるか？

主な発見

• 同じアーキテクチャと最適化アルゴリズムを用いても、交差エントロピー損失でトレーニングされたニューラルネットワークは、二乗誤差損失でトレーニングされたものよりも顕著に小さい決定マージンを達成する。
• 交差エントロピー損失で学習された線形分類器のマージンは、$ \frac{1}{\sqrt{\frac{1}{\gamma_{\text{OPT}}^2} + B^2 \sum_{k \in K} \Delta_k^2}} $ で上界が与えられ、ここで $ \gamma_{\text{OPT}} $ は最適なSVMマージン、$ B $ はサポートベクターのバイアスに依存する。
• サポートベクターが低次元アフィン部分空間上にある場合、$ \sum_{k \in K} \Delta_k^2 $ が増加し、マージンがさらに縮小するため、ロバストネスの達成が難しくなる。
• バイアス項 $ B $ は、サポートベクターが事前に未知であるため、データ前処理によって除去できない。
• 非サポートベクターからの持続的励起の欠如は、それらの勾配寄与の急速な減衰を引き起こし、最適化が最も重要な点にのみ集中する原因となる。
• 古典的正則化項（例：L2）は、持続的励起を強制するツールとして再解釈可能であり、ロバストなニューラルネットワークトレーニングの新たな設計原則を示唆している。