[論文レビュー] Dissecting Deep Neural Networks

Haakon Robinson, Adil Rasheed+1 more|arXiv (Cornell University)|Oct 9, 2019

Adversarial Robustness in Machine Learning参考文献 29被引用数 10

ひとこと要約

本稿では、線形計画法（LP）と多面体集合解析を活用して、ReLU活性化関数を有する全結合ニューラルネットワークの正確な区分的アフィン（PWA）表現を計算する新規なアルゴリズムを提示する。この手法により、ネットワークの線形領域の明示的可視化と解析が可能となり、振り子モデルにおける116の領域と10⁻⁴未満の予測誤差を示す、学習されたダイナミクスの構造的パターンが明らかになる。

ABSTRACT

In exchange for large quantities of data and processing power, deep neural networks have yielded models that provide state of the art predication capabilities in many fields. However, a lack of strong guarantees on their behaviour have raised concerns over their use in safety-critical applications. A first step to understanding these networks is to develop alternate representations that allow for further analysis. It has been shown that neural networks with piecewise affine activation functions are themselves piecewise affine, with their domains consisting of a vast number of linear regions. So far, the research on this topic has focused on counting the number of linear regions, rather than obtaining explicit piecewise affine representations. This work presents a novel algorithm that can compute the piecewise affine form of any fully connected neural network with rectified linear unit activations.

研究の動機と目的

• 安全で重要な応用分野に広く用いられているにもかかわらず、深層ニューラルネットワーク（DNN）の明示的かつ解析可能な表現が不足しているという問題に取り組む。
• DNNをブラックボックスとして扱うという制限を克服し、その正確な区分的アフィン（PWA）構造を導出可能にする。
• PWAシステム解析手法（例：安定性の検証、不変集合の計算）を、ReLUベースのDNNに適用可能にする。
• 高複雑性アーキテクチャであっても、全結合ReLUネットワークをその正確なPWA形式に変換可能であることを実証する。
• PWA表現の簡略化または正則化の可能性を検討し、冗長性を低減し、解釈可能性と解析効率を向上させる。

提案手法

• アルゴリズムは、すべての層におけるReLU活性化境界が形成する超平面の配置を線形計画法（LP）技術を用いて分析することで、PWA表現を計算する。
• 多面体集合の処理と、ネットワークがアフィンとなる凸多面体領域の効率的計算には、MATLAB用のMPT（Multi-Parametric Toolbox）を用いる。
• この手法は、ReLUユニットが誘発する入力空間の分割を体系的に追跡し、すべての線形領域とそれに対応する重み・バイアスパラメータを同定する。
• 活性化関数が区分的アフィンであれば、畳み込み層やバッチ正則化層を含む任意の線形／アフィン層へ一般化可能である。
• 計算効率を向上させるためにアルゴリズムを並列化し、標準的なハードウェア上でも31,835個の線形領域を持つネットワークの変換を1分未塔で実行可能である。
• PWA表現は多面体領域上の表面プロットとして可視化され、出力の勾配挙動やネットワーク出力における構造的パターンの検査が可能になる。

実験結果

リサーチクエスチョン

• RQ1 計算幾何学と線形計画法を用いて、全結合ReLUニューラルネットワークをその正確な区分的アフィン（PWA）表現に変換できるか？
• RQ2 PWA領域の構造は、たとえば減衰振動子モデルのような、訓練済みネットワークの背後にあるダイナミクスとどのように関連しているか？
• RQ3 安定性の検証や不変集合の計算といった、既存のPWAシステム解析手法を、PWA関数として表現された深層ニューラルネットワークにどの程度適用できるか？
• RQ4 特に入力次元とネットワークの深さの観点から、深層ネットワークの正確なPWA表現を導出する際の計算的・スケーラビリティの限界は何か？
• RQ5 PWA表現における冗長的または高密度に集積した線形領域を同定し、解釈可能性と解析効率の向上のための簡略化が可能か？

主な発見

• アルゴリズムは、ReLUベースの全結合ニューラルネットワークの正確なPWA形式を成功裏に計算した。最大で31,835個の線形領域を持つネットワークがテストされた。
• 減衰振動子のダイナミクスを近似する際、平均二乗誤差（RMSE）が1.615×10⁻⁴に達し、高い予測精度を示した。
• 振り子ネットワークのPWA表現は116個の線形領域を明らかにした。その配置は構造的で、水平境界はḋθ=0付近に集中し、垂直境界は真のダイナミクスと一致する正弦波パターンを形成していた。
• 各領域内でネットワークの出力勾配は局所的に一定であり、境界構造が出力面の傾きと形状に直接的な影響を与えていた。
• 高い表現力を持つにもかかわらず、PWA表現には多数の小さな冗長領域が存在し、安定性解析を複雑にしている。これは、正則化または簡略化の必要性を示唆している。
• アルゴリズムは標準デスクトップハードウェアでもスケーラブルであり、並列化されたバージョンでは、4入力次元と3隠れ層を持つネットワークの変換を約1分で完了した。