[論文レビュー] Topology and geometry of data manifold in deep learning

German Magai, Anton Ayzenberg|arXiv (Cornell University)|Apr 19, 2022

Topological and Geometric Data Analysis被引用数 5

ひとこと要約

本稿では、層をまたがるデータ多様体の進化を分析することにより、深層ニューラルネットワークを幾何学的・位相的枠組みで解明する手法を提案する。位相的データ解析と内挿次元を用いて一般化性能を評価し、位相的変化がコンピュータビジョンタスクにおけるモデル性能および敵対的ロバストネスと相関することを明らかにする。

ABSTRACT

Despite significant advances in the field of deep learning in applications to various fields, explaining the inner processes of deep learning models remains an important and open question. The purpose of this article is to describe and substantiate the geometric and topological view of the learning process of neural networks. Our attention is focused on the internal representation of neural networks and on the dynamics of changes in the topology and geometry of the data manifold on different layers. We also propose a method for assessing the generalizing ability of neural networks based on topological descriptors. In this paper, we use the concepts of topological data analysis and intrinsic dimension, and we present a wide range of experiments on different datasets and different configurations of convolutional neural network architectures. In addition, we consider the issue of the geometry of adversarial attacks in the classification task and spoofing attacks on face recognition systems. Our work is a contribution to the development of an important area of explainable and interpretable AI through the example of computer vision.

研究の動機と目的

• 層をまたがるニューラルネットワーク表現の幾何学的・位相的理解を構築すること。
• 深層学習におけるトレーニング過程でのデータ多様体の位相的および幾何学的特性の進化を調査すること。
• モデルの一般化能力を評価するための位相的記述子を提案すること。
• 顔認識システムにおける位相的構造と敵対的脆弱性の関係を分析すること。
• 内挿幾何学と位相的特性をモデル行動と結びつけることで、説明可能なAIに貢献すること。

提案手法

• 著者らは、位相的データ解析における持続的ホモロジーを用い、ネットワークの各層におけるデータ多様体の位相的特徴（例えば、連結成分、ループ）を追跡する。
• データ多様体の内挿次元を異なる層で推定し、幾何学的複雑さと情報含量を定量化する。
• ベッチ数と持続的図に基づく位相的記述子を導入し、一般化能力を評価する。
• ImageNet や顔認識ベンチマークを含む、複数の CNN アーキテクチャとデータセットを用いた実験が実施された。
• クリーンな入力と摂動を加えた入力における位相的変化を比較することで、敵対的例の分析に本フレームワークを拡張した。
• アブレーションスタディと標準的一般化指標との比較を通じて、フレームワークの妥当性を検証した。

実験結果

リサーチクエスチョン

• RQ1 トレーニング済みの深層ニューラルネットワークにおいて、データ多様体の位相的特性は層を跨いでどのように変化するか？
• RQ2 位相的記述子とモデルの一般化性能の相関度はどの程度か？
• RQ3 データ多様体の位相的変化は、敵対的攻撃への感受性を予測できるか？
• RQ4 トレーニング過程における特徴の内挿次元はどのように変化し、表現学習に関する何を示唆するか？
• RQ5 位相的解析は、顔認識システムにおけるスプーフィング攻撃を検出・解釈できるか？

主な発見

• データ多様体の位相的特性は、より深い層へ進むに従い、簡素化され、より構造的になる傾向が示され、有効な特徴抽出を示唆している。
• 位相的記述子とテスト精度の間に強い相関が観察され、位相的特徴が一般化を予測できることを示している。
• 敵対的例は、特に初期層で顕著な位相的歪みを引き起こすことが判明し、構造的脆弱性を示している。
• 特徴の内挿次元は、より深い層へ進むに従い減少し、次元削減と特徴圧縮を反映している。
• 顔認識システムにおけるスプーフィング攻撃は、潜在空間に明確な位相的異常を引き起こし、持続的ホモロジーを用いて検出可能である。
• 層を跨いで位相的安定性が高いモデルは、敵対的攻撃およびスプーフィング攻撃の両方に対して優れたロバストネスを示す。