[論文レビュー] Topological Deep Learning

Ephy R. Love, Benjamin Filippenko+2 more|arXiv (Cornell University)|Jan 14, 2021

Topological and Geometric Data Analysis参考文献 20被引用数 9

ひとこと要約

この論文は、トポロジカル多様体—特にクラインの壷とその一般化—を畳み込み層のパrameterizedフィルタとして使用するトポロジカル畳み込みニューラルネットワーク（TCNNs）を紹介する。自然画像データからの幾何学的およびトポロジカルな事前知識をネットワークアーキテクチャに埋め込むことで、特に画像および動画分類タスクにおいて、標準のCNNと比較して、より少ないパラメータで高速な学習、より優れた一般化性能、解釈可能性の向上を達成する。

ABSTRACT

This work introduces the Topological CNN (TCNN), which encompasses several topologically defined convolutional methods. Manifolds with important relationships to the natural image space are used to parameterize image filters which are used as convolutional weights in a TCNN. These manifolds also parameterize slices in layers of a TCNN across which the weights are localized. We show evidence that TCNNs learn faster, on less data, with fewer learned parameters, and with greater generalizability and interpretability than conventional CNNs. We introduce and explore TCNN layers for both image and video data. We propose extensions to 3D images and 3D video.

研究の動機と目的

• 従来のCNNの限界（解釈不能性、大量データの必要性、過学習）を、ネットワークアーキテクチャにトポロジカルな事前知識を埋め込むことで是正すること。
• 自然画像のパッチがクラインの壷多様体の周囲にクラスタリングするというトポロジカルデータ解析（TDA）の知見を活用し、この構造を新しい畳み込み層の基盤として用いること。
• 初期学習段階を構造的に意味のある特徴（例：エッジや線）に偏らせるようにすることで、データセット固有の特徴ではなく、より一般化可能な特徴に学習を向けること。
• 高次元のトポロジカル構造および時空間多様体への拡張により、画像、動画、3次元データに一般化可能なフレームワークを構築すること。
• モデルの複雑さを増さずに、TCNNが標準CNNを上回る訓練速度、サンプル効率、耐障害性を示すことを実証すること。

提案手法

• 標準の学習可能重みではなく、トポロジカル多様体（例：クラインの壷）上の点によってパrameterizedされるフィルタを用いる2つの新しい畳み込み層—Circle Features層とKlein Features層—を提案する。
• 固定畳み込みフィルタのテンプレートとして、クラインの壷の離散化されたグラフ表現を用い、回転や白黒反転などの幾何的不変性を埋め込む。
• TDAの知見を応用：自然画像パッチがクラインの壷多様体上にクラスタリングすることが示されており、TCNN層はこの構造を直接フィルタ基底として使用する。
• 動画用にM-F層（Manifold-Filter層）を導入し、クラインの壷構造を3次元時空間多様体へ一般化することで、運動および時間的ダイナミクスを捉える。
• 3次元動画ネットワークにおけるテンソル次元を残すために、三線形補間とバッチ正規化を用いた残差ブロックを採用する。
• 時間的および空間的特徴を同時に捉えるために、非正方形の3次元カーネル（例：(5×11×11)）を動画モデルで使用し、カーネルサイズは時間および空間次元に対して(t, y, x)として指定する。

実験結果

リサーチクエスチョン

• RQ1 クラインの壷のようなトポロジカル多様体を畳み込み層に埋め込むことで、画像および動画分類における学習速度とモデル一般化性能が向上するか？
• RQ2 固定された、トポロジカルに構造化されたフィルタ（例：クラインの壷のパッチ）を用いることで、標準の学習可能フィルタと比較して、解釈可能性が向上し、過学習が軽減されるか？
• RQ3 限られたデータで学習した場合、または分布外データでテストした場合、TCNNアーキテクチャは標準CNNと比較してどのように性能を発揮するか？
• RQ4 画像および動画の特徴空間のトポロジカル構造を活用することで、より効率的かつ頑健なディープラーニングモデルを設計できるか？
• RQ5 動画ネットワークにおけるM-F層が、データセット固有の特徴ではなく、一般化可能で意味のある特徴に学習を偏らせる程度はどの程度か？

主な発見

• KTHデータセットで学習したTCNNは、Weizmannデータセットで65%の一般化精度を達成したのに対し、標準CNNは52%にとどまり、より優れた転送性を示した。
• Weizmannデータセットにおける初期テスト精度は、TCNNが安定的かつ高い水準を維持した一方、CNNは約50エポックで急激に低下し、初期段階でKTH固有の特徴を学習していた可能性を示唆した。
• TCNNは標準CNNと比較して、より高速に学習し、より少ないパラメータで済ませ、画像および動画ベンチマークの両方で、より優れたサンプル効率と収束速度を示した。
• ガボールフィルタの代わりにクラインの壷フィルタを使用したことで性能が向上し、トポロジカル構造のおかげで、変換に対してより優れた特徴局所化と不変性が達成された。
• 動画モデルにおけるM-F層は、時空間的不変性を効果的に符号化し、より頑健な特徴学習を実現し、データセット固有のノイズに対して感受性が低下した。
• UCF-101データセットでは、12層の残差アーキテクチャを用いたTCNNが高精度を達成した。トポロジカル事前知識と、バッチ正規化および三線形補間を組み合わせた残差ブロックのおかげで、学習が安定化した。