[論文レビュー] MVC-Net: A Convolutional Neural Network Architecture for Manifold-Valued Images With Applications

Jose Bouza, Chun-Hao Yang+2 more|arXiv (Cornell University)|Mar 2, 2020

Advanced Neuroimaging Techniques and Applications参考文献 25被引用数 6

ひとこと要約

本稿では、各画素がリーマン多様体上にある多様体値画像—すなわち、リーマン多様体上に位置するピクセルを持つ—を対象として、接空間の組み合わせを用いて従来の畳み込み演算を一般化することで、MVC-Netと呼ばれる新しい畳み込みニューラルネットワークアーキテクチャを提案する。この手法は等長群の不変性を保証し、接空間ReLU（tReLU）活性化関数を用いた多層ネットワークを可能にし、医療画像処理およびコンピュータビジョンタスクで、優れた精度と効率を実現する最先端の性能を達成する。

ABSTRACT

Geometric deep learning has attracted significant attention in recent years, in part due to the availability of exotic data types for which traditional neural network architectures are not well suited. Our goal in this paper is to generalize convolutional neural networks (CNN) to the manifold-valued image case which arises commonly in medical imaging and computer vision applications. Explicitly, the input data to the network is an image where each pixel value is a sample from a Riemannian manifold. To achieve this goal, we must generalize the basic building block of traditional CNN architectures, namely, the weighted combinations operation. To this end, we develop a tangent space combination operation which is used to define a convolution operation on manifold-valued images that we call, the Manifold-Valued Convolution (MVC). We prove theoretical properties of the MVC operation, including equivariance to the action of the isometry group admitted by the manifold and characterizing when compositions of MVC layers collapse to a single layer. We present a detailed description of how to use MVC layers to build full, multi-layer neural networks that operate on manifold-valued images, which we call the MVC-net. Further, we empirically demonstrate superior performance of the MVC-nets in medical imaging and computer vision tasks.

研究の動機と目的

• リーマン多様体上に存在するデータ、特に医療画像処理およびコンピュータビジョン分野において、一般的かつ幾何学に配慮した深層学習フレームワークの欠如に取り組むこと。
• 従来のベクトル空間演算に適さない多様体値画像に、畳み込みニューラルネットワーク（CNN）における標準的な畳み込み演算を一般化すること。
• 多様体の内在的幾何構造を尊重する理論的裏付けのある、不変性を保証する畳み込み機構を開発すること。
• 新しい接空間に基づく重み付き組み合わせ演算を用いて、多様体値データ上で多層の深層ネットワークを構築すること。
• 実世界の分類タスクにおける実験的評価を通じて、MVC-Netの有効性を示し、精度と効率の両面で優れた性能を達成すること。

提案手法

• コアな革新は、リーマン多様体への一般化を図った多様体値畳み込み（MVC）であり、これは接空間における組み合わせ操作を用いて定義される。この操作は、線形重み付き組み合わせをリーマン多様体へ一般化する。
• MVC操作は、多様体値入力を基準点における接空間に写像し、接空間で線形結合を実行した後、指数写像を用いて再び多様体に戻すことで構築される。
• 本手法は、多様体の等長群の作用に関してMVCが不変であることを証明し、従来のCNNが持つ重要な不変性特性を保持していることを示している。
• 深さを持つMVC-Netを実現するために、接空間で動作し多様体に戻す投影を伴う新しい非線形活性化関数、接空間ReLU（tReLU）を提案する。
• アーキテクチャは、先行研究に基づいて適応された多様体値全結合（MVFC）層と組み合わせ、その後に標準的なユークリッド全結合層とソフトマックス層を配置する。
• ネットワークは、交差エントロピー損失関数を用いた標準的な最適化（Adam）により学習され、動画および医療画像ベンチマークで10-fold交差検証を用いて評価される。

実験結果

リサーチクエスチョン

• RQ1 幾何的不変性を保ちつつ深さを実現できる一般用途向けの畳み込みニューラルネットワークを、多様体値画像に適用可能に設計できるか？
• RQ2 等長性などの重要な性質を維持しつつ、標準的な畳み込み演算をリーマン多様体へ一般化する方法は何か？
• RQ3 深層ネットワークにおける非線形性を実現できる、効果的かつ微分可能な多様体値特徴用の活性化関数は何か？
• RQ4 提案されたMVC-Netは、実世界の応用において、既存手法に比べて多様体値データで優れた性能を発揮するか？
• RQ5 MVC層の合成が単一の層に縮退する条件は何か？実務ではどのようにこれを回避できるか？

主な発見

• MNIST-Sphereデータセットでは、MVC-Netが100% ± 0.00のテスト精度を達成し、LSTMやGRUを含むすべてのベースラインを上回った。
• Moving MNIST動画分類タスクでは、MVC-Netが97.0% ± 0.02の精度を達成し、TT-GRU や TT-LSTM といった最良のRNNベースモデルをも凌駆した。
• パラメータ効率性に優れ、SPD-SRU実験ではわずか738パラメータで、LSTM（252,342パラメータ）や同等のモデルと比較して顕著に少ない。
• MVC-Netアーキテクチャは高い学習効率を示し、SPD-SRUタスクでは1エポックあたりの推論時間が約2.7秒と、RNNベースの代替手法に比べて著しく高速であった。
• 理論的分析により、MVCが多様体の等長群に関して不変であることが確認され、一般化性能と重み共有の観点で重要な性質であることが裏付けられた。
• 実験的結果から、tReLUの使用が深層ネットワーク性能に不可欠であることが示された。非線形性を欠いたネットワークは、1層を越えて一般化できないことが分かった。