[論文レビュー] Relating Cascaded Random Forests to Deep Convolutional Neural Networks for Semantic Segmentation

David Richmond, Dagmar Kainmueller+3 more|arXiv (Cornell University)|Jul 27, 2015

Advanced Neural Network Applications参考文献 40被引用数 36

ひとこと要約

本稿は、スタックドランダムフォレスト（RF）とディープ畳み込みニューラルネットワーク（CNN）の間の理論的・実用的な対応関係を確立し、セマンティックセグメンテーションにおける知能的なCNN初期化とRF設計の向上を可能にする。このアプローチにより、コンピュータビジョンおよびバイオイメージング分野の小規模データセットにおいて性能が向上し、深度ベースのボディパーツラベル付けおよびゼブラフィッシュの somite セグメンテーションにおいて最先端の結果を示している。

ABSTRACT

We consider the task of pixel-wise semantic segmentation given a small set of labeled training images. Among two of the most popular techniques to address this task are Random Forests (RF) and Neural Networks (NN). The main contribution of this work is to explore the relationship between two special forms of these techniques: stacked RFs and deep Convolutional Neural Networks (CNN). We show that there exists a mapping from stacked RF to deep CNN, and an approximate mapping back. This insight gives two major practical benefits: Firstly, deep CNNs can be intelligently constructed and initialized, which is crucial when dealing with a limited amount of training data. Secondly, it can be utilized to create a new stacked RF with improved performance. Furthermore, this mapping yields a new CNN architecture, that is well suited for pixel-wise semantic labeling. We experimentally verify these practical benefits for two different application scenarios in computer vision and biology, where the layout of parts is important: Kinect-based body part labeling from depth images, and somite segmentation in microscopy images of developing zebrafish.

研究の動機と目的

• スタックドランダムフォレストとディープ畳み込みニューラルネットワークの間の理論的・実用的関係を、ピxls単位のセマンティックセグメンテーションの文脈で探求すること。
• この関係を活用して、特に訓練データが限られる状況下でも、ディープCNNの知的初期化を可能にすること。
• CNN構造にインspiredされた新しいRFアーキテクチャを導出することで、スタックドランダムフォレストの性能を向上させること。
• 構造的な空間的レイアウトを持つセマンティックラベリングタスクに特化した新しいCNNアーキテクチャを開発すること。
• コンピュータビジョンおよび発生生物学分野の実世界応用において、本手法の妥当性を検証すること。

提案手法

• スタックドランダムフォレストからディープCNNへの数学的マッピングを確立し、RFが特定の重み共有と非線形性を持つディープネットワークの一形態として解釈可能であることを示す。
• CNNからRFへの近似逆マッピングを導出することで、CNNにインspiredされた構造を用いた一般化性能が向上するRFの設計を可能にする。
• 前向きマッピングを用いて、RFベースの特徴を用いてCNNを初期化し、小規模データセットにおけるトレーニングの不安定性を低減し、収束性を向上させる。
• 階層的特徴学習やマルチスケールの受容野といった、CNNベースのアーキテクチャ的原則を適用することで、新しいスタックドRFの変種を構築する。
• 2つのベンチマークデータセット（深度画像を用いたボディパーツラベル付けと、ゼブラフィッシュ顕微鏡画像を用いた somite セグメンテーション）上で、得られたCNNおよびRFモデルをエンドツーエンドでトレーニングおよびファインチューニングする。
• 標準的なセグメンテーション指標を用いて性能を評価し、ベースラインのRFおよびCNNモデルと比較する。

実験結果

リサーチクエスチョン

• RQ1 スタックドランダムフォレストを、その予測行動を保持する形で、ディープ畳み込みニューラルネットワークに正式にマッピングできるか？
• RQ2 RFからCNNへのマッピングを、小規模データセットにおけるCNNの初期化およびトレーニング効率の向上にどのように活用できるか？
• RQ3 CNNからRFへの逆マッピングは、セマンティックセグメンテーションに向けた、より強力なRFアーキテクチャの構築に繋がるか？
• RQ4 RF構造にインspiredされた本稿で提案するCNNアーキテクチャは、構造的セグメンテーションタスクで優れた性能を達成するか？
• RQ5 本手法は、ヒトの体や発達中のゼブラフィッシュのような複雑な空間的レイアウトを示す分野にも一般化可能か？

主な発見

• 提案されたマッピングにより、RFベースの特徴を用いたディープCNNの有効な初期化が可能となり、小規模なトレーニングセットにおいて収束性と精度が顕著に向上した。
• 導出されたスタックドRFの変種は、Kinectを用いたボディパーツラベル付けおよびゼブラフィッシュの somite セグメンテーションの両タスクにおいて、標準RFを上回る性能を示した。
• RF-CNNマッピングにインspiredされた新しいCNNアーキテクチャは、ゼブラフィッシュの somite セグメンテーションベンチマークで最先端の性能を達成した。
• 本手法は、ヒトのボディパーツラベル付けおよび発生生物学イメージング分野を含む多様な応用分野において、頑健な性能を示した。
• 定量的評価では、ベースラインモデルと比較して両データセットにおいて平均交差率（mIoU）およびDice係数が一貫して向上した。
• 本手法は過学習を低減し、特にラベル付きデータが限られる状況下で一般化性能を向上させた。