[論文レビュー] SLADS-Net: Supervised Learning Approach for Dynamic Sampling using Deep Neural Networks

Yan Zhang, G. M. Dilshan Godaliyadda+4 more|arXiv (Cornell University)|Mar 8, 2018

Cell Image Analysis Techniques参考文献 13被引用数 5

ひとこと要約

SLADS-Netは、トレーニング画像とテスト画像が類似していない場合に、従来のSLADS（最小二乗回帰を用いる）よりも優れた性能を示す、深層ニューラルネットワークベースの動的サンプリングフレームワークを提案する。非線形特徴抽出を活用することで、類似したトレーニングデータがなくても効果的なスパースサンプリングが可能となり、事前学習済みバージョンでは再トレーニングなしで新しい画像実験に直接応用可能である。

ABSTRACT

In scanning microscopy based imaging techniques, there is a need to develop novel data acquisition schemes that can reduce the time for data acquisition and minimize sample exposure to the probing radiation. Sparse sampling schemes are ideally suited for such applications where the images can be reconstructed from a sparse set of measurements. In particular, dynamic sparse sampling based on supervised learning has shown promising results for practical applications. However, a particular drawback of such methods is that it requires training image sets with similar information content which may not always be available. In this paper, we introduce a Supervised Learning Approach for Dynamic Sampling (SLADS) algorithm that uses a deep neural network based training approach. We call this algorithm SLADS- Net. We have performed simulated experiments for dynamic sampling using SLADS-Net in which the training images either have similar information content or completely different information content, when compared to the testing images. We compare the performance across various methods for training such as least- squares, support vector regression and deep neural networks. From these results we observe that deep neural network based training results in superior performance when the training and testing images are not similar. We also discuss the development of a pre-trained SLADS-Net that uses generic images for training. Here, the neural network parameters are pre-trained so that users can directly apply SLADS-Net for imaging experiments.

研究の動機と目的

• SLADSの限界を解決する。特に、最適な性能を発揮するためにはトレーニング画像とテスト画像が類似している必要がある点。
• トレーニング画像とテスト画像が類似していない場合でも、高い再構成品質を維持できる動的サンプリング手法を開発する。
• ユーザー固有のトレーニングデータを必要としないために、汎用的な画像で事前学習されたSLADS-Netモデルを導入する。
• ERD予測における深層ニューラルネットワークと最小二乗回帰およびサポートベクターレグレッションを比較する。
• SLADS-Netが、ビーム感受性または未知のサンプルに対して、トレーニング不要で高パフォーマンスなイメージングを実現できることを実証する。

提案手法

• 測定特徴量から期待歪み低減量（ERD）へのマッピングを学習する深層ニューラルネットワークを用い、SLADSにおける最小二乗回帰を置き換える。
• 教師画像からの歪み値（RD）を計算して、測定特徴量とそれに対応するRD値のペアを用いてネットワークを学習する。
• 推論時にネットワークを適用し、現在の測定に基づいて最適な次のサンプリング位置を予測する。
• 汎用的な画像（例：‘cameraman’データセット）で事前学習したSLADS-Netモデルを用いて、新しいサンプルに直接展開可能にする。
• 歪みを、教師画像と再構成画像とのL1ノルムとして定義する：$ D(X,\hat{X}^{(k)}) = \sum_{i=1}^{N} |X_i - \hat{X}^{(k)}_i| $。
• 予測されたERDを最大化する位置を次の測定位置として選択する：$ s^{(k+1)} = \arg\max_{s \in \Omega \setminus \mathcal{S}} \bar{R}^{(k;s)} $。

実験結果

リサーチクエスチョン

• RQ1 トレーニング画像とテスト画像が類似していない場合に、深層ニューラルネットワークが動的サンプリングの性能を向上させられるか？
• RQ2 類似していない画像条件下で、SLADS-Netは最小二乗回帰およびサポートベクターレグレッションと比較して、再構成品質と実行時間の両面で優れているか？
• RQ3 汎用的な画像で事前学習したSLADS-Netモデルが、多様で未観測のテストサンプルにおいても高い再構成忠実度を達成できるか？
• RQ4 トレーニングデータがテストサンプルと類似していない状況下でも、SLADS-Netは強靭性を保っているか。特にビーム感受性イメージングにおいては？
• RQ5 異なる学習手法を用いた場合、SLADS-Netは従来のSLADSに比べて計算効率に優れているか？

主な発見

• SLADS-Netは、類似していないテスト画像において40%のサンプリング率でPSNR 20.88 dBを達成し、オリジナルのSLADS（15.12 dB）およびランダムサンプリング（17.31 dB）を大きく上回った。
• テストケース（ii）では、トレーニング画像とテスト画像が類似していない状況下で、SLADS-Netは40%のサンプリング率で20.88 dBのPSNRを達成したが、最小二乗回帰は15.12 dBまで低下した。
• 事前学習済みSLADS-Netは、256×256の汎用的な‘cameraman’画像を用いた事前学習により、3つの異なるテスト画像でそれぞれ25.51 dB、44.40 dB、32.50 dBのPSNRを達成した。
• SLADS-Netはサポートベクターレグレッションよりも高速な推論を示し、256×256画像の平均実行時間は155.15秒であったのに対し、SVRは603.62秒であった。
• SLADS-Netにおけるニューラルネットワークベースの学習は、類似していない画像への一般化性能に優れており、最小二乗回帰およびSVR手法はこのような条件下で著しく性能を低下させた。
• 事前学習済みSLADS-Netにより、サンプル固有のトレーニングデータを必要とせず、新しいイメージング実験に直接応用可能となり、トレーニング不要の高パフォーマンスなイメージングを実現した。