[논문 리뷰] SLADS-Net: Supervised Learning Approach for Dynamic Sampling using Deep Neural Networks

Yan Zhang, G. M. Dilshan Godaliyadda외 4명|arXiv (Cornell University)|2018. 03. 08.

Cell Image Analysis Techniques참고 문헌 13인용 수 5

한 줄 요약

SLADS-Net는 깊이 있는 신경망 기반의 동적 샘플링 프레임워크를 제안하며, 훈련 이미지와 테스트 이미지가 유사하지 않은 경우 기존의 최소 제곱 회귀를 사용하는 전통적 SLADS보다 뛰어난 성능을 보인다. 비선형 특징 학습을 활용하여 유사한 훈련 데이터가 없어도 효과적인 희소 샘플링을 가능하게 하며, 미리 훈련된 버전을 통해 재훈련 없이도 새로운 영상 실험에 직접 적용할 수 있다.

ABSTRACT

In scanning microscopy based imaging techniques, there is a need to develop novel data acquisition schemes that can reduce the time for data acquisition and minimize sample exposure to the probing radiation. Sparse sampling schemes are ideally suited for such applications where the images can be reconstructed from a sparse set of measurements. In particular, dynamic sparse sampling based on supervised learning has shown promising results for practical applications. However, a particular drawback of such methods is that it requires training image sets with similar information content which may not always be available. In this paper, we introduce a Supervised Learning Approach for Dynamic Sampling (SLADS) algorithm that uses a deep neural network based training approach. We call this algorithm SLADS- Net. We have performed simulated experiments for dynamic sampling using SLADS-Net in which the training images either have similar information content or completely different information content, when compared to the testing images. We compare the performance across various methods for training such as least- squares, support vector regression and deep neural networks. From these results we observe that deep neural network based training results in superior performance when the training and testing images are not similar. We also discuss the development of a pre-trained SLADS-Net that uses generic images for training. Here, the neural network parameters are pre-trained so that users can directly apply SLADS-Net for imaging experiments.

연구 동기 및 목표

• SLADS의 한계를 해결하기 위해, 최적의 성능을 내기 위해 훈련 이미지가 테스트 이미지와 유사해야 하는 조건을 없애는 것.
• 훈련 이미지와 테스트 이미지가 유사하지 않은 조건에서도 높은 복원 품질을 유지하는 동적 샘플링 방법을 개발하는 것.
• 사용자 고유의 훈련 데이터가 필요 없도록 일반적인 이미지로 미리 훈련된 SLADS-Net 모델을 도입하는 것.
• ERD 예측을 위한 깊이 신경망, 최소 제곱 회귀, 서포트 벡터 회귀 간의 성능을 비교하는 것.
• SLADS-Net이 빔에 민감한 또는 알려지지 않은 샘플에 대해 재훈련 없이도 고성능 영상 촬영을 가능하게 하는지 입증하는 것.

제안 방법

• 예상 왜곡 감소(ERD)로의 매핑을 학습하기 위해 깊이 신경망을 사용하여 기존 SLADS에서 사용하는 최소 제곱 회귀를 대체하는 것.
• 기본 영상에서 계산된 RD 값과 측정 특징의 쌍을 사용하여 네트워크를 훈련하는 것.
• 추론 시점에 현재 측정값을 바탕으로 최적의 다음 샘플링 위치를 예측하기 위해 네트워크를 적용하는 것.
• 일반적인 이미지(예: ‘cameraman’ 데이터셋)로 초기화된 미리 훈련된 SLADS-Net 모델을 사용하여 새로운 샘플에 직접 구현할 수 있도록 하는 것.
• 왜곡을 기저 영상와 복원 영상 간의 L1 노름으로 정의한다: $ D(X,\hat{X}^{(k)}) = \sum_{i=1}^{N} |X_i - \hat{X}^{(k)}_i| $.
• 예측된 ERD를 최대화하는 위치를 다음 측정 위치로 선택한다: $ s^{(k+1)} = \arg\max_{s \in \Omega \setminus \mathcal{S}} \bar{R}^{(k;s)} $.

실험 결과

연구 질문

• RQ1 훈련 이미지와 테스트 이미지가 유사하지 않은 조건에서 깊이 신경망이 동적 샘플링 성능을 향상시킬 수 있는가?
• RQ2 이상한 이미지 조건에서 SLADS-Net이 최소 제곱 회귀 및 서포트 벡터 회귀와 비교해 복원 품질과 런타임 측면에서 어떻게 성능을 내는가?
• RQ3 일반적인 이미지로 미리 훈련된 SLADS-Net 모델이 다양한 미리 보지 못한 테스트 샘플에서 높은 복원 정밀도를 달성할 수 있는가?
• RQ4 훈련 데이터가 테스트 샘플과 유사하지 않은 경우, 특히 빔에 민감한 영상 촬영에서 SLADS-Net이 얼마나 강건한가?
• RQ5 다양한 학습 방법을 사용한 전통적 SLADS와 비교해 SLADS-Net의 계산 효율성은 어떠한가?

주요 결과

• SLADS-Net은 유사하지 않은 테스트 이미지에서 40% 샘플링 비율일 때 PSNR 20.88 dB를 달성하여 기존 SLADS(15.12 dB)와 무작위 샘플링(17.31 dB)보다 뚜렷이 뛰어난 성능을 보였다.
• 훈련 및 테스트 이미지가 유사하지 않은 테스트 케이스 (ii)에서 SLADS-Net은 40% 샘플링 비율에서 PSNR 20.88 dB를 기록했고, 최소 제곱 회귀는 15.12 dB로 떨어졌다.
• 미리 훈련된 SLADS-Net은 일반적인 256×256 ‘cameraman’ 이미지를 사용해 사전 훈련한 결과, 세 가지 다른 테스트 이미지에서 각각 PSNR 25.51 dB, 44.40 dB, 32.50 dB를 기록했다.
• SLADS-Net은 서포트 벡터 회귀보다 빠른 추론 속도를 보였으며, 256×256 영상 기준 평균 런타임은 155.15초로 SVR의 603.62초보다 빠르게 기록되었다.
• SLADS-Net의 신경망 기반 훈련은 유사하지 않은 이미지에 대해 뛰어난 일반화 성능를 보였고, 반면 최소 제곱 회귀 및 SVR 방법은 이러한 조건에서 성능이 크게 떨어졌다.
• 미리 훈련된 SLADS-Net은 샘플 고유의 훈련 데이터가 필요 없이 새로운 영상 실험에 직접 적용 가능하게 하여 재훈련이 없는 고성능 영상 촬영을 지원했다.