[论文解读] SLADS-Net: Supervised Learning Approach for Dynamic Sampling using Deep Neural Networks

Yan Zhang, G. M. Dilshan Godaliyadda+4 more|arXiv (Cornell University)|Mar 8, 2018

Cell Image Analysis Techniques参考文献 13被引用 5

一句话总结

SLADS-Net 提出了一种基于深度神经网络的动态采样框架，在训练图像与测试图像不相似时，其性能优于传统的基于最小二乘回归的 SLADS。通过利用非线性特征学习，SLADS-Net 即使在缺乏相似训练数据的情况下也能实现有效的稀疏采样，且预训练版本可直接应用于新成像实验而无需微调。

ABSTRACT

In scanning microscopy based imaging techniques, there is a need to develop novel data acquisition schemes that can reduce the time for data acquisition and minimize sample exposure to the probing radiation. Sparse sampling schemes are ideally suited for such applications where the images can be reconstructed from a sparse set of measurements. In particular, dynamic sparse sampling based on supervised learning has shown promising results for practical applications. However, a particular drawback of such methods is that it requires training image sets with similar information content which may not always be available. In this paper, we introduce a Supervised Learning Approach for Dynamic Sampling (SLADS) algorithm that uses a deep neural network based training approach. We call this algorithm SLADS- Net. We have performed simulated experiments for dynamic sampling using SLADS-Net in which the training images either have similar information content or completely different information content, when compared to the testing images. We compare the performance across various methods for training such as least- squares, support vector regression and deep neural networks. From these results we observe that deep neural network based training results in superior performance when the training and testing images are not similar. We also discuss the development of a pre-trained SLADS-Net that uses generic images for training. Here, the neural network parameters are pre-trained so that users can directly apply SLADS-Net for imaging experiments.

研究动机与目标

• 解决 SLADS 的局限性，即其在最优性能下要求训练图像与测试图像相似。
• 开发一种在训练图像与测试图像不相似时仍能保持高重建质量的动态采样方法。
• 引入一个在通用图像上预训练的 SLADS-Net 模型，以消除对用户特定训练数据的需求。
• 对比深度神经网络与最小二乘回归和支持向量回归在动态采样中用于 ERD 预测的性能。
• 证明 SLADS-Net 可实现无需训练的高性能成像，适用于对束流敏感或未知的样品。

提出的方法

• 使用深度神经网络学习从测量特征到预期失真减少量（ERD）的映射，替代 SLADS 中的最小二乘回归。
• 使用测量特征与对应 RD 值对（由真实图像计算得出）进行网络训练。
• 在推理阶段应用网络，基于当前测量结果预测最优的下一个采样位置。
• 使用在通用图像（如“cameraman”数据集）上预训练的 SLADS-Net 模型，实现在新样品上的直接部署。
• 将失真定义为真实图像与重建图像之间 L1 范数：$ D(X,\hat{X}^{(k)}) = \sum_{i=1}^{N} |X_i - \hat{X}^{(k)}_i| $。
• 将下一个测量位置选择为预测 ERD 最大的位置：$ s^{(k+1)} = \arg\max_{s \in \Omega \setminus \mathcal{S}} \bar{R}^{(k;s)} $。

实验结果

研究问题

• RQ1 当训练图像与测试图像不相似时，深度神经网络是否能提升动态采样性能？
• RQ2 在训练与测试图像不相似的条件下，SLADS-Net 与最小二乘回归和支持向量回归在重建质量与运行时间方面有何比较？
• RQ3 在通用图像上预训练的 SLADS-Net 模型是否能在多样且未见过的测试样本上实现高重建保真度？
• RQ4 当训练数据与测试样本缺乏相似性时，SLADS-Net 是否仍保持鲁棒性，特别是在束流敏感成像中？
• RQ5 与使用不同学习方法的传统 SLADS 相比，SLADS-Net 的计算效率如何？

主要发现

• 在不相似的测试图像上，SLADS-Net 在 40% 采样率下实现了 20.88 dB 的 PSNR，显著优于原始 SLADS（15.12 dB）和随机采样（17.31 dB）。
• 在测试案例（ii）中，训练与测试图像不相似时，SLADS-Net 在 40% 采样率下达到 20.88 dB PSNR，而最小二乘回归下降至 15.12 dB。
• 预训练的 SLADS-Net 在使用通用 256×256 “cameraman” 图像进行预训练后，对三张不同测试图像分别实现了 25.51 dB、44.40 dB 和 32.50 dB 的 PSNR。
• SLADS-Net 的推理速度优于支持向量回归，256×256 图像的平均运行时间分别为 155.15 秒和 603.62 秒。
• SLADS-Net 中基于神经网络的训练在面对不相似图像时表现出更优的泛化能力，而最小二乘回归与 SVR 方法在此类条件下性能显著下降。
• 预训练的 SLADS-Net 可直接应用于新成像实验，无需用户特定的训练数据，支持无需训练的动态采样。