[论文解读] A Spatial Mapping Algorithm with Applications in Deep Learning-Based Structure Classification

Thomas Corcoran, Rafael Zamora‐Resendiz+2 more|arXiv (Cornell University)|Feb 7, 2018

Cell Image Analysis Techniques参考文献 14被引用 6

一句话总结

本文提出一种空间映射算法，利用空间填充曲线将三维结构数据转换为一维和二维网格，从而实现对复杂三维数据的高效一维和二维卷积神经网络（CNN）训练。该方法保留了关键的三维特征，缩短了训练时间，支持更高分辨率的输入，并允许比体素CNN更多的数据通道，在Ras蛋白家族分类任务中表现出色，且结构保真度损失极小。

ABSTRACT

Convolutional Neural Network (CNN)-based machine learning systems have made breakthroughs in feature extraction and image recognition tasks in two dimensions (2D). Although there is significant ongoing work to apply CNN technology to domains involving complex 3D data, the success of such efforts has been constrained, in part, by limitations in data representation techniques. Most current approaches rely upon low-resolution 3D models, strategic limitation of scope in the 3D space, or the application of lossy projection techniques to allow for the use of 2D CNNs. To address this issue, we present a mapping algorithm that converts 3D structures to 2D and 1D data grids by mapping a traversal of a 3D space-filling curve to the traversal of corresponding 2D and 1D curves. We explore the performance of 2D and 1D CNNs trained on data encoded with our method versus comparable volumetric CNNs operating upon raw 3D data from a popular benchmarking dataset. Our experiments demonstrate that both 2D and 1D representations of 3D data generated via our method preserve a significant proportion of the 3D data's features in forms learnable by CNNs. Furthermore, we demonstrate that our method of encoding 3D data into lower-dimensional representations allows for decreased CNN training time cost, increased original 3D model rendering resolutions, and supports increased numbers of data channels when compared to purely volumetric approaches. This demonstration is accomplished in the context of a structural biology classification task wherein we train 3D, 2D, and 1D CNNs on examples of two homologous branches within the Ras protein family. The essential contribution of this paper is the introduction of a dimensionality-reduction method that may ease the application of powerful deep learning tools to domains characterized by complex structural data.

研究动机与目标

• 解决3D CNN在处理结构生物学等领域中高分辨率、稀疏的3D结构数据时的局限性。
• 通过将3D数据转换为低维表示，实现高效的一维和二维CNN在3D数据上的应用，同时保持特征损失最小。
• 与传统的体素CNN相比，减少训练时间，提高输入分辨率和数据通道容量。
• 通过将显著性图从一维/二维空间反向映射到三维空间，支持可解释性，实现特征可视化。
• 提供一种可扩展的、双射的编码方法，将3D结构数据与现有深度学习工具相连接。

提出的方法

• 该算法使用空间填充曲线（如希尔伯特曲线或Z阶）将3D网格坐标映射为一维和二维序列，保留空间局部性。
• 对3D结构进行双射遍历，映射到二维或一维曲线，将3D数据转换为保持拓扑关系的网格。
• 生成的一维和二维表示被输入标准的一维和二维CNN，这些网络从编码数据中学习分层特征。
• 由于内存和计算开销降低，该方法相比体素3D CNN支持更高分辨率的输入数据和更多的数据通道。
• 编码过程可逆，可从二维或一维显著性图重建3D注意力图，以支持可解释性。
• 实验使用Keras与TensorFlow 1.2，基于Ras蛋白家族数据，在3D、2D和1D CNN上进行训练，以进行对比评估。

实验结果

研究问题

• RQ1 在空间填充曲线编码的3D数据上训练的一维和二维CNN，其分类性能是否可与在原始3D数据上训练的3D CNN相媲美？
• RQ2 所提出的映射方法是否保留了足够的3D结构特征，以支持在低维表示中有效学习特征？
• RQ3 与体素CNN相比，该方法在训练时间、输入分辨率和数据通道容量方面表现如何？
• RQ4 能否将一维和二维网络的显著性图逆向映射，以生成有意义的3D注意力图以支持可解释性？
• RQ5 在采用该映射方法编码的数据上训练时，哪些超参数配置能最大化模型性能？

主要发现

• 在映射数据上训练的一维和二维CNN在Ras蛋白家族基准测试中，其分类性能与3D CNN相当。
• 与体素3D CNN相比，该方法显著减少了训练时间，支持更快的模型迭代。
• 由于内存和计算需求降低，该方法支持更高的输入分辨率和更多的数据通道。
• 映射的双射性质使得显著性图可逆，从而能够实现一维和二维网络所学特征的3D可视化。
• 该方法证明了可将现有的一维和二维深度学习工具应用于复杂3D结构数据，且不损失关键结构信息。
• 该方法为酶分类、蛋白质-配体结合预测和蛋白质模型评分等未来应用提供了支持。