[논문 리뷰] A Spatial Mapping Algorithm with Applications in Deep Learning-Based Structure Classification

Thomas Corcoran, Rafael Zamora‐Resendiz외 2명|arXiv (Cornell University)|2018. 02. 07.

Cell Image Analysis Techniques참고 문헌 14인용 수 6

한 줄 요약

이 논문은 공간 충만 곡선을 사용하여 3차원 구조 데이터를 1차원 및 2차원 격자로 변환하는 공간 맵핑 알고리즘을 제안한다. 이는 복잡한 3차원 데이터에서 1차원 및 2차원 컨볼루션 신경망(CNN)의 효율적 훈련을 가능하게 하며, 중요한 3차원 특징을 유지하고 훈련 시간을 단축시키며, 더 높은 해상도의 입력을 지원하고 체널 수를 기존의 부피형 CNN보다 늘릴 수 있다. 이는 구조적 정밀도 손실을 최소화하면서 라스 단백질 계열 분류에서 뛰어난 성능을 보여준다.

ABSTRACT

Convolutional Neural Network (CNN)-based machine learning systems have made breakthroughs in feature extraction and image recognition tasks in two dimensions (2D). Although there is significant ongoing work to apply CNN technology to domains involving complex 3D data, the success of such efforts has been constrained, in part, by limitations in data representation techniques. Most current approaches rely upon low-resolution 3D models, strategic limitation of scope in the 3D space, or the application of lossy projection techniques to allow for the use of 2D CNNs. To address this issue, we present a mapping algorithm that converts 3D structures to 2D and 1D data grids by mapping a traversal of a 3D space-filling curve to the traversal of corresponding 2D and 1D curves. We explore the performance of 2D and 1D CNNs trained on data encoded with our method versus comparable volumetric CNNs operating upon raw 3D data from a popular benchmarking dataset. Our experiments demonstrate that both 2D and 1D representations of 3D data generated via our method preserve a significant proportion of the 3D data's features in forms learnable by CNNs. Furthermore, we demonstrate that our method of encoding 3D data into lower-dimensional representations allows for decreased CNN training time cost, increased original 3D model rendering resolutions, and supports increased numbers of data channels when compared to purely volumetric approaches. This demonstration is accomplished in the context of a structural biology classification task wherein we train 3D, 2D, and 1D CNNs on examples of two homologous branches within the Ras protein family. The essential contribution of this paper is the introduction of a dimensionality-reduction method that may ease the application of powerful deep learning tools to domains characterized by complex structural data.

연구 동기 및 목표

• 구조 생물학과 같은 분야에서 고해상도이자 희소한 3차원 구조 데이터를 처리하는 데 있어 3D CNN의 한계를 해결하기 위해.
• 공간 국소성을 유지하면서 3차원 데이터를 저차원 표현으로 변환함으로써 효율적인 1D 및 2D CNN의 사용을 가능하게 하기 위해.
• 기존의 부피형 3D CNN에 비해 훈련 시간을 단축시키고 입력 해상도 및 데이터 채널 용량을 증가시키기 위해.
• 1D/2D 공간에서의 중요도 맵을 3차원 공간으로 역으로 매핑함으로써 특징 시각화를 위한 해석 가능성 지원을 위해.
• 3차원 구조 데이터와 기존 딥러닝 도구를 연결하는 확장 가능하고 일대일 대응되는 인코딩 방법을 제공하기 위해.

제안 방법

• 공간 충만 곡선(Hilbert 또는 Z-order 등)을 사용하여 3차원 격자 좌표를 1차원 및 2차원 시퀀스로 매핑함으로써 공간 국소성을 유지한다.
• 3차원 구조의 일대일 순회가 2차원 또는 1차원 곡선으로 매핑되어, 3차원 데이터가 위상적 관계를 유지하는 격자로 변환된다.
• 결과적으로 생성된 1차원 및 2차원 표현은 표준 1차원 및 2차원 CNN에 입력되며, 인코딩된 데이터로부터 계층적 특징을 학습한다.
• 메모리 및 계산 부담이 감소함에 따라 부피형 3D CNN에 비해 더 높은 해상도의 입력 데이터와 증가된 데이터 채널 수를 지원할 수 있다.
• 인코딩 과정은 가역적이므로, 2차원 또는 1차원 중요도 맵에서 3차원 주의 맵을 재구성할 수 있으며, 이는 해석 가능성에 기여한다.
• 실험은 Keras와 Tensorflow 1.2를 사용하여 수행되었으며, 비교 평가를 위해 라스 단백질 계열 데이터를 대상으로 3D, 2D, 1D CNN에서 훈련을 실시하였다.

실험 결과

연구 질문

• RQ1 공간 충만 곡선에 의해 인코딩된 3차원 데이터를 기반으로 훈련된 1D 및 2D CNN은 원본 3차원 데이터에서 훈련된 3D CNN과 유사한 분류 성능을 달성할 수 있는가?
• RQ2 제안된 맵핑 방법이 3차원 구조적 특징을 충분히 유지하여 저차원 표현에서 효과적인 특징 학습을 가능하게 하는가?
• RQ3 부피형 CNN에 비해 이 방법은 훈련 시간, 입력 해상도, 데이터 채널 용량 측면에서 어떻게 비교되는가?
• RQ4 1D 및 2D 네트워크에서 생성된 중요도 맵을 역으로 변환하여 의미 있는 3차원 주의 맵을 생성할 수 있는가?
• RQ5 이 맵핑 방법을 통해 인코딩된 데이터에서 훈련할 경우 성능을 최대화하는 최적의 하이퍼파rameter 설정은 무엇인가?

주요 결과

• 맵핑된 데이터를 기반으로 훈련된 1D 및 2D CNN은 Ras 단백질 계열 벤치마크에서 3D CNN과 유사한 분류 성능를 달성하였다.
• 부피형 3D CNN에 비해 훈련 시간을 크게 단축시켜 더 빠른 모델 반복이 가능하였다.
• 메모리 및 계산 부담 감소로 인해 더 높은 입력 해상도 및 증가된 데이터 채널 용량을 지원하였다.
• 맵핑의 일대일 성격 덕분에 중요도 맵을 역으로 변환할 수 있었으며, 이는 1D 및 2D 네트워크가 학습한 특징을 3차원에서 시각화할 수 있도록 하였다.
• 이 방법은 기존의 2차원 및 1차원 딥러닝 도구를 복잡한 3차원 구조 데이터에 적용할 수 있도록 가능하게 하였으며, 중요한 구조 정보 손실 없이 수행되었다.
• 이 방법은 향후 효소 분류, 단백질-리간드 결합 예측, 단백질 모델 평가 등 다양한 응용 분야에 활용 가능성을 보였다.