[논문 리뷰] PointManifold: Using Manifold Learning for Point Cloud Classification

Dinghao Yang, Wei Gao|arXiv (Cornell University)|2020. 10. 14.

3D Shape Modeling and Analysis참고 문헌 27인용 수 7

한 줄 요약

이 논문은 3D 점군의 기하학적 연속성을 유지하기 위해 국소선형임베딩(LLE)과 신경망 기반 다양체 투영을 그래프 신경망 아키텍처에 통합함으로써 특징 표현을 향상시키는 PointManifold를 제안한다. 저차원 다양체 임베딩을 통해 기하학적 연속성을 유지하고, 이를 3D 특징과 연결함으로써 ModelNet40에서 평균 클래스 정확도 90.2%와 총 정확도 93.2%의 최신 기술 수준 성능을 달성한다.

ABSTRACT

In this paper, we propose a point cloud classification method based on graph neural network and manifold learning. Different from the conventional point cloud analysis methods, this paper uses manifold learning algorithms to embed point cloud features for better considering the geometric continuity on the surface. Then, the nature of point cloud can be acquired in low dimensional space, and after being concatenated with features in the original three-dimensional (3D)space, both the capability of feature representation and the classification network performance can be improved. We pro-pose two manifold learning modules, where one is based on locally linear embedding algorithm, and the other is a non-linear projection method based on neural network architecture. Both of them can obtain better performances than the state-of-the-art baseline. Afterwards, the graph model is constructed by using the k nearest neighbors algorithm, where the edge features are effectively aggregated for the implementation of point cloud classification. Experiments show that the proposed point cloud classification methods obtain the mean class accuracy (mA) of 90.2% and the overall accuracy (oA)of 93.2%, which reach competitive performances compared with the existing state-of-the-art related methods.

연구 동기 및 목표

• 유럽거리 기반 局부 특징 분석의 한계를 극복하기 위해 다각형 학습을 통해 기하학적 연속성을 활용하여 점군 분류 성능을 향상시키는 것.
• 3D 점군 이해를 위한 딥러닝 파ip라인에 다각형 학습을 통합한 새로운 신경망 아키텍처를 설계하는 것.
• 저차원 다각형 특징과 원본 3D 좌표를 조합하여 특징 표현을 향상시키고 분류 성능을 개선하는 것.
• 기본 차원 축소 방법인 PCA와 비교하여 다각형 학습이 내재된 기하학적 구조를 얼마나 잘 포착하는지 검증하는 것.
• 자기상보 연구를 통해 다양한 다각형 학습 모듈이 모델 성능 향상에 어떻게 상호보완적인 역할을 하는지 탐색하는 것.

제안 방법

• 3D에서 저차원 공간으로의 차원 축소 과정에서 이웃 관계를 유지하기 위해 국소선형임베딩(LLE)을 사용하는 다각형 학습 모듈을 제안한다.
• 비선형 3D-2D 매핑을 엔드 투 엔드로 학습할 수 있는 신경망 기반 다각형 투영(MP) 모듈을 도입한다.
• 저차원 다각형 특징을 원본 3D 좌표와 연결하여 후속 분류 작업을 위한 입력 특징을 풍부하게 한다.
• 점군 표현을 위해 k-가장 가까운 이웃 그래프를 구성하고, 간선 특징을 그래프 신경망을 통해 집계한다.
• 특징 차원을 조절하고 표현 학습을 최적화하기 위해 채널 제어 메커니즘을 활용한다.
• 학습 및 평가에 ModelNet40 데이터셋을 사용하며, 모듈 간 상호작용과 하이퍼파ram터 민감도를 분석하기 위해 자기상보 연구를 실시한다.

실험 결과

연구 질문

• RQ1 다양체 학습은 유클리드 거리 기반 방법보다 기하학적 연속성을 더 잘 포착함으로써 점군 특징 표현을 향상시킬 수 있는가?
• RQ2 LLE와 신경망 기반 다각형 투영은 점군 분류 성능 향상에 있어 어떻게 비교되는가?
• RQ3 다양체 학습된 특징을 원본 3D 특징과 결합하면 기준 모델에 비해 성능 향상이 뚜렷한가?
• RQ4 최대 분류 정확도를 달성하기 위해 다각형 학습 모듈과 채널 제어 파라미터의 최적 구성은 무엇인가?
• RQ5 두 다각형 학습 모듈(LLE 및 MP)은 모델 성능 향상에 기여하면서 상호 보완적인가, 아니면 중복되는가?

주요 결과

• 제안된 PointManifold 방법은 ModelNet40 데이터셋에서 평균 클래스 정확도 90.2%와 총 정확도 93.2%를 달성하여 DGCNN 기준선을 초월한다.
• LLE 기반 다각형 학습 모듈은 1024개 점을 사용할 경우 평균 클래스 정확도 90.0%와 총 정확도 93.0%를 기록한다.
• 신경망 기반 다각형 투영(MP) 모듈은 1024점 입력에서 평균 클래스 정확도 90.1%와 총 정확도 93.0%를 달성하여 뛰어난 성능을 보인다.
• LLE와 MP 모듈을 함께 사용해도 별도로 사용할 경우보다 유의미한 성능 향상이 없어, 두 모듈 간의 功能적 중복이 있음을 시사한다.
• 자기상보 연구 결과, 채널 제어 파라미터 $ t $ 를 증가시킬수록 성능 향상이 이루어지며, MP에서 3개의 평면을 사용할 경우 $ t = 4 $ 에서 최적 성능을 기록한다.
• PCA는 기준선에 비해 성능 향상이 없었지만, LLE 및 MP 모듈은 기하학적 구조를 유지함으로써 표준 선형 차원 축소 방법보다 뚜렷이 뛰어난 성능을 보였다.