[논문 리뷰] PointNet with KAN versus PointNet with MLP for 3D Classification and Segmentation of Point Sets

Ali Kashefi|arXiv (Cornell University)|2024. 10. 14.

3D Surveying and Cultural Heritage인용 수 4

한 줄 요약

이 논문은 PointNet의 핵심 원칙인 공유 레이어와 대칭적 전역 특징 풀링을 유지하면서 기존의 전통적 MLP 대신 콜모고로프-아르놀드 네트워크(KANs)를 도입한 새로운 3D 포인트 클러스터 분류 및 분할 모델인 PointNet-KAN을 소개한다. 이 방법은 학습 가능한 활성화 함수를 매개변수화하기 위해 자비-다항식을 사용하며, ModelNet40 및 ShapeNet Part 벤치마크에서 경쟁력 있는 성능을 달성하면서도 기존 PointNet-MLP보다 훨씬 얕은 아키텍처를 구현한다.

ABSTRACT

Kolmogorov-Arnold Networks (KANs) have recently gained attention as an alternative to traditional Multilayer Perceptrons (MLPs) in deep learning frameworks. KANs have been integrated into various deep learning architectures such as convolutional neural networks, graph neural networks, and transformers, with their performance evaluated. However, their effectiveness within point-cloud-based neural networks remains unexplored. To address this gap, we incorporate KANs into PointNet for the first time to evaluate their performance on 3D point cloud classification and segmentation tasks. Specifically, we introduce PointNet-KAN, built upon two key components. First, it employs KANs instead of traditional MLPs. Second, it retains the core principle of PointNet by using shared KAN layers and applying symmetric functions for global feature extraction, ensuring permutation invariance with respect to the input features. In traditional MLPs, the goal is to train the weights and biases with fixed activation functions; however, in KANs, the goal is to train the activation functions themselves. We use Jacobi polynomials to construct the KAN layers. We extensively and systematically evaluate PointNet-KAN across various polynomial degrees and special types such as the Lagrange, Chebyshev, and Gegenbauer polynomials. Our results show that PointNet-KAN achieves competitive performance compared to PointNet with MLPs on benchmark datasets for 3D object classification and part and semantic segmentation, despite employing a shallower and simpler network architecture. We also study a hybrid PointNet model incorporating both KAN and MLP layers. We hope this work serves as a foundation and provides guidance for integrating KANs, as an alternative to MLPs, into more advanced point cloud processing architectures.

연구 동기 및 목표

• 3D 포인트 클러스터 처리를 위한 PointNet에 콜모고로프-아르놀드 네트워크(KANs)를 통합하는 것의 가능성과 성능을 탐구하는 것.
• KANs가 PointNet 내의 MLP를 대체할 수 있는지, 순열 불변성과 경쟁 가능한 정확도를 유지할 수 있는지 평가하는 것.
• KAN 레이어의 다양한 다항식 가족(예: 레지앙드르, 체비셰프, 게겐바우어)과 차수의 모델 성능에 미치는 영향을 분석하는 것.
• KAN을 사용한 더 단순하고 얕은 네트워크가 깊은 PointNet-MLP 모델의 성능을 따라하거나 뛰어넘을 수 있는지 보여주는 것.
• 향후 포인트 클러스터 딥 러닝 아키텍처에 KAN을 통합하는 데 유용한 재현 가능한 기반을 제공하는 것.

제안 방법

• 기존 PointNet 내의 표준 MLP를, 기저 함수를 매개변수화하여 활성화 함수를 학습하는 KAN 레이어로 대체하는 것.
• 모든 입력 포인트에 걸쳐 공유된 KAN 레이어를 사용하여 순열 불변성을 유지하는 것 — PointNet의 핵심 원칙이다.
• 지역적 KAN 처리된 포인트 특징에서 전역 특징을 추출하기 위해 대칭 함수(예: 최대 풀링)를 적용하는 것.
• 다양한 차수와 특수 케이스(예: 레지앙드르, 체비셰프, 게겐바우어)를 가진 자비-다항식을 사용하여 KAN 활성화 함수를 매개변수화하는 것.
• 백프로파게이션을 통해 엔드 투 엔드로 네트워크를 훈련하고, 다항식 계수와 네트워크 가중치를 동시에 최적화하는 것.
• 다양한 초모델 하이퍼파rameter에 대해 성능을 평가: 다항식 차수, 형상 매개변수(α, β), 다항식 가족.

Figure 1: Architecture of PointNet-KAN. The classification network is shown in the top panel, and the segmentation network is shown in the bottom panel. $N$ is the number of points in a point cloud. $d$ indicates the number of input point features (e.g., spatial coordinates, normal vectors, etc.). $

실험 결과

연구 질문

• RQ1 KANs는 3D 포인트 클러스터 분류 및 분할 작업에서 PointNet 내의 MLP를 효과적으로 대체할 수 있는가?
• RQ2 KAN을 통해 학습 가능한 활성화 함수를 사용하면 네트워크 깊이를 줄이면서도 성능을 향상시키거나 유지할 수 있는가?
• RQ3 다양한 다항식 가족(예: 레지앙드르, 체비셰프, 게겐바우어)은 PointNet-KAN의 성능에 어떤 영향을 미치는가?
• RQ4 3D 포인트 클러스터 작업 맥락에서 KAN 레이어의 최적 다항식 차수는 무엇인가?
• RQ5 더 얕은 PointNet-KAN은 표준 벤치마크에서 더 깊은 PointNet-MLP 모델의 성능을 따라하거나 뛰어넘을 수 있는가?

주요 결과

• ModelNet40 벤치마크에서 PointNet-KAN은 다항식 차수 2를 사용할 때 평균 정확도 95.0%를 달성하여 경쟁력 있는 성능을 보였다.
• ShapeNet Part 데이터셋에서 PointNet-KAN은 다항식 차수 2를 사용할 때 평균 교차율(mIoU) 80.7%를 기록했으며, PointNet-MLP와 유사한 성능을 보였다.
• 다양한 다항식 가족(예: 레지앙드르, 체비셰프, 게겐바우어)의 선택이 성능에 미치는 영향은 미미하여, 다양한 기저 함수에 대해 강건함을 보였다.
• 다항식 차수 2가 최적 성능을 위한 충분한 수준이며, 더 높은 차수에서 유의미한 성능 향상이 발생하지 않음을 시사한다.
• 훨씬 더 얕고 단순한 아키텍처임에도 불구하고, PointNet-KAN은 분류 및 분할 작업 모두에서 PointNet-MLP의 성능을 따라하거나 뛰어넘었다.
• 다양한 3D 객체 유형에 걸쳐 뛰어난 일반화 능력을 보였으며, '병구', '의자', '모터'와 같은 도전적인 부분에서도 높은 mIoU 점수를 기록했다.

Aero, gt