[논문 리뷰] PointNorm: Dual Normalization is All You Need for Point Cloud Analysis

Shen Zheng, Jinqian Pan외 2명|arXiv (Cornell University)|2022. 07. 13.

3D Shape Modeling and Analysis인용 수 5

한 줄 요약

PointNorm는 점군 특징 학습에서 샘플링된 점과 군집화된 점을 모두 정규화하는 새로운 듀얼노멀라이제이션(DualNorm) 모듈을 도입한다. 국소 평균과 전역 표준편차를 사용하여 불규칙성을 해결한다. 이 간단하면서도 효과적인 설계는 분류, 부분 분할, 의미 분할 벤치마크에서 최신 기술(SOTA) 수준의 정확도를 달성하며, 계산 효율성도 향상시킨다.

ABSTRACT

Point cloud analysis is challenging due to the irregularity of the point cloud data structure. Existing works typically employ the ad-hoc sampling-grouping operation of PointNet++, followed by sophisticated local and/or global feature extractors for leveraging the 3D geometry of the point cloud. Unfortunately, the sampling-grouping operations do not address the point cloud's irregularity, whereas the intricate local and/or global feature extractors led to poor computational efficiency. In this paper, we introduce a novel DualNorm module after the sampling-grouping operation to effectively and efficiently address the irregularity issue. The DualNorm module consists of Point Normalization, which normalizes the grouped points to the sampled points, and Reverse Point Normalization, which normalizes the sampled points to the grouped points. The proposed framework, PointNorm, utilizes local mean and global standard deviation to benefit from both local and global features while maintaining a faithful inference speed. Experiments show that we achieved excellent accuracy and efficiency on ModelNet40 classification, ScanObjectNN classification, ShapeNetPart Part Segmentation, and S3DIS Semantic Segmentation. Code is available at https://github.com/ShenZheng2000/PointNorm-for-Point-Cloud-Analysis.

연구 동기 및 목표

• 3D 딥러닝에서 점군 데이터 구조의 비규칙성 문제를 해결한다.
• 계산 효율성을 해치는 복잡한 국소 및 전역 특징 추출기 의존도를 줄인다.
• 정확도를 유지하거나 향상시키면서 학습 안정성과 추론 속도를 향상시킨다.
• 점군의 비규칙성을 효과적으로 다룰 수 있는 즉장 통합 가능한 정규화 모듈을 개발한다.

제안 방법

• 샘플링된 점과 군집화된 점 간의 이중 정규화를 수행하는 듀얼노멀라이제이션(DualNorm) 모듈을 도입한다: 점 정규화(군집화된 점 → 샘플링된 점) 및 역점 정규화(샘플링된 점 → 군집화된 점).
• 군집화된 점에는 국소 평균, 샘플링된 점에는 전역 표준편차를 사용하여 국소 및 전역 기하학적 특징을 균형 있게 유지한다.
• PointNet++ 유사 아키텍처에서 샘플링-군집화 작업 이후 정규화를 적용하여 특징 학습의 안정성을 제고한다.
• 가벼운 크기의 미분 가능 모듈로 통합하여 기울기 흐름과 손실 안정성을 향상시킨다.
• 비용이 많이 드는 특징 추출기나 최적화 절차를 피함으로써 높은 추론 속도를 유지한다.
• 이미 존재하는 점군 네트워크(예: PointNet++)와 호환되는 즉장 통합 가능한 프레임워크로 설계한다.

실험 결과

연구 질문

• RQ1 샘플링-군집화 이후 복잡한 특징 추출기를 사용하지 않고도 단순한 정규화 모듈이 점군의 비규칙성을 효과적으로 해결할 수 있는가?
• RQ2 양방향 정규화(샘플링된 점 ↔ 군집화된 점)가 특징 학습의 안정성과 모델 성능을 향상시키는가?
• RQ3 DualNorm은 유사하거나 더 적은 파라미터를 사용하는 최신 기술(SOTA) 방법과 비교해 정확도와 추론 속도를 모두 향상시킬 수 있는가?
• RQ4 국소 평균과 전역 표준편차의 사용이 학습 동역학과 기울기 안정성에 어떤 영향을 미치는가?
• RQ5 PointNorm은 분류, 부분 분할, 의미 분할과 같은 다양한 점군 작업에서 얼마나 향상된 성능을 보이는가?

주요 결과

• ModelNet40 및 ScanObjectNN에서 PointNorm은 최고의 전체 정확도(OA)와 평균 정확도(mAcc)를 달성하여 이전의 최신 기술(SOTA) 방법을 능가한다.
• ScanObjectNN에서 PointNorm은 OA 1.4%p, mAcc 1.7%p 높은 성능을 보이며 실제 데이터에 대한 강력한 일반화 능력을 입증한다.
• PointNorm-Tiny는 모든 모델 중 가장 빠른 추론 속도를 기록하면서도 뛰어난 성능을 유지하여 PRANet 및 DRNet를 능가한다.
• S3DIS에서 PointNet++에 DualNorm을 통합한 결과, Area-5에서 최고의 OA(88.4%)를 달성하였으며, 더 적은 파라미터와 FLOPs를 사용함에도 불구하고 PointASML를 능가한다.
• S3DIS 6-Fold에서 mIoU는 8.2점 향상되었고, Area-5에서는 5.0점 향상되었으며, FLOPs와 파라미터 수의 증가 폭은 극히 미미했다.
• 절단 실험 결과, DualNorm이 손실과 기울기 안정성을 향상시키며, 계산 오버헤드를 거의 유발하지 않는 것으로 확인되었다.