Skip to main content
QUICK REVIEW

[论文解读] Pointwise Convolutional Neural Networks

Binh‐Son Hua, Minh-Khoi Tran|arXiv (Cornell University)|Dec 14, 2017
3D Shape Modeling and Analysis参考文献 40被引用 11
一句话总结

本文提出点卷积(pointwise convolution),一种新型卷积算子,可在三维点云的每个点上应用以学习局部特征,从而实现用于语义分割和物体识别的简单、全卷积神经网络。该方法在ModelNet40和ObjectNN基准上实现了具有竞争力的准确率,同时保持了简洁的实现方式。

ABSTRACT

Deep learning with 3D data such as reconstructed point clouds and CAD models has received great research interests recently. However, the capability of using point clouds with convolutional neural network has been so far not fully explored. In this paper, we present a convolutional neural network for semantic segmentation and object recognition with 3D point clouds. At the core of our network is pointwise convolution, a new convolution operator that can be applied at each point of a point cloud. Our fully convolutional network design, while being surprisingly simple to implement, can yield competitive accuracy in both semantic segmentation and object recognition task.

研究动机与目标

  • 解决直接将卷积神经网络应用于非结构化三维点云以进行场景理解任务的挑战。
  • 克服现有三维CNN依赖体素化、多视角投影或复杂图结构的局限性。
  • 设计一种适用于点云数据的简单而有效的卷积算子,以在每个点上保持空间关系。
  • 通过点卷积实现端到端的全卷积网络设计,用于语义分割与物体识别。
  • 证明通过排序点云并应用点卷积,可实现与先前方法相比更简单架构下的具有竞争力的性能。

提出的方法

  • 提出点卷积,一种在点云中每个点的局部邻域上操作的新卷积算子。
  • 对于每个点,查询其k个最近邻点,并将它们分入核单元,再应用可学习的核权重。
  • 堆叠多个点卷积层以构建深层、全卷积网络,实现端到端学习。
  • 在多个卷积操作之间进行特征拼接,以丰富点级别的表征,再输入最终的分类或分割头。
  • 将网络同时应用于语义分割(每个点的密集预测)和物体识别(全局分类)任务。
  • 采用输入点云的固定排序以确保一致的特征学习,尽管点云本身具有无序性,但仍将其视为结构化输入。

实验结果

研究问题

  • RQ1能否设计一种简单有效的点卷积算子,以从非结构化的三维点云中有效学习局部特征?
  • RQ2基于点卷积的全卷积网络在语义分割和物体识别任务上的性能是否与现有方法相比具有竞争力?
  • RQ3点卷积在ModelNet40和ObjectNN等标准基准上的性能与SOTA模型(如PointNet)相比如何?
  • RQ4输入点云的排序对所提方法性能的影响程度如何?
  • RQ5点卷积能否用于构建高效、可扩展的大型三维场景理解任务架构?

主要发现

  • 所提出的点卷积神经网络在ModelNet40物体识别数据集上达到81.4%的平均准确率,相较于PointNet的86.3%,展现出具有竞争力的性能,且架构更为简洁。
  • 在ObjectNN数据集上,该方法达到57.1%的平均准确率,略高于PointNet的56.0%,表明在多样化物体类别上具有较强的泛化能力。
  • 按类别准确率分析显示,对椅子、桌子和台灯等常见物体表现出色,多个类别准确率超过80%。
  • 在ModelNet40中,'guitar'类达到98.0%的准确率,'flower pot'和'glass box'类达到100.0%,表明对独特形状具有鲁棒的特征学习能力。
  • 所学滤波器的可视化显示其呈现稀疏、平滑且交替的正负权重模式,表明其有效提取了局部特征。
  • 尽管采用更简洁的设计,该网络在分割与识别任务中均表现具有竞争力,验证了点卷积的有效性。

更好的研究,从现在开始

从阅读论文到最终审阅,大幅缩短您的研究时间。

无需绑定信用卡

本解读由 AI 生成,并经人工编辑审核。