[论文解读] GNeSF: Generalizable Neural Semantic Fields

Hanlin Chen, Li Chen+3 more|arXiv (Cornell University)|Oct 24, 2023

Advanced Vision and Imaging被引用 4

一句话总结

本文提出GNeSF，一种可泛化的神经语义场，仅使用2D监督即可实现新场景的3D语义分割。通过利用多视角图像特征、带有视角差异编码的软投票机制以及可见性模块，GNeSF避免了每场景优化，仅依赖2D标注即达到最先进性能，优于需要3D监督的方法。

ABSTRACT

3D scene segmentation based on neural implicit representation has emerged recently with the advantage of training only on 2D supervision. However, existing approaches still requires expensive per-scene optimization that prohibits generalization to novel scenes during inference. To circumvent this problem, we introduce a generalizable 3D segmentation framework based on implicit representation. Specifically, our framework takes in multi-view image features and semantic maps as the inputs instead of only spatial information to avoid overfitting to scene-specific geometric and semantic information. We propose a novel soft voting mechanism to aggregate the 2D semantic information from different views for each 3D point. In addition to the image features, view difference information is also encoded in our framework to predict the voting scores. Intuitively, this allows the semantic information from nearby views to contribute more compared to distant ones. Furthermore, a visibility module is also designed to detect and filter out detrimental information from occluded views. Due to the generalizability of our proposed method, we can synthesize semantic maps or conduct 3D semantic segmentation for novel scenes with solely 2D semantic supervision. Experimental results show that our approach achieves comparable performance with scene-specific approaches. More importantly, our approach can even outperform existing strong supervision-based approaches with only 2D annotations. Our source code is available at: https://github.com/HLinChen/GNeSF.

研究动机与目标

• 为解决现有神经语义场需要每场景优化的局限性，从而限制其在新场景中的泛化能力。
• 在无需微调或3D监督的情况下，实现对未见场景的高质量3D语义分割。
• 通过避免对场景特定几何与语义细节的过拟合，提升泛化能力。
• 开发一种利用2D语义图与多视角特征进行鲁棒3D语义预测的框架。

提出的方法

• 该框架使用多视角图像特征而非位置编码，以防止对场景特定几何与语义的过拟合。
• 软投票机制聚合来自多视角的2D语义概率，以预测3D点的语义，权重由视角相关性决定。
• 引入视角差异编码，以在投票过程中优先考虑近距离视角而非远距离视角。
• 可见性模块用于检测并过滤被遮挡或不可靠视角的语义信息。
• 通过3D MLP从几何编码体中的插值特征预测3D几何（密度或SDF）。
• 最终语义预测通过投影2D语义的加权组合计算得出，权重由预测的几何生成。

实验结果

研究问题

• RQ1 能否训练一种神经语义场，在无需每场景优化的情况下实现对新场景的泛化？
• RQ2 如何有效利用2D语义监督来预测3D语义场，而无需3D标注？
• RQ3 视角接近度在聚合多视角语义信息以进行3D预测中起到什么作用？
• RQ4 可见性模块能否通过过滤被遮挡视角的贡献来提升鲁棒性？
• RQ5 使用图像特征而非位置编码对泛化能力和性能有何影响？

主要发现

• 在Replica数据集上，GNeSF在仅使用2D监督的情况下实现了43.8%的3D mIoU，优于所有先前仅使用2D监督的方法。
• 在ScanNet数据集上，GNeSF实现了55.1%的mIoU，超过使用3D监督的最先进方法（51.5%）。
• 消融实验表明，加入可见性模块后，mIoU相比基线提升0.9%，证实其有效性。
• 与基于logits的投票相比，使用概率分布可使mIoU提升0.6%。
• GNeSF显著优于S4R（36.9% mIoU），证明其软投票机制的优越性。