[論文レビュー] LiDAR-PTQ: Post-Training Quantization for Point Cloud 3D Object Detection

Sifan Zhou, Liang Li+7 more|arXiv (Cornell University)|Jan 29, 2024

3D Surveying and Cultural Heritage被引用数 4

ひとこと要約

本稿では、スパースで不規則な3次元LiDAR点群に適用された際の性能低下を解消する、3次元LiDARベースの物体検出に特化した後学習量子化手法LiDAR-PTQを提案する。スパarsityに基づくキャリブレーション、タスク誘導型グローバルポジティブ損失（TGPL）、およびアダプティブラウンドリングを統合することで、FP32にほぼ等しい精度を達成しつつ、3倍の推論速度向上とQAT比30倍の高速化を実現し、3次元検出におけるPTQの最先端性能を確立した。

ABSTRACT

Due to highly constrained computing power and memory, deploying 3D lidar-based detectors on edge devices equipped in autonomous vehicles and robots poses a crucial challenge. Being a convenient and straightforward model compression approach, Post-Training Quantization (PTQ) has been widely adopted in 2D vision tasks. However, applying it directly to 3D lidar-based tasks inevitably leads to performance degradation. As a remedy, we propose an effective PTQ method called LiDAR-PTQ, which is particularly curated for 3D lidar detection (both SPConv-based and SPConv-free). Our LiDAR-PTQ features three main components, extbf{(1)} a sparsity-based calibration method to determine the initialization of quantization parameters, extbf{(2)} a Task-guided Global Positive Loss (TGPL) to reduce the disparity between the final predictions before and after quantization, extbf{(3)} an adaptive rounding-to-nearest operation to minimize the layerwise reconstruction error. Extensive experiments demonstrate that our LiDAR-PTQ can achieve state-of-the-art quantization performance when applied to CenterPoint (both Pillar-based and Voxel-based). To our knowledge, for the very first time in lidar-based 3D detection tasks, the PTQ INT8 model's accuracy is almost the same as the FP32 model while enjoying $3 imes$ inference speedup. Moreover, our LiDAR-PTQ is cost-effective being $30 imes$ faster than the quantization-aware training method. Code will be released at \url{https://github.com/StiphyJay/LiDAR-PTQ}.

研究の動機と目的

• スパースで不規則な3次元LiDAR点群に適用された際、既存のPTQ手法が示す顕著な性能低下を是正すること。
• 高い検出精度を維持しつつ、エッジデプロイメントに適した効率的な後学習量子化フレームワークを開発すること。
• 3次元LiDAR特徴マップにおけるスパarsity、広範な活性化範囲、および前景・背景の不均衡といった課題を克服すること。
• 最小限の精度損失で、フルプレシジョンモデルと同等の性能を達成するSOTAの量子化性能を実現すること。

提案手法

• 3次元点群特徴のスパarsityパターンを分析することで、量子化パラメータを初期化するスパarsityに基づくキャリブレーション手法を導入する。
• キャリブレーション中にフルプレシジョンモデルと量子化モデルの出力差を最小化する損失関数として、タスク誘導型グローバルポジティブ損失（TGPL）を提案する。
• 各レイヤーごとにラウンド値を最適化することで、レイヤごとの再構成誤差を低減するアダプティブラウンドイング操作を採用する。
• SPConvベースおよびSPConvフリーの3次元検出器の両方に対し、アーキテクチャを問わず汎用性を示す。
• 再トレーニングを必要とせず、小さなラベルなしキャリブレーションデータセットを用いて高速かつデータ効率の良い量子化を実現する。
• TGPLを用いて量子化パラメータをエンドツーエンド最適化し、量子化モデルの予測を元のモデルの出力分布に一致させる。

実験結果

リサーチクエスチョン

• RQ1 標準的なPTQ手法が、なぜ3次元LiDARベースの物体検出モデルに直接適用された際、失敗するのか？
• RQ2 スパースな3次元特徴空間において、モデル性能を保持するための量子化パラメータを効果的に初期化する方法は何か？
• RQ3 3次元検出において、フルプレシジョンモデルと量子化モデルの予測ギャップを最小化するのに最も適した損失関数は何か？
• RQ4 アダプティブラウンドイングは、3次元LiDARモデルにおけるレイヤごとの再構成誤差と全体の検出精度を向上させうるか？
• RQ5 PTQは、3次元LiDAR検出において、どの程度までFP32モデルと同等のSOTA性能を達成できるか？

主な発見

• LiDAR-PTQは、CenterPoint（ピラー基準およびボクセル基準の両方）において、複数のデータセットでFP32モデルとほぼ同一のINT8量子化精度を達成した。
• 性能低下が顕著にない3倍の推論速度向上を実現し、エッジデバイスにおけるリアルタイムデプロイメントを可能にした。
• QAT比30倍の高速化を達成したため、産業用途におけるデプロイメントに極めて効率的である。
• スパarsityに基づくキャリブレーション手法は、3次元LiDAR特徴の本質的スパarsityを活用することで、量子化パラメータの有効な初期化を実現した。
• TGPLは、フルプレシジョンモデルと量子化モデルの予測差を顕著に低減し、量子化後の検出mAPを向上させた。
• LiDAR-PTQは、SPConvベースおよびSPConvフリーの両方の3次元検出アーキテクチャに広く適用可能であり、高い汎用性を示した。