[論文レビュー] PointMask: Towards Interpretable and Bias-Resilient Point Cloud Processing

Saeid Asgari Taghanaki, Kaveh Hassani+3 more|arXiv (Cornell University)|Jul 9, 2020

3D Shape Modeling and Analysis参考文献 29被引用数 8

ひとこと要約

PointMask は、相互情報量の最小化を通じて不要な入力点をマスクすることで、ポイントクラウド分類を向上させる、モデルに依存しない解釈可能な情報ボトルネック層である。データバイアスやランダム回転に対してモデルの頑健性を向上させ、回転させた ModelNet40 で 82.18% の正確性を達成し、PointNet や他のベースラインを上回る。同時に特徴の寄与度の特定とクラスの混同の低減を可能にする。

ABSTRACT

Deep classifiers tend to associate a few discriminative input variables with their objective function, which in turn, may hurt their generalization capabilities. To address this, one can design systematic experiments and/or inspect the models via interpretability methods. In this paper, we investigate both of these strategies on deep models operating on point clouds. We propose PointMask, a model-agnostic interpretable information-bottleneck approach for attribution in point cloud models. PointMask encourages exploring the majority of variation factors in the input space while gradually converging to a general solution. More specifically, PointMask introduces a regularization term that minimizes the mutual information between the input and the latent features used to masks out irrelevant variables. We show that coupling a PointMask layer with an arbitrary model can discern the points in the input space which contribute the most to the prediction score, thereby leading to interpretability. Through designed bias experiments, we also show that thanks to its gradual masking feature, our proposed method is effective in handling data bias.

研究の動機と目的

• 分布シフト下での深層ポイントクラウドモデルにおける解釈可能性とバイアス耐性の欠如に対処すること。
• バックボーンアーキテクチャを変更せずに、不要な入力点を同定・低減する手法を開発すること。
• モデルが少数の特徴的特徴に依存するのではなく、多様な入力特徴に依存するようにすることで一般化性能を向上させること。
• 制御された実験を通じて、データバイアスおよびランダム回転に対する頑健性を評価すること。
• マスキングに基づく正則化がドロップアウトを上回り、モデルの一般化性能を向上させられることを示すこと。

提案手法

• PointMask は、変分推論に基づく正則化を用いて、予測に寄与が小さいポイントを学習的に抑制する微分可能なマスキング層を導入する。
• 再パrameter化トリックを用いて、マスク値のガウス事後分布からサンプリングし、マスキング操作を逆伝播可能にする。
• KLダイバージェンス項を用いて、入力ポイントと潜在特徴の間の相互情報量を最小化することで、多様な入力変動の探索を促進する。
• マスクは、入力ポイントクラウドと学習されたバイナリに近いマスクとの要素ごとの乗算によって適用され、不要なポイントを効果的にフィルタリングする。
• PointMap は、ポイントをマスクするのではなく新しい空間にマップする変種であり、表現学習における代替的なインダクティブバイアスを可能にする。
• このフレームワークはモデルに依存せず、PointNet などの任意のポイントクラウド分類器にアーキテクチャの変更なしに統合可能である。

実験結果

リサーチクエスチョン

• RQ1 学習可能なマスキング機構は、最も影響力のある入力ポイントを同定することで、ポイントクラウドモデルの解釈性を向上させられるか？
• RQ2 提案された情報ボトルネック正則化は、トレーニングデータにおけるバイアスや誤った特徴への依存を低減するか？
• RQ3 ランダム回転のような分布シフトに対して、ドロップアウトのような標準的な正則化手法と比較して、PointMask はどのように性能を発揮するか？
• RQ4 回転下で、視覚的に類似した物体クラス間の混同は、マスキング機構によってどの程度低減されるか？
• RQ5 モデルはデータバイアスや入力摂動に対してより頑健になる一方で、正確性を維持または向上させられるか？

主な発見

• PointMask は、回転させたオブジェクトに対して ModelNet40 でトップ-1正確性 82.18% を達成し、PointNet（76.87%）や他のベースラインを上回った。
• 類似クラス間の混同が低減された：花のプランターと植物の混同は PointMask で 0.0% から 25.0% に低下し、カップとビーカーの混同は 35.0% から 30.0% に減少した。
• ドロップアウト層を削除することで、PointNet の正確性は 76.87% から 81.13% に向上したが、PointMask は同じテストで 82.18% を達成し、これを上回った。
• PointMask の正則化効果はドロップアウトよりも効果的であり、回転やバイアス条件下でも一貫した性能向上が確認された。
• PointNet の入力変換モジュールは、PointMask 処理済み入力を与えられた場合、回転出力を異なるものに生成しており、インダクティブバイアスの変化と特徴多様性の向上を示している。
• 可視化結果から、PointMask は予測に寄与するポイントを効果的に強調しており、解釈可能性を高めるとともに、モデルが特定の幾何的特徴に依存していることを明らかにした。