[論文レビュー] IF-Defense: 3D Adversarial Point Cloud Defense via Implicit Function based Restoration

Ziyi Wu, Yueqi Duan+3 more|arXiv (Cornell University)|Oct 11, 2020

Adversarial Robustness in Machine Learning参考文献 42被引用数 32

ひとこと要約

IF-Defense は、幾何学認識と分布認識の制約の下で implicit function surfaces を介して点座標を最適化することにより、攻撃を受けた点群からクリーンな3D点群を復元し、複数の点群ネットワークに対して最先端の防御を達成します。

ABSTRACT

Point cloud is an important 3D data representation widely used in many essential applications. Leveraging deep neural networks, recent works have shown great success in processing 3D point clouds. However, those deep neural networks are vulnerable to various 3D adversarial attacks, which can be summarized as two primary types: point perturbation that affects local point distribution, and surface distortion that causes dramatic changes in geometry. In this paper, we simultaneously address both the aforementioned attacks by learning to restore the clean point clouds from the attacked ones. More specifically, we propose an IF-Defense framework to directly optimize the coordinates of input points with geometry-aware and distribution-aware constraints. The former aims to recover the surface of point cloud through implicit function, while the latter encourages evenly-distributed points. Our experimental results show that IF-Defense achieves the state-of-the-art defense performance against existing 3D adversarial attacks on PointNet, PointNet++, DGCNN, PointConv and RS-CNN. For example, compared with previous methods, IF-Defense presents 20.02% improvement in classification accuracy against salient point dropping attack and 16.29% against LG-GAN attack on PointNet. Our code is available at https://github.com/Wuziyi616/IF-Defense.

研究の動機と目的

• 幾何学と表面を攪乱する敵対的攻撃に対して3D点群ネットワークの脆弱性に対処すること

提案手法

• 統計的外れ値除去（SOR）を用いて極端な摂動を緩和する前処理
• クリーンなデータ上で implicit function ネットワークを訓練し、物体表面を推定して復元を導く
• 推定された表面に点を合わせる幾何学認識損失を最小化することによって入力点座標を最適化する
• 均一な点分布を促進するため、k近傍間の距離を最大化する分布認識損失を適用する
• 2つの実装変種：再メッシュ化ベースの IF-Defense（marching cubes とメッシュサンプリングを介して）と最適化ベースの IF-Defense（直接の点座標最適化）
• 複数のバックボーン（PointNet, PointNet++, DGCNN, PointConv, RS-CNN）および攻撃（摂動、追加、k-NN、削除、LG-GAN、AdvPC）に対して評価する
• implicit surface 表現と再構成には ConvONet（代替として ONet）を用いる

実験結果

リサーチクエスチョン

• RQ1 局所的な幾何と表面を変更する敵対的摂動を3D点群に対していかに緩和できるか？
• RQ2 implicit-function に基づく表面復元は多様な3Dアーキテクチャと攻撃に対する頑健性を向上させるか？
• RQ3 攻撃下でクリーンな点群を復元する際の再メッシュ化と直接最適化の相対的な有効性はどの程度か？
• RQ4 適応的およびブラックボックスの強力な敵対的攻撃に対して IF-Defense はどの程度機能するか？

主な発見

• IF-Defense は PointNet, PointNet++, DGCNN, PointConv, RS-CNN にわたる多様な3D攻撃に対して、既存の防御を一貫して上回る
• ConvONet を用いた最適化ベースの IF-Defense がしばしば最良の性能を示し、再メッシュ化ベースの変種を上回る
• ConvONet は implicit surface 表現において一般に ONet と同等または優れた結果を提供する
• 適応型攻撃は防御効果を低下させるが、ConvONet を用いた Ours-Opt はテスト済みモデル全体で依然として60%以上の精度を維持する
• DUP-Net は局所的点分布への感度のため特定のバックボーンで効果が低い場合がある一方、IF-Defense は均一な点分布と堅牢なグラフを促進する
• 要約は具体的な利得を報告しており、PointNet における prior methods と比較して salient point dropping に対して 20.02%、LG-GAN に対して 16.29% の改善を含む