[論文レビュー] All Vehicles Can Lie: Efficient Adversarial Defense in Fully Untrusted-Vehicle Collaborative Perception via Pseudo-Random Bayesian Inference

Yi Yu, Libing Wu+4 more|arXiv (Cornell University)|Mar 9, 2026

Adversarial Robustness in Machine Learning被引用数 0

ひとこと要約

PRBI は、偽乱数グルーピングとベイズ推論を用いて、検証コストを低く抑えつつ悪意ある車両を検出・排除する、全車両が信頼できない協調認識に対するフレーム単位の ego-agnostic な防御を提案します。

ABSTRACT

Collaborative perception (CP) enables multiple vehicles to augment their individual perception capacities through the exchange of feature-level sensory data. However, this fusion mechanism is inherently vulnerable to adversarial attacks, especially in fully untrusted-vehicle environments. Existing defense approaches often assume a trusted ego vehicle as a reference or incorporate additional binary classifiers. These assumptions limit their practicality in real-world deployments due to the questionable trustworthiness of ego vehicles, the requirement for real-time detection, and the need for generalizability across diverse scenarios. To address these challenges, we propose a novel Pseudo-Random Bayesian Inference (PRBI) framework, a first efficient defense method tailored for fully untrusted-vehicle CP. PRBI detects adversarial behavior by leveraging temporal perceptual discrepancies, using the reliable perception from the preceding frame as a dynamic reference. Additionally, it employs a pseudo-random grouping strategy that requires only two verifications per frame, while applying Bayesian inference to estimate both the number and identities of malicious vehicles. Theoretical analysis has proven the convergence and stability of the proposed PRBI framework. Extensive experiments show that PRBI requires only 2.5 verifications per frame on average, outperforming existing methods significantly, and restores detection precision to between 79.4% and 86.9% of pre-attack levels.

研究の動機と目的

• Fully untrusted-vehicle collaborative perception が敵対的特徴の摂動に対して脆弱であることへの対処。
• trusted ego vehicle や事前攻撃者知識に依存しない、軽量で信頼前提のない防御フレームワークを開発。
• 検出の自己監視信号としてフレーム間の知覚類似性を活用。
• 検証コストを最小化しスケーラブルな防御を可能にする pseudo-random grouping 戦略を導入。
• 収束の理論的保証と大規模 CP データでの実用的検証を提供。

提案手法

• フレーム間の知覚類似性をモデル化してフレーム単位の自己参照検出信号を導出。
• Pseudo-Random Bayesian Inference（PRBI）を提案し、pseudo-random の二グループ分割を介して各フレームで2つの検証を行う。
• グループごとの整合性検査から悪意ある車両の数と身元を推定するベイズ推論を適用。
• 過去の健全フレームを参照として用いるソフトサンプリング（ grouping ）と整合性検証の二段階プロセスを採用。
• 収束を決定し攻撃者識別を確定するための仮説検定を組み込む。

実験結果

リサーチクエスチョン

• RQ1 完全に信頼できない CP 設定でフレーム間の知覚類似性が信頼できる ego-agnostic な参照信号になり得るか。
• RQ2 fleet サイズに依存せず各フレームの検証コストを一定に保ちながら、悪意ある車両を効率的に検出・同定できるか。
• RQ3 Pseudo-random 二グループ検証戦略は、追加のオーバーヘッドを抑えつつ同等または優れた攻撃者検出を提供するか。
• RQ4 PRBI が攻撃者数の推定と孤立化の理論的収束保証を提供できるか。
• RQ5 PRBI は異なる融合パラダイム下で一般的な敵対的摂動（BIM、C&W、PGD）に対してどう機能するか。

主な発見

• 健全なフレーム間の類似性はおおむね 0.8 のままで、敵対的ケースで急激に低下し、ego 信頼なしのフレーム単位自己監視を可能にする。
• PRBI はフレームあたり平均 2.5 回の検証を行い、最大平均 5.0 回の検証で、ベースラインと比較して検出コストを大幅に削減。
• PRBI は adversarial 攻撃（PGD、BIM、C&W）に対して検出精度を事前攻撃レベルの 79.4%～86.9% に回復。
• 二グループpseudo-random 検証はランダムサンプリングに近似し、ベイズ推論を介して各車両の健全確率推定を可能にする。
• 推定 공격者数の収束が真の数と一致することを理論的に証明し、収束における丸め効果を指摘。
• PRBI は敵対的設定下での AP の改善において SOTA 防御 ROBOSAC および PASAC を上回る。