[논문 리뷰] All Vehicles Can Lie: Efficient Adversarial Defense in Fully Untrusted-Vehicle Collaborative Perception via Pseudo-Random Bayesian Inference

Yi Yu, Libing Wu외 4명|arXiv (Cornell University)|2026. 03. 09.

Adversarial Robustness in Machine Learning인용 수 0

한 줄 요약

PRBI은 완전히 신뢰되지 않는 차량 간 협력 인식에서 프레임 단위의 에고 무관 방어를 도입하고, 의사 난수 기반 그룹화와 베이지안 추론을 사용해 확인 비용이 낮은 악의 차량을 탐지하고 제외합니다.

ABSTRACT

Collaborative perception (CP) enables multiple vehicles to augment their individual perception capacities through the exchange of feature-level sensory data. However, this fusion mechanism is inherently vulnerable to adversarial attacks, especially in fully untrusted-vehicle environments. Existing defense approaches often assume a trusted ego vehicle as a reference or incorporate additional binary classifiers. These assumptions limit their practicality in real-world deployments due to the questionable trustworthiness of ego vehicles, the requirement for real-time detection, and the need for generalizability across diverse scenarios. To address these challenges, we propose a novel Pseudo-Random Bayesian Inference (PRBI) framework, a first efficient defense method tailored for fully untrusted-vehicle CP. PRBI detects adversarial behavior by leveraging temporal perceptual discrepancies, using the reliable perception from the preceding frame as a dynamic reference. Additionally, it employs a pseudo-random grouping strategy that requires only two verifications per frame, while applying Bayesian inference to estimate both the number and identities of malicious vehicles. Theoretical analysis has proven the convergence and stability of the proposed PRBI framework. Extensive experiments show that PRBI requires only 2.5 verifications per frame on average, outperforming existing methods significantly, and restores detection precision to between 79.4% and 86.9% of pre-attack levels.

연구 동기 및 목표

• 완전히 신뢰되지 않는 차량 간 협력 인식이 적대적 특징 섭동에 취약하다는 문제를 해결한다.
• 신뢰할 수 있는 에고 차량이나 사전에 주어진 공격자 지식을 의존하지 않는 경량의 신뢰 제로 방어 프레임워크를 개발한다.
• 프레임 간 지각 유사성을 탐지의 자체 감독 신호로 활용한다.
• 검증 비용을 최소화하고 확장 가능한 방어를 가능하게 하는 의사 난수 기반 그룹화 전략을 도입한다.
• 수렴에 대한 이론적 보장과 대규모 CP 데이터에 대한 실용적 검증을 제공한다.

제안 방법

• 프레임 간 지각 유사성을 모델링하여 프레임 단위 자기 참조 탐지 신호를 도출한다.
• 의사 난수 기반 베이지안 추론(PRBI)을 제안하며, 프레임당 의사 난수 두 그룹 분할을 통해 두 번의 검증을 사용한다.
• 그룹 간 일관성 검사로부터 악의 차량의 수와 신원을 추정하기 위해 베이지안 추론을 적용한다.
• 연성 샘플링(그룹화)과 이전 정상 프레임을 기준으로 한 일관성 검증의 2단계 프로세스를 사용한다.
• 수렴 여부를 결정하고 공격자 식별을 최종화하기 위해 가설 검정을 도입한다.

실험 결과

연구 질문

• RQ1 프레임 간 지각 유사성이 완전히 신뢰되지 않는 CP 설정에서 신뢰할 수 있는 에고 무관 기준 신호로 작용할 수 있는가?
• RQ2 차량 대 수에 상관없이 프레임당 일정한 검증 비용으로 악의 차량을 어떻게 효율적으로 탐지하고 식별할 수 있는가?
• RQ3 의사 난수 두 그룹 검증 전략이 더 낮은 오버헤드로 비동등 비교 가능한 또는 우수한 공격자 탐지를 제공하는가?
• RQ4 PRBI가 공격자 수 추정 및 격리에 대한 이론적 수렴 보장을 제공할 수 있는가?
• RQ5 다른 융합 패러다임에서 일반적인 적대적 섭동(BIM, C&W, PGD) 하에서 PRBI의 성능은 어떠한가?

주요 결과

• 양성 프레임의 프레임 간 유사도는 대략 0.8 정도로 유지되며, 악의 사례에서 급격히 하락하여 에고 신뢰 없이 프레임 단위 자기 감독이 가능하다.
• PRBI는 프레임당 평균 2.5회의 검증을 수행하며, 최대 평균 5.0회의 검증으로 기초선 대비 탐지 비용을 크게 줄인다.
• PRBI는 공격 전 수준의 79.4%–86.9%의 탐지 정밀도를 회복한다(공격: PGD, BIM, C&W).
• 두 그룹 의사 난수 검증은 무작위 샘플링에 근접하고 베이지안 추론을 통해 차량별 정상 확률 추정을 가능하게 한다.
• 이론적 증명은 추정된 공격자 수가 실제 수로 수렴함을 보이고 수렴에 대한 반올림 효과를 강조한다.
• PRBI는 적대적 환경에서 AP 개선 면에서 SOTA 방어 ROBOSAC 및 PASAC를 능가한다.