[논문 리뷰] Physical Adversarial Textures that Fool Visual Object Tracking

Rey Reza Wiyatno, Anqi Xu|arXiv (Cornell University)|2019. 04. 24.

Adversarial Robustness in Machine Learning참고 문헌 25인용 수 11

한 줄 요약

이 논문은 실제 세계에서 시각적 객체 추적 시스템을 속이는 데 성공하는 비추상적인 포스터 형태의 패턴인 물리적 적대적 텍스처(PATs)를 소개한다. 기대값에 기반한 변환(EOT) 프레임워크 내에서 지도된 적대적 손실을 최적화함으로써, GOTURN과 같은 추적자들이 다양한 조명, 각도, 시야 조건에서도 목표를 상실하게 만드는 텍스처를 생성한다. 이는 시뮬레이션에서의 실제 세계로의 전이 성공과 강력한 적대적 행동을 보여준다.

ABSTRACT

We present a system for generating inconspicuous-looking textures that, when displayed in the physical world as digital or printed posters, cause visual object tracking systems to become confused. For instance, as a target being tracked by a robot's camera moves in front of such a poster, our generated texture makes the tracker lock onto it and allows the target to evade. This work aims to fool seldom-targeted regression tasks, and in particular compares diverse optimization strategies: non-targeted, targeted, and a new family of guided adversarial losses. While we use the Expectation Over Transformation (EOT) algorithm to generate physical adversaries that fool tracking models when imaged under diverse conditions, we compare the impacts of different conditioning variables, including viewpoint, lighting, and appearances, to find practical attack setups with high resulting adversarial strength and convergence speed. We further showcase textures optimized solely using simulated scenes can confuse real-world tracking systems.

연구 동기 및 목표

• 실제 환경에서 작동하는 물리적으로 실현 가능한 적대적 텍스처를 개발하여 시각적 객체 추적 시스템을 교란시키는 것.
• 공격 효과성을 향상시키기 위해 비대상, 대상, 그리고 새로운 지도된 적대적 손실을 포함한 다양한 적대적 손실 목표를 평가하고 비교하는 것.
• EOT 프레임워크 내에서 장면 변수 무작위화의 영향을 연구하여 강력한 물리적 적대자에게 필요한 최소한의 변환을 규명하는 것.
• 비포토 realistic 시뮬레이터에서 생성된 PATs가 매끄러운 재료를 사용해 실제 세계로의 시뮬레이션에서 실제 세계로의 전이를 입증하는 것.
• 비추상적인, 눈에 띄지 않는 물리적 패턴이 시각 중심 추적 시스템의 취약성을 드러내는 것.

제안 방법

• 기대값에 기반한 변환(EOT) 프레임워크를 사용하여 카메라 자세, 조명, 배경, 객체 위치의 무작위 변화 하에 적대적 텍스처를 최적화한다.
• 비대상 및 대상 목표 사이의 균형을 잡는 새로운 지도된 적대적 손실 가족을 도입하여 수렴 속도와 적대적 강도를 향상시킨다.
• perspective, 흐림, 조명 등을 포함한 실제 영상 조건을 시뮬레이션하는 가시화 가능한 렌더링 파이프라인을 사용해 텍스처를 최적화한다.
• 기울기 기반 업데이트를 텍스처 패턴에 적용하면서도, 변형이 시각적으로 눈에 띄지 않도록 제약 조건을 설정한다.
• 다양한 물리적 조건—거리, 각도, 운동 흐림 등—에서 PATs의 강건성을 평가한다.
• 비포토 realistic 시뮬레이터에서 생성된 텍스처를 물리적 포스터에 배치하여 실제 세계의 추적자를 성공적으로 속임으로써 시뮬레이션에서 실제 세계로의 전이를 검증한다.

실험 결과

연구 질문

• RQ1 실제 환경에서 작동하는 물리적으로 실현 가능한 적대적 텍스처를 생성할 수 있을까? 이는 시각적 객체 추적자가 목표를 상실하게 만든다.
• RQ2 비대상, 대상, 지도된 손실과 같은 다양한 적대적 손실 목표는 물리적 적대적 공격의 수렴 속도와 강도에 어떤 영향을 미치는가?
• RQ3 EOT 프레임워크 내에서 어떤 장면 변수를 무작위화해야 강력한 물리적 적대적 성능를 달성하면서 불필요한 계산 비용을 피할 수 있는가?
• RQ4 비포토 realistic 시뮬레이터에서 훈련된 적대적 텍스처가 실제 세계의 추적 시스템으로 성공적으로 전이될 수 있는가?
• RQ5 물리적으로 눈에 띄지 않는 텍스처는 목표가 가림을 당한 후 다시 나타나도 지속적인 추적 오류를 유도할 수 있는가?

주요 결과

• 지난한 적대적 손실 가족은 비대상 및 대상 손실 대비 수렴 속도와 적대적 강도를 크게 향상시켰다.
• 스트라이프 패치를 포함한 물리적 적대적 텍스처는 목표가 재등장한 후에도 GOTURN이 목표가 아닌 텍스처를 잠금고 유지하는 데 성공했다.
• 정지 상태 추적 실험 80회 중 57회, 서보링 실험 18회 중 6회에서 뛰어난 성능을 보였으며, 동적 조건에서도 강건함을 입증했다.
• 비포토 realistic 시뮬레이터에서 최적화된 PATs는 실제 세계 환경에서 성공적으로 전이되어 카메라와 로봇 추적 시스템을 속였다.
• 카메라 위치, 조명, 객체 배치와 같은 핵심 장면 변수만을 무작위화하는 것으로도 강력한 물리적 적대자를 생성하는 데 충분했으며, 불필요한 계산 부담을 피할 수 있었다.
• 시뮬레이션에서 실제 세계로의 전이 성공은 GOTURN이 합성 패턴과 실제 목표를 구분하기 어려운 데 기인할 수 있으며, 이는 실제 세계에서의 효과성에 대한 잠재적 메커니즘을 시사한다.