[논문 리뷰] Ad-versarial: Defeating Perceptual Ad-Blocking

Florian Tramèr, Pascal Dupré외 3명|arXiv (Cornell University)|2018. 11. 08.

Internet Traffic Analysis and Secure E-voting인용 수 13

한 줄 요약

이 논문은 시각적 콘텐츠를 통해 광고를 탐지하도록 설계된 인지 광고 차단기—시각적 콘텐츠를 기반으로 광고를 감지하는 시스템—가 100% 성공률로 탐지 회피가 가능한 적대적 공격에 취약하다는 것을 입증한다. 저자들은 웹 및 오디오 환경에서 적대적 예제를 제작하여, 웹 보안 경계를 우회하고 DDoS 공격을 유도할 수 있는 임계 보안 결함을暴露한다.

ABSTRACT

Perceptual ad-blocking is a novel approach that detects online advertisements based on their visual content. Compared to traditional filter lists, the use of perceptual signals is believed to be less prone to an arms race with web publishers and ad networks. We demonstrate that this may not be the case. We describe attacks on multiple perceptual ad-blocking techniques, and unveil a new arms race that likely disfavors ad-blockers. Unexpectedly, perceptual ad-blocking can also introduce new vulnerabilities that let an attacker bypass web security boundaries and mount DDoS attacks. We first analyze the design space of perceptual ad-blockers and present a unified architecture that incorporates prior academic and commercial work. We then explore a variety of attacks on the ad-blocker's detection pipeline, that enable publishers or ad networks to evade or detect ad-blocking, and at times even abuse its high privilege level to bypass web security boundaries. On one hand, we show that perceptual ad-blocking must visually classify rendered web content to escape an arms race centered on obfuscation of page markup. On the other, we present a concrete set of attacks on visual ad-blockers by constructing adversarial examples in a real web page context. For seven ad-detectors, we create perturbed ads, ad-disclosure logos, and native web content that misleads perceptual ad-blocking with 100% success rates. In one of our attacks, we demonstrate how a malicious user can upload adversarial content, such as a perturbed image in a Facebook post, that fools the ad-blocker into removing another users' non-ad content. Moving beyond the Web and visual domain, we also build adversarial examples for AdblockRadio, an open source radio client that uses machine learning to detects ads in raw audio streams.

연구 동기 및 목표

• 시각적 콘텐츠를 기반으로 광고를 탐지하는 마크업이 아닌 인지 광고 차단기의 보안성과 강건성에 대해 조사한다.
• 적대자가 탐지 회피 또는 고권한 액세스를 악용할 수 있는 인지 광고 차단기의 취약점을 규명한다.
• 기존의 가정과는 반대로, 인지 광고 차단기가 본질적으로 무기 경쟁에서 저항력이 없다는 것을 입증한다.
• 이러한 취약점의 광범위한 영향, 특히 DDoS 공격 및 크로스오리진 보안 위반에 대한 악용 가능성을 탐색한다.

제안 방법

• 기존 학술 및 상용 시스템을 분석하여 인지 광고 차단기의 통합 아키텍처를 제안한다.
• 실제 웹 페이지 환경에서 일곱 가지의 다른 시각적 광고 탐지 모델을 대상으로 적대적 예제를 설계하고 구현한다.
• 광고, 광고 공개 로고, 네이티브 웹 콘텐츠에 대한 편향을 생성하여 인지 분류기를 오도시킨다.
• AdblockRadio라는 기계학습 기반 오디오 광고 탐지기의 경우, 비시각적 도메인으로의 공격을 확장한다.
• 사용자 업로드 콘텐츠가 포함된 실제 환경 조건에서 공격을 평가한다. 예를 들어 페이스북과 같은 플랫폼에서의 콘텐츠.
• 적대적 예제가 광고 차단기의 고권한 실행 환경을 악용하여 비광고 콘텐츠를 제거하도록 유도할 수 있음을 입증한다.

실험 결과

연구 질문

• RQ1 실제 웹 환경에서 적대적 예제를 사용해 인지 광고 차단기를 신뢰성 있게 회피할 수 있는가?
• RQ2 인지 광고 차단기가 웹 보안 경계를 우회할 수 있는 새로운 보안 취약성을 초래하는가?
• RQ3 시각적 및 청각적 도메인의 적대적 예제가 인지 광고 차단 시스템의 보안성과 신뢰성에 얼마나 심각하게 영향을 미치는가?
• RQ4 적대적 콘텐츠가 정상적인 비광고 콘텐츠를 제거하도록 광고 차단기를 조작하는 데 사용될 수 있는가?
• RQ5 인지 광고 차단기가 시각적 분류에 의존함으로써 출판사 및 광고 네트워크와의 무기 경쟁에 얼마나 취약한가?

주요 결과

• 저자들은 실제 웹 페이지 환경에서 일곱 가지의 다른 인지 광고 탐지 시스템을 100% 성공률로 회피하는 적대적 예제를 성공적으로 생성했다.
• 악성 사용자가 편향된 이미지를 업로드함으로써(예: 페이스북에서) 광고 차단기가 다른 사용자의 비광고 콘텐츠를 제거하도록 만들 수 있으며, 이는 실제 세계에서의 악용 가능성을 보여준다.
• 인지 광고 차단기는 권한 상승 공격에 취약하여 공격자가 웹 보안 경계를 우회할 수 있다.
• 이 연구는 인지 광고 차단이 출판사 및 광고 네트워크와의 무기 경쟁을 제거하지 못하며, 적대적 시각적 편향을 악용할 수 있음을 드러낸다.
• 적대적 공격는 시각 콘텐츠를 넘어서 오디오 스트림으로까지 확장되며, AdblockRadio를 통해 이를 입증함으로써 청각 분류의 안전성도 확보되지 않음을 보여준다.
• 연구는 중요한 결함을暴露한다: 인지 광고 차단기의 고권한 수준이 콘텐츠 제거를 조작함으로써 DDoS 유사 효과를 유도할 수 있다는 점이다.