[논문 리뷰] Near-Optimal Evasion of Convex-Inducing Classifiers

Blaine Nelson, Benjamin I. P. Rubinstein외 7명|arXiv (Cornell University)|2010. 03. 14.

Machine Learning and Algorithms참고 문헌 6인용 수 13

한 줄 요약

이 논문은 결정 경계를 역공학하지 않고도 최소 비용에 가까운 인스턴스를 구성함으로써 선형 및 이상 탐지 모델과 같은 볼록성 유도 분류기들에 대해 효율적인 쿼리 기반 회피 공격을 제안한다. 이 방법은 볼록한 음성 영역 내에서 반복적인 초평면 커팅과 샘플링을 사용하며, 다항식 쿼리 복잡도를 달성하고 선형 분류기의 이전 역공학 기반 방법들을 능가한다.

ABSTRACT

Classifiers are often used to detect miscreant activities. We study how an adversary can efficiently query a classifier to elicit information that allows the adversary to evade detection at near-minimal cost. We generalize results of Lowd and Meek (2005) to convex-inducing classifiers. We present algorithms that construct undetected instances of near-minimal cost using only polynomially many queries in the dimension of the space and without reverse engineering the decision boundary.

연구 동기 및 목표

• 공격자가 비용을 최소화하면서 탐지 회피를 할 수 있는 효율적인 회피 전략을 개발하는 것.
• 일반적으로 계산이 어려운 분류기의 결정 경계를 역공학하는 데 필요한 과정을 피하는 것.
• 입력 차원에 대해 다항식 수준의 쿼리 수만을 요구하는 알고리즘 설계로 확장성 확보.
• 선형 분류기 이상의 더 넓은 가족, 예를 들어 볼록 경계를 가진 이상 탐지기 등으로 near-optimal 회피를 확장하는 것.
• 부분 관찰 가능성과 특징 제약 조건 하에서도 작동하는 실용적인 악성 탐색 프레임워크 제공.

제안 방법

• 멤버십 쿼리를 통한 반복적 초평면 커팅을 사용하여 음성 클래스 영역을 축소시키며, 볼록한 음성 영역에서 균일한 샘플 세트를 유지한다.
• RoundingBody 알고리즘을 활용해 음성 클래스를 거의 등방성인 볼록체로 변환함으로써 효율적인 샘플링과 탐색을 가능하게 한다.
• 각 커팅 이후 히트-앤드-런 방법을 적용하여 점들을 재샘플링함으로써 균일성과 충분한 샘플 수를 유지한다.
• 비용 수준에 대한 이진 탐색과 IntersectSearch를 조합하여 가중 ℓ₁ 구 내에서 최소 비용의 회피 인스턴스를 탐색한다.
• 비용 C에서 유효한 분리 초평면은 모든 더 낮은 비용의 점들에 대해서도 유효하므로, 검색 상태를 재사용할 수 있음을 활용한다.
• SetSearch(알고리즘 3.8)를 도입하여 비용 간격을 반복적으로 정밀화하고, 보장된 쿼리 효율성으로 ϵ-IMAC 해에 수렴한다.

실험 결과

연구 질문

• RQ1 결정 경계를 역공학하지 않고도 볼록성 유도 분류기에서 near-optimal 회피를 달성할 수 있는가?
• RQ2 볼록 음성 클래스 설정에서 near-minimal cost 인스턴스를 구성할 때의 쿼리 복잡도는 얼마인가?
• RQ3 선형 분류기의 경우, 쿼리 기반 회피의 성능이 역공학 기반 접근 방식과 비교해 어떻게 되는가?
• RQ4 음성 클래스가 볼록할 경우, 무작위 타원체 방법이 회피 문제를 효율적으로 해결할 수 있는가?
• RQ5 부분 관찰 가능성과 근사 쿼리의 영향이 ϵ-IMAC 검색의 실현 가능성에 어떤 영향을 미치는가?

주요 결과

• 제안된 알고리즘은 입력 차원에 대해 다항식 쿼리 복잡도를 확보하면서 볼록성 유도 분류기에서 ϵ-IMAC(근사 최적의 회피)를 달성한다.
• 선형 분류기의 경우, Lowd와 Meek(2005)의 역공학 기반 접근보다 더 적은 수의 쿼리가 필요하다.
• 히트-앤드-런 샘플링과 반복적 초평면 커팅의 사용은 볼록 음성 영역에서 균일한 샘플 세트를 유지함으로써 효율적인 탐색을 가능하게 한다.
• 결정 경계의 전체 추정을 피함으로써, 고차원 공간에서 자주 실현 불가능하거나 계산 비용이 큰 문제를 회피한다.
• 양성 클래스가 볼록일 경우, 가중 ℓ₁ 구 내에서 검색함으로써 근사 최소 비용 인스턴스를 효율적으로 찾을 수 있다.
• 부분 관찰 가능성 하에서도 프레임워크는 강건하며, 특징 매핑과 노이즈가 있는 쿼리 등의 실제 제약 조건에 적응 가능하다.