[논문 리뷰] Adversarial Regression with Multiple Learners

Liang Tong, Sixie Yu외 2명|arXiv (Cornell University)|2018. 06. 06.

Adversarial Robustness in Machine Learning참고 문헌 13인용 수 10

한 줄 요약

이 논문은 여러 학습자가 함께 모델을 훈련하고 단일 공격자가 모든 모델을 회피하기 위해 통합된 편향을 만드는 악성 선형 회귀를 위한 다중 학습자 스택엘베르크 게임(MLSG) 프레임워크를 제안한다. 학습자 손실 함수의 상한을 유도함으로써 저자들은 이 게임이 유일한 대칭 균형을 가지며, 볼록 최적화를 통해 계산 가능하다고 보여주며, 실험을 통해 MLSG 모델이 Ridge와 Lasso와 같은 정규화 기반 보조 모델보다 악성 공격에 훨씬 더 강건하다고 확인한다.

ABSTRACT

Despite the considerable success enjoyed by machine learning techniques in practice, numerous studies demonstrated that many approaches are vulnerable to attacks. An important class of such attacks involves adversaries changing features at test time to cause incorrect predictions. Previous investigations of this problem pit a single learner against an adversary. However, in many situations an adversary's decision is aimed at a collection of learners, rather than specifically targeted at each independently. We study the problem of adversarial linear regression with multiple learners. We approximate the resulting game by exhibiting an upper bound on learner loss functions, and show that the resulting game has a unique symmetric equilibrium. We present an algorithm for computing this equilibrium, and show through extensive experiments that equilibrium models are significantly more robust than conventional regularized linear regression.

연구 동기 및 목표

• 단일 공격자가 개별 모델이 아닌 동시에 여러 학습자를 대상으로 하는 설정에서 악성 회귀를 모델링하기 위해.
• 다중 학습자와 단일 공격자 간의 상호작용을 두 단계 의사결정을 포함하는 다중 학습자 스택엘베르크 게임(MLSG)으로 수식화하기 위해.
• 게임 이론적 분석의 단순화와 타당성 확보를 위해 학습자 손실 함수의 상한을 도출하기 위해.
• 근사된 게임에서 대칭 균형의 존재성과 유일성을 증명하여 효율적인 계산을 가능하게 하기 위해.
• 균형 모델이 표준 정규화 회귀 모델보다 악성 특성 편향에 더 강건한지 경험적으로 검증하기 위해.

제안 방법

• 학습자들이 먼저 모델을 선택하고 공격자가 테스트 시 특성에 대해 통합된 편향을 선택하는 다중 학습자 스택엘베르크 게임(MLSG)으로 문제를 모델링한다.
• 각 학습자의 기대 비용 함수를 정규 데이터($\mathcal{D}$)와 악성 데이터($\mathcal{D}'$) 분포에 대한 손실의 가중합으로 정의하며, $\beta$는 악성 데이터의 확률로 간주한다.
• 공격자의 편향을 특성 벡터의 최악의 경우 이동으로 모델링함으로써 학습자 손실 함수의 상한을 유도하며, 이는 $\mathbf{z}$와 $\lambda$로 매개변수화된다.
• 상한이 적용된 게임이 유일한 대칭 균형을 가지며, 이는 표준 방법으로 해결 가능한 볼록 최적화 문제로 해석됨을 보여준다.
• 악성 편향의 상한에 기반한 제약 조건을 포함하는 $\ell_2$-정규화 회귀를 활용한 볼록 최적화 문제로 균형 계산을 공식화한다.
• 유도된 상한을 기반으로 한 경험적 리스크 최소화를 통해 통합 악성 공격에 강건한 모델을 훈련시키며, $\lambda$, $\beta$, $\mathbf{z}$의 추정 오차가 존재하더라도 성능을 유지한다.

실험 결과

연구 질문

• RQ1 단일 공격자가 동시에 여러 학습자를 대상으로 하는 설정에서 게임 이론적 프레임워크가 악성 회귀를 모델링할 수 있는가?
• RQ2 학습자 손실 함수의 상한이 타당성 있고 잘 행동하는 게임으로 이어지고, 유일한 균형을 갖는가?
• RQ3 근사된 게임의 대칭 균형이 볼록 최적화를 통해 계산 가능하며, 이로 인해 강건한 모델이 도출되는가?
• RQ4 균형 모델의 강건성은 악성 공격 하에서 표준 정규화 회귀 모델(Ridge, Lasso 등)과 비교해 어떻게 되는가?
• RQ5 악성 매개변수($\lambda$, $\beta$, $\mathbf{z}$)를 과소추정하는 것보다 과대추정하는 것이 실질적으로 강건성을 향상시키는가?

주요 결과

• 다중 학습자 스택엘베르크 게임(MLSG) 프레임워크는 단일 공격자가 통합된 편향을 사용해 여러 학습자를 동시에 공격하는 현실적인 악성 설정을 모델링한다.
• 유도된 학습자 손실의 상한은 고유한 대칭 균형을 가지는 게임을 만들어내며, 이는 볼록 최적화를 통해 계산 가능하다.
• 균형 모델은 이론적으로 강건 최적화 문제와 동치이며, 그 강건성에 대한 공식적 근거를 제공한다.
• Boston 및 PDF 데이터셋에서의 실험 결과, $\beta$가 높을수록 MLSG는 Ridge, Lasso, OLS보다 RMSE 측면에서 일관되게 뛰어난 성능을 보였다.
• 악성 매개변수($\lambda$, $\beta$, $\mathbf{z}$)를 과대추정하는 것은 과소추정보다 더 강건한 모델을 만들어내며, 보수적 추정의 이점을 확인한다.
• 정규화 매개변수의 추정 오차가 존재하더라도 MLSG 모델은 기준 모델보다 훨씬 낮은 오차를 유지하여 실용적 강건성을 입증한다.