[논문 리뷰] The Role of Randomness and Noise in Strategic Classification

Mark Braverman, Sumegha Garg|arXiv (Cornell University)|2020. 05. 17.

Auction Theory and Applications참고 문헌 18인용 수 7

한 줄 요약

이 논문은 전략적 분류 설정에서 개인이 특징을 조작하여 유리한 결과를 얻고자 할 때, 무작위 분류기와 노이즈가 있는 특징 신호가 정확도와 공정성 모두를 향상시킬 수 있음을 보여준다. 무작위성이나 노이즈를 도입하면, 분류기가 무작위일 필요가 없더라도 결정론적 분류기보다 더 나은 균형에 이를 수 있으며, 이는 전략적 조작 비용을 줄이고 결과를 안정화함으로써 가능하다.

ABSTRACT

We investigate the problem of designing optimal classifiers in the strategic classification setting, where the classification is part of a game in which players can modify their features to attain a favorable classification outcome (while incurring some cost). Previously, the problem has been considered from a learning-theoretic perspective and from the algorithmic fairness perspective. Our main contributions include 1. Showing that if the objective is to maximize the efficiency of the classification process (defined as the accuracy of the outcome minus the sunk cost of the qualified players manipulating their features to gain a better outcome), then using randomized classifiers (that is, ones where the probability of a given feature vector to be accepted by the classifier is strictly between 0 and 1) is necessary. 2. Showing that in many natural cases, the imposed optimal solution (in terms of efficiency) has the structure where players never change their feature vectors (the randomized classifier is structured in a way, such that the gain in the probability of being classified as a 1 does not justify the expense of changing one's features). 3. Observing that the randomized classification is not a stable best-response from the classifier's viewpoint, and that the classifier doesn't benefit from randomized classifiers without creating instability in the system. 4. Showing that in some cases, a noisier signal leads to better equilibria outcomes -- improving both accuracy and fairness when more than one subpopulation with different feature adjustment costs are involved. This is interesting from a policy perspective, since it is hard to force institutions to stick to a particular randomized classification strategy (especially in a context of a market with multiple classifiers), but it is possible to alter the information environment to make the feature signals inherently noisier.

연구 동기 및 목표

• 개인이 더 좋은 결과를 얻기 위해 특징을 조작하는 전략적 분류 설정에서 무작위성과 노이즈가 분류기 효율성에 미치는 영향을 조사하는 것.
• Stackelberg 게임 설정에서 무작위 분류기가 결정론적 분류기보다 더 높은 효율성(정확도에서 조작 비용을 뺀 값)을 달성할 수 있는지 분석하는 것.
• 분류기의 관점에서 무작위 분류기의 안정성을 탐색하고 실용적 타당성을 평가하는 것.
• 노이즈가 있는 신호가 다중 소하위집단 설정에서 공정성과 정확도를 향상시키기 위한 약속 장치로 어떻게 작용할 수 있는지 조사하는 것.

제안 방법

• 각 특징 벡터에 [0,1] 범위의 확률을 할당하는 확률적 분류기의 Stackelberg 균형을 수식적으로 정의한다.
• 정확도에서 자격을 얻은 개인들이 부담하는 조작 비용의 총합을 뺀 값을 효율성으로 정의한다.
• 임계값 기반 분류기와 자격 기준에서의 거리 함수로 조작 비용을 모델링한다.
• 평균 0, 표준편차 σ인 가우시안 노이즈로 특징이 손상되는 노이즈 신호 모델을 도입하고, 비노이즈 사전 신호 설정과 결과를 비교한다.
• 서로 다른 조작 비용을 가진 소하위집단과 동일한 자격 조건을 가진 집단을 고려하여 공정성과 정확도 영향을 분리한다.
• 수학적 최적화를 활용해 노이즈 없는 대비 노이즈 있는 특징 설정에서의 유용도(정확도)를 비교하고, 노이즈가 결과를 향상시킬 수 있음을 증명한다.

실험 결과

연구 질문

• RQ1 전략적 분류에서 무작위 분류기가 결정론적 분류기보다 더 높은 효율성을 달성할 수 있는가?
• RQ2 특징에 노이즈를 추가하면, 노이즈가 없는 신호를 사용하는 경우보다 분류 정확도와 공정성이 더 높아지는 상황이 존재하는가?
• RQ3 정확한 신호가 존재함에도 불구하고, 왜 분류기가 정확한 신호보다 노이즈 있는 신호를 선호할 수 있는가?
• RQ4 분류기의 관점에서 무작위 분류기가 불안정해지는 조건은 무엇이며, 실세계 배포에 미치는 영향은 무엇인가?
• RQ5 특징의 노이즈가 전략적 분류에서 시스템 전반의 결과를 향상시키기 위한 약속 장치로 작용할 수 있는가?

주요 결과

• 서로 다른 자격 조건을 가진 소하위집단이 존재하지만 동일한 자격 조건을 가진 경우, 평균 0, 표준편차 σ인 가우시안 노이즈가 포함된 노이즈 있는 특징 신호가 노이즈 없는 사전 신호보다 엄격히 더 높은 분류 정확도를 달성할 수 있는 상황이 존재한다.
• 노이즈 있는 특징 하에서 최적의 분류기 fσ*는 노이즈 없는 특징 하에서의 f0*보다 더 높은 유용도 U(fσ*)를 달성할 수 있으며, 구체적인 예시에서는 σB = σ, σA = 0.1σ일 때 이러한 향상이 나타난다.
• 소하위집단의 크기가 다를 경우와 조작 비용이 다를 경우, 노이즈 있는 특징은 정확도와 공정성을 동시에 향상시킬 수 있으며, 이는 노이즈 없는 설정이 이미 공정한 경우에도 마찬가지다.
• 결정론적 분류기보다 성능이 뛰어난 무작위 분류기는 종종 분류기의 관점에서 불안정하여, 다중 분류기 시장에서의 실용적 배포에 어려움을 겪는다.
• 특징의 노이즈는 강제로 무작위성을 약속해야 하는 것과는 대체로 실용적인 대안이 되며, 분류기가 무작위 전략을 약속할 필요 없이 시스템 효율을 향상시킬 수 있다.
• 특히 소하위집단이 특징을 조작하는 데 다른 비용을 지불할 경우, 노이즈 있는 신호는 조작 유인을 줄여 더 나은 균형에 이를 수 있다.