[논문 리뷰] On the Sample Complexity of Adversarial Multi-Source PAC Learning

Nikola Konstantinov, Elias Frantar외 2명|arXiv (Cornell University)|2020. 02. 24.

Domain Adaptation and Few-Shot Learning참고 문헌 33인용 수 6

한 줄 요약

이 논문은 한정된 샘플에서 일반화 가능한 경계를 제공하며, 악성으로 손상된 데이터 소스의 비율이 절반 이하일 경우, 적대적인 다중 소스 PAC 학습이 가능하다는 것을 입증한다. 또한, 악성 소스가 존재하더라도 협력적인 데이터 공유를 통해 강건한 학습이 가능하다는 것을 보여준다. 핵심 결과는 적대적 손상에도 불구하고 최적 성능으로 수렴할 수 있도록 보장하는 샘플 복잡도 상한선이다.

ABSTRACT

We study the problem of learning from multiple untrusted data sources, a scenario of increasing practical relevance given the recent emergence of crowdsourcing and collaborative learning paradigms. Specifically, we analyze the situation in which a learning system obtains datasets from multiple sources, some of which might be biased or even adversarially perturbed. It is known that in the single-source case, an adversary with the power to corrupt a fixed fraction of the training data can prevent PAC-learnability, that is, even in the limit of infinitely much training data, no learning system can approach the optimal test error. In this work we show that, surprisingly, the same is not true in the multi-source setting, where the adversary can arbitrarily corrupt a fixed fraction of the data sources. Our main results are a generalization bound that provides finite-sample guarantees for this learning setting, as well as corresponding lower bounds. Besides establishing PAC-learnability our results also show that in a cooperative learning setting sharing data with other parties has provable benefits, even if some participants are malicious.

연구 동기 및 목표

• 일정 비율의 소스가 적대적으로 손상된 다수의 불신뢰할 수 있는 데이터 소스에서의 학습 문제를 체계화하기 위해.
• 단일 소스 설정에서는 불가능한 반면, 다중 소스 설정에서는 강건한 PAC-학습 가능성이 존재하는지 조사하기 위해.
• 샘플 복잡도의 상한 및 하한을 통해 적대적 다중 소스 학습의 통계적 난이도를 특성화하기 위해.
• 신뢰할 수 있는 당사자 간의 협력적 데이터 공유가 악성 참가자가 존재하더라도 증명 가능한 이점을 제공함을 보여주기 위해.
• 적대적 다중 소스 학습과 강건 최적화, 통계학, 암호학 간의 연결 고리를 설정하기 위해.

제안 방법

• 다양한 소스에서 독립적 동일분포(i.i.d.) 데이터셋을 얻는 표준 PAC 프레임워크 내에서 적대적 다중 소스 PAC 학습 문제를 체계화한다.
• 균일 수렴 및 강건 집계 원리를 사용하여, 소스의 절반 이하가 적대적으로 손상된 상황에서 초과 위험의 일반화 경계를 유도한다.
• 모든 데이터를 단순히 병합하고 강건 학습기를 적용하는 것은 부족함을 증명한다 (정리 2), 이는 구조적인 다중 소스 처리의 필요성을 강조한다.
• 초과 위험의 하한 경계를 설정한다 (정리 3), 이는 약한 가정 하에서도 적대자의 영향력 α에 비례해 수렴 속도가 느려짐을 보여준다.
• VC 차원과 균일 수렴 성질을 사용하여, d ≥ 2 인 비자명한 가설 클래스에 대해 유효한 경계를 도출한다.
• 유도된 경계를 고전적인 i.i.d. 학습 속도와 비교하여, 강건성은 α/m 비례로 느려짐을 보여주며, 여기서 m은 소스당 샘플 수이다.

실험 결과

연구 질문

• RQ1 일정 비율의 소스가 적대적으로 손상된 다중 소스 학습 설정에서 PAC-학습 가능성이 유지될 수 있는가?
• RQ2 어떤 참가자가 악성일지라도 협력적 학습 설정에서 다른 당사자와 데이터를 공유하는 데 증명 가능한 이점이 존재하는가?
• RQ3 적대적 다중 소스 설정에서 강건 학습을 위해 필요한 기본 샘플 복잡도는 무엇인가?
• RQ4 왜 이 설정에서 모든 데이터를 단순히 병합하는 것은 강건 학습에 효과적이지 않은가?
• RQ5 강건 학습의 수렴 속도는 소스 수, 소스당 샘플 수, 그리고 손상된 소스의 비율에 따라 어떻게 달라지는가?

주요 결과

• 균일 수렴 성질을 가진 모든 가설 클래스에 대해, 소스의 절반 이하가 손상된 경우에도 적대적 다중 소스 PAC 학습이 가능하다.
• 제안된 강건 학습 알고리즘은 데이터 손상이 전혀 없는 경우 최적의 일반화 속도를 달성하며, 이는 강건성으로 인한 통계적 비용이 미미함을 보여준다.
• 초과 위험의 하한 경계는 α/m 비례로 수렴 속도가 느려짐을 보여주며, 여기서 α는 손상된 소스의 비율이고 m은 소스당 샘플 수이다.
• 강건성으로 인한 느려짐은 피할 수 없다: 무한히 많은 소스가 있어도, 소스당 샘플 수 m이 증가하지 않는 한 수렴을 달성할 수 없다.
• 적대적 다중 소스 설정에서의 수렴 속도는 Ω(√(d/Nm) + α/m)이며, 이는 i.i.d. 속도 Ω(1/Nm)보다 느리며, 이는 강건성의 비용을 강조한다.
• 하한 경계는 d ≥ 2 인 비자명한 가설 클래스에 대해 항상 성립하므로, 통계적 제약은 특정로 어려운 문제에 국한되지 않고 본질적인 특성임을 시사한다.