[논문 리뷰] Learning with Differential Privacy: Stability, Learnability and the Sufficiency and Necessity of ERM Principle

Yu-Xiang Wang, Jing Lei외 1명|arXiv (Cornell University)|2015. 02. 23.

Privacy-Preserving Technologies in Data참고 문헌 27인용 수 56

한 줄 요약

이 논문은 일반 학습 프레임워크 내에서 차별적 비밀유지 하에 학습 문제는 차별적 비밀유지 알고리즘이 경험 위험을 점차적으로 최소화하는 경우에만 비밀유지 가능하게 된다고 규명한다 (AERM). 이는 AERM가 비밀유지 학습 가능성에 대해 필요하고 충분한 조건임을 증명하며, 비밀유지 학습 가능성과 관련된 일반적인 프레임워크를 제공하고, 최적 수렴 속도를 갖는 광범위한 문제 클래스에 대해 일관된 비밀유지 학습 알고리즘의 보편적 구성법을 가능하게 한다.

ABSTRACT

While machine learning has proven to be a powerful data-driven solution to many real-life problems, its use in sensitive domains has been limited due to privacy concerns. A popular approach known as **differential privacy** offers provable privacy guarantees, but it is often observed in practice that it could substantially hamper learning accuracy. In this paper we study the learnability (whether a problem can be learned by any algorithm) under Vapnik's general learning setting with differential privacy constraint, and reveal some intricate relationships between privacy, stability and learnability. In particular, we show that a problem is privately learnable **if an only if** there is a private algorithm that asymptotically minimizes the empirical risk (AERM). In contrast, for non-private learning AERM alone is not sufficient for learnability. This result suggests that when searching for private learning algorithms, we can restrict the search to algorithms that are AERM. In light of this, we propose a conceptual procedure that always finds a universally consistent algorithm whenever the problem is learnable under privacy constraint. We also propose a generic and practical algorithm and show that under very general conditions it privately learns a wide class of learning problems. Lastly, we extend some of the results to the more practical $(ε,δ)$-differential privacy and establish the existence of a phase-transition on the class of problems that are approximately privately learnable with respect to how small $δ$ needs to be.

연구 동기 및 목표

• 바프니크의 일반 학습 프레임워크 내에서 차별적 비밀유지 하에 학습 가능한 문제의 집합을 특성화하는 것.
• 비밀유지 학습 가능성에 있어 AERM 원칙의 필요성과 충분성을 확립하여, 비비밀유지 설정과의 차이를 명확히 하는 것.
• 비밀유지 학습 가능할 경우 언제나 작동하는 일반적이고 보편적으로 일관된 비밀유지 학습 알고리즘을 개발하는 것.
• $(\epsilon,\delta)$-차별적 비밀유지로 결과를 확장하고, $\delta$에 기반한 학습 가능성의 단계 전이 현상을 규명하는 것.

제안 방법

• 차별적 비밀유지가 알고리즘 안정성을 유도하며, 이는 경험 위험 최소화의 일관성으로 이어진다는 것을 증명한다.
• 새로운 안정성 논증을 사용하여, 비밀유지 알고리즘이 일관성이 있으면 반드시 AERM여야 한다는 점을 보여, 필수 조건을 입증한다.
• 비밀유지 학습 가능성 성립 시 보편적 일관성을 보장하는 AERM 기반의 개념적 비밀유지 학습 알고리즘을 구성한다.
• 지수 기반 메커니즘과 볼록 최적화를 활용하여 볼록 문제에서 효율적인 비밀유지 학습을 위한 실용적 알고리즘을 제안한다.
• Dwork 등 (2015b)의 결과를 응용하여 고확률 일반화 경계를 유도하며, $n$에 대한 추가 가정 없이도 비밀유지와 일반화의 연관성을 연결한다.
• $(\epsilon,\delta)$-차별적 비밀유지에서의 단계 전이를 분석하여, 학습 가능성은 $\delta$가 얼마나 작아야 하는지에 따라 결정되며, 문제 클래스에 따라 날카로운 임계점이 존재함을 보여준다.

실험 결과

연구 질문

• RQ1 일반 학습 설정에서 차별적 비밀유지 하에 학습 문제가 비밀유지 가능하기 위한 필수 및 충분 조건은 무엇인가요?
• RQ2 왜 AERM는 비밀유지 학습 가능성에는 충분하지만 비비밀유지 학습 가능성에는 충분하지 않은가요?
• RQ3 모든 비밀유지 가능 문제에 대해 AERM 기반의 보편적이고 일관된 비밀유지 학습 알고리즘을 구성할 수 있는가요?
• RQ4 선택된 $\delta$ 값은 $(\epsilon,\delta)$-차별적 비밀유지 하에서 문제의 학습 가능성에 어떤 영향을 미치나요?
• RQ5 비밀유지 학습 알고리즘이 달성할 수 있는 최적 수렴 속도는 무엇이며, 비비밀유지 또는 비최적 비밀유지 방법과 비교해 볼 때 어떻게 다른가요?

주요 결과

• 학습 문제가 비밀유지 가능할 조건은 차별적 비밀유지 알고리즘이 경험 위험을 점차적으로 최소화하는 경우에만 성립한다 (AERM).
• AERM 원칙은 비밀유지 학습 가능성에 대해 필수적이며 동시에 충분하며, 비비밀유지 학습과의 핵심 차이점은 AERM만으로는 비비밀유지 학습 가능성 보장이 안 된다는 점이다.
• 비밀유지 학습 가능일 경우 언제나 작동하는 일반적 비밀유지 학습 알고리즘을 구성할 수 있으며, 이는 일반적인 해결책을 제공한다.
• 논문은 $(\epsilon,\delta)$-차별적 비밀유지에서 단계 전이 현상을 규명한다: 문제들은 $\delta$가 충분히 작을 때에만 근사적으로 비밀유지 가능하며, 이는 문제 클래스에 따라 날카로운 임계점이 존재한다.
• 고차 손실이 있는 평균 추정과 같은 단순한 문제에서는 제안된 방법이 $O(n^{-9/10})$의 수렴 속도를 달성하며, 이는 이전 방법들이 $\tilde{O}(n^{-1/2})$ 수준에 머무르는 데 비해 더 뛰어나다.
• 증명 기법은 $n$에 대한 가정을 피하고, 특히 빠르게 수렴하는 설정에서 이전 방법들이 고확률 일반화 경계에 의존하는 것보다 더 날카로운 수렴 속도를 제공한다.