[논문 리뷰] Differentially Private Non-convex Distributionally Robust Optimization

Difei Xu, Meng Ding외 5명|arXiv (Cornell University)|2026. 02. 18.

Stochastic Gradient Optimization Techniques인용 수 0

한 줄 요약

본 논문은 psi-다이버전스를 활용한 비볼록 분포-강건 최적화에서 차등 프라이시시를 연구하고, DP Double-Spider와 DP Recursive-Spider 방법을 도입하여 유용성 보장을 증명한다.

ABSTRACT

Real-world deployments routinely face distribution shifts, group imbalances, and adversarial perturbations, under which the traditional Empirical Risk Minimization (ERM) framework can degrade severely. Distributionally Robust Optimization (DRO) addresses this issue by optimizing the worst-case expected loss over an uncertainty set of distributions, offering a principled approach to robustness. Meanwhile, as training data in DRO always involves sensitive information, safeguarding it against leakage under Differential Privacy (DP) is essential. In contrast to classical DP-ERM, DP-DRO has received much less attention due to its minimax optimization structure with uncertainty constraint. To bridge the gap, we provide a comprehensive study of DP-(finite-sum)-DRO with $ψ$-divergence and non-convex loss. First, we study DRO with general $ψ$-divergence by reformulating it as a minimization problem, and develop a novel $(\varepsilon, δ)$-DP optimization method, called DP Double-Spider, tailored to this structure. Under mild assumptions, we show that it achieves a utility bound of $\mathcal{O}(\frac{1}{\sqrt{n}}+ (\frac{\sqrt{d \log (1/δ)}}{n \varepsilon})^{2/3})$ in terms of the gradient norm, where $n$ denotes the data size and $d$ denotes the model dimension. We further improve the utility rate for specific divergences. In particular, for DP-DRO with KL-divergence, by transforming the problem into a compositional finite-sum optimization problem, we develop a DP Recursive-Spider method and show that it achieves a utility bound of $\mathcal{O}((\frac{\sqrt{d \log(1/δ)}}{n\varepsilon})^{2/3} )$, matching the best-known result for non-convex DP-ERM. Experimentally, we demonstrate that our proposed methods outperform existing approaches for DP minimax optimization.

연구 동기 및 목표

• 개인 정보를 보호하면서 분포 이동, 불균형, 적대적 섭동 하에서 강건한 학습을 유도한다.
• 프라이멀–듀얼 동등성을 통해 psi-다이버전스를 사용하는 DP-DRO를 해석 가능한 최적화 문제로 재정의한다.
• DP 보장을 갖는 유용성을 달성하는 프라이빗 최적화 알고리즘을 개발한다.
• KL-다이버전스로 특수화하여 DP-ERM 결과와 맞먹는 개선된 유용도 속도를 얻는다.
• 다양한 프라이버시 예산하에서 불균형한 데이터셋에 대해 제안된 방법을 경험적으로 검증한다.

제안 방법

• psi-다이버전스를 갖는 DP-DRO를 제약된 미니맥스 문제로 형식화하고 프라이멀–듀얼 표현을 도출하여 모델 매개변수과 듀얼 변수에 대한 무제한 최소화로 이끈다.
• DP Double-SPIDER를 도입한다. 이는 프라이멀과 듀얼 변수를 각각 Gaussian 잡음으로 업데이트하는 분산 감소 및 프라이버시 보장을 갖는 알고리즘이다.
• KL-다이버전스에 대해 특수화된 DP Recursive-Spider를 제공하여 문제를 구성합(합성합) 최적화로 재구성하고 재귀적 SPIDER 유사 추정기를 사용한다.
• 일반 psi-다이버전스에 대한 DP 보장 및 그래디언트 노름 기반 유용성 경계가 O(1/sqrt(n)) + O((sqrt(d log(1/delta))/(n epsilon))^{2/3})의 형태이고, KL-다이버전스의 경우 O((sqrt(d log(1/delta))/(n epsilon))^{2/3})이다.
• 다양한 프라이버시 예산에서 epsilon 값을 사용하여 CIFAR10, MNIST, CelebA, Fashion-MNIST의 불균형 버전에 대해 방법을 구현하고 비교한다.

Figure 1: Experimental Results: The performances of four algorithms on CIFAR10-ST, CelebA, Fashion-MNIST, MNIST-ST respectively

실험 결과

연구 질문

• RQ1 일반 psi-다이버전스와 비볼록 손실에 대해 DP-DRO를 어떻게 효율적으로 해결할 수 있을까?
• RQ2 프라이멀–듀얼 재구성이 DP-DRO를 위한 효과적인 프라이빗 최적화를 가능하게 할 수 있을까?
• RQ3 DP-DRO에서 프라이빗 SPIDER 기반 방법으로 어떤 그래디언트 노름 기준의 유용성 보장을 달성할 수 있을까?
• RQ4 KL-다이버전스로 특수화하면 DP-ERM에 상응하는 개선된 유용도 속도를 얻을 수 있을까?
• RQ5 다양한 프라이버시 예산하에서 불균형 데이터셋에서 제안된 방법이 기존 DP 미니맥스 baselines를 능가하는가?

주요 결과

• 일반 psi-다이버전스 하에서 DP Double-SPIDER는 그래디언트 노름 유용성 경계가 O(1/sqrt(n) + (sqrt(d log(1/delta))/(n epsilon))^{2/3})에 도달한다.
• KL-다이버전스에 대한 DP Recursive-Spider는 O((sqrt(d log(1/delta))/(n epsilon))^{2/3})의 정밀 경계를 얻어 비볼록 손실에 대해 알려진 DP-ERM 속도와 일치한다.
• 제안된 방법들은 DP 보장을 제공하고 실험에서 DP-SGDA 기준선에 비해 더 나은 안정성과 더 낮은 그래디언트 분산을 보인다.
• CIFAR10-ST, CelebA, Fashion-MNIST (및 MNIST-ST)에 대한 실험 결과는 프라이버시 예산 전반에 걸쳐 baselines에 비해 테스트 정확도가 일관되게 개선되었음을 보인다.
• 멤버십 추론 공격 결과는 DP Recursive-SPIDER가 모든 시험 예산에서 DP Double-SPIDER보다 더 강한 프라이버시 강건성을 제공함을 시사한다.

Figure 2: Test AUC Results: The performances of four algorithms on CIFAR10-ST, CelebA, Fashion-MNIST, MNIST-ST respectively