[논문 리뷰] Oracle Efficient Private Non-Convex Optimization

Seth Neel, Aaron Roth외 2명|arXiv (Cornell University)|2019. 09. 03.

Blockchain Technology Applications and Security인용 수 6

한 줄 요약

이 논문은 비볼록 문제를 위한 두 가지 오라클 효율적인 차분(private) 최적화 알고리즘을 제안하며, 이는 이전의 볼록성과 미분 가능성 조건을 초월한 목표 함수 편향 기법을 확장한다. 첫 번째 알고리즘은 손실 함수가 유한한 경우에만 정의되는 이산 도메인에서 작동하며, 두 번째 알고리즘은 리프시츠 연속성 조건을 만족하는 연속 도메인에서 작동한다. 두 알고리즘 모두 볼록성 가정 없이도 차분(private) 보장을 제공하며, 소규모 데이터 환경에서 볼록 대체 함수 방법보다 더 높은 정확도를 달성한다.

ABSTRACT

One of the most effective algorithms for differentially private learning and optimization is objective perturbation. This technique augments a given optimization problem (e.g. deriving from an ERM problem) with a random linear term, and then exactly solves it. However, to date, analyses of this approach crucially rely on the convexity and smoothness of the objective function, limiting its generality. We give two algorithms that extend this approach substantially. The first algorithm requires nothing except boundedness of the loss function, and operates over a discrete domain. Its privacy and accuracy guarantees hold even without assuming convexity. This gives an oracle-efficient optimization algorithm over arbitrary discrete domains that is comparable in its generality to the exponential mechanism. The second algorithm operates over a continuous domain and requires only that the loss function be bounded and Lipschitz in its continuous parameter. Its privacy analysis does not require convexity. Its accuracy analysis does require convexity, but does not require second order conditions like smoothness. Even without convexity, this algorithm can be generically used as an oracle-efficient optimization algorithm, with accuracy evaluated empirically. We complement our theoretical results with an empirical evaluation of the non-convex case, in which we use an integer program solver as our optimization oracle. We find that for the problem of learning linear classifiers, directly optimizing for 0/1 loss using our approach can out-perform the more standard approach of privately optimizing a convex-surrogate loss function on the Adult dataset.

연구 동기 및 목표

• 이전 방법들이 강력한 가정에 의존하는 것과는 달리, 차분(private) 최적화를 볼록성과 미분 가능성 조건을 초월한 목표 함수로 확장한다.
• 볼록성 또는 미분 가능성 조건 없이도 안정성과 정확도를 확보하는 이산 도메인을 위한 오라클 효율적인 알고리즘을 개발한다.
• 단지 리프시츠 연속성 조건만을 요구하는 연속 도메인 알고리즘을 설계하며, 이는 볼록성 조건 하에서 정확도를 확보하고, 이차 조건이 필요로 하지 않는다.
• 소규모 데이터 환경에서 0/1 손실의 직접적인 차분(private) 최적화가 사전 로지스틱 회귀보다 성능이 뛰어나다는 것을 실증적으로 검증한다.
• 실제 비밀 유지 학습에 적용 가능한 실용성을 입증하기 위해 정수 프로그래밍 오라클을 사용한다.

제안 방법

• 혼합정수계획법(MIP) 오라클을 사용해 정확하게 해결하는 이산 최적화 알고리즘인 OPDisc를 도입하며, 목표 함수에 무작위 선형 항을 추가해 편향을 적용한다.
• 각 가중치 좌표에 대해 이산 그리드를 사용하고, ℓ₂ 노름 제약 조건을 갖는 유한한 이산 매개변수 공간을 설정한다.
• 볼록성 없이도 유효한 민감도 및 랜덤 응답 기반의 새로운 개인정보 보호 분석 기법을 도입한다.
• 손실 함수의 매개변수에 대해 리프시츠 연속성 조건만을 요구하는 연속 도메인 변형을 제안하며, 개인정보 보호 분석은 볼록성과 독립적이다.
• 무작위 선형 항을 포함한 목표 함수 편향을 적용한 후, 연속 최적화 오라클을 통해 편향된 문제를 해결한다.
• Gurobi를 통해 해결 가능한 MIP 수식을 활용해 오라클을 구현하며, Adult 데이터셋에서 실용적인 구현을 가능하게 한다.

실험 결과

연구 질문

• RQ1 볼록성 또는 미분 가능성 조건 없이도 목표 함수 편향 기법을 손실 함수가 유한한 비볼록 문제로 확장할 수 있는가?
• RQ2 1-감도 조건만을 만족하는 이산 도메인에서 오라클 효율적이면서도 정확도를 확보하는 차분(private) 최적화 알고리즘이 존재하는가?
• RQ3 소규모 데이터 환경에서 0/1 손실의 직접적인 차분(private) 최적화가 볼록 대체 손실 함수의 차분(private) 최적화보다 성능이 뛰어나게 되는가?
• RQ4 연속 도메인에서 차분(private) 최적화 알고리즘이 볼록성 가정 없이도 개인정보 보호를 확보할 수 있는가?
• RQ5 실제 성능 측정에서 0/1 손실의 직접 최적화는 정확도와 실행 시간 측면에서 사전 로지스틱 회귀보다 어떻게 비교되는가?

주요 결과

• OPDisc는 저ε 값에서 특히 Adult 데이터셋에서 사전 로지스틱 회귀보다 유의미하게 높은 0/1 분류 정확도를 확보한다.
• OPDisc는 정확도와 분산 측면에서 RSPM을 모두 능가하며, 15회의 실험 전반에서 일관되게 낮은 오차를 기록한다.
• 이 방법은 볼록성 또는 미분 가능성 조건 없이도, 손실 함수의 유한성과 1-감도 조건에 기반해 개인정보 보호를 달성한다.
• 연속 도메인 알고리즘은 볼록성 가정 없이도 리프시츠 연속성 조건만으로도 개인정보 보호 보장을 제공한다.
• 실증 결과는 0/1 손실의 직접적인 차분(private) 최적화가 소규모 데이터 환경에서 표준 볼록 대체 접근 방식을 능가할 수 있음을 보여준다.
• 정수 프로그래밍으로 인해 실행 시간이 크게 변동하지만, 모든 경우에서 합리적인 시간 내에 성공적으로 해결되었다.