[论文解读] Jointly private convex programming

Justin Hsu, Zhiyi Huang+2 more|arXiv (Cornell University)|Jan 10, 2016

Auction Theory and Applications参考文献 32被引用 21

一句话总结

本文提出了一种用于求解具有私有代理数据的凸规划问题的差分隐私算法，其中解被分配到各个代理之间。通过利用差分隐私下的近似对偶变量，该方法实现了与变量数量无关的高精度，并支持近似主导策略的诚实机制，显著扩展了可私密且具有激励相容性的凸优化问题的范围。

ABSTRACT

We present a general method for approximately solving convex programs defined by private information from agents, when the solution can be naturally partitioned among the agents. This class of problems includes multi-commodity flow problems, general allocation problems, and multi-dimensional knapsack problems, among other examples. The accuracy of our algorithm depends on the number of coupling constraints, which bind multiple agents. On the other hand, our accuracy is nearly independent of the number of variables, and in many cases, actually improves as the number of agents increases. A special case of our result (solving general allocation problems beyond Gross Substitute preferences) resolves the main open problem from [Hsu et al. STOC 2014].We also consider strategic agents who have preferences over their part of the solution. For any convex program in our class that maximizes social welfare, we show how to create an approximately dominant strategy truthful mechanism, approximately maximizing welfare. The central idea is to charge agents prices based on the approximately optimal dual variables, which are themselves computed under differential privacy. Our results substantially broaden the class of problems that are known to be solvable under privacy and/or incentive constraints.

研究动机与目标

• 开发一种通用方法，用于近似求解涉及多个代理私有数据的凸规划问题。
• 解决在多代理优化环境中保持隐私的同时确保解的精度的挑战。
• 设计一种在隐私约束下用于福利最大化的凸规划问题的近似主导策略诚实机制。
• 扩展已知在隐私和激励相容性条件下可解的问题类别。
• 解决在广义分配问题中超出替代品偏好（Gross Substitute preferences）范围的机制设计中的开放问题。

提出的方法

• 该方法使用差分隐私来计算凸规划中耦合约束的近似对偶变量。
• 它将解在代理之间进行划分，每个代理的私有数据均对一组共享约束产生贡献。
• 该算法的精度取决于耦合约束的数量，而非变量或代理的数量。
• 它基于私有的对偶变量构建定价机制，以诱导战略型代理诚实报告。
• 该方法确保代理几乎没有动机虚报其私有数据，从而实现近似主导策略的诚实性。
• 该方法适用于广泛的问题类别，包括多商品流、多维背包问题以及一般分配问题。

实验结果

研究问题

• RQ1 如何在保持差分隐私和解的精度的同时求解涉及代理私有数据的凸规划问题？
• RQ2 能否在隐私约束下为福利最大化的凸规划问题设计一个诚实机制？
• RQ3 耦合约束的数量与私有解的精度之间有何关系？
• RQ4 代理数量如何影响私有凸规划中解的精度？
• RQ5 Hsu 等人（STOC 2014）提出的关于广义分配问题的开放问题是否能在隐私和激励约束下得到解决？

主要发现

• 该算法的精度取决于耦合约束的数量，而非变量或代理的数量。
• 随着代理数量的增加，精度反而改善或保持稳定，这与典型的扩展行为相反。
• 该方法解决了 Hsu 等人（STOC 2014）关于广义分配问题在超出替代品偏好范围下的主要开放问题。
• 通过使用差分隐私的对偶变量，构建了近似主导策略诚实机制。
• 该方法显著扩展了可采用私密且激励相容方法求解的问题类别。
• 该方法适用于广泛的问题，包括多商品流、多维背包问题以及一般分配问题。