[论文解读] Price of Transparency in Strategic Machine Learning

Emrah Akyol, Cédric Langbort+1 more|arXiv (Cornell University)|Oct 26, 2016

Auction Theory and Applications被引用 10

一句话总结

本文引入了透明度成本（PoT）作为度量指标，用于量化当算法透明时，机器学习设计者因策略性数据提供方操纵输入而导致的性能损失。通过建立策略性数据提供方与分类器设计者之间的Stackelberg博弈模型，推导出PoT的解析表达式，表明由于策略性数据操纵，透明性可能显著降低分类性能，尤其是在偏差变量与来源变量相关时。

ABSTRACT

Based on the observation that the transparency of an algorithm comes with a cost for the algorithm designer when the users (data providers) are strategic, this paper studies the impact of strategic intent of the users on the design and performance of transparent ML algorithms. We quantitatively study the {\bf price of transparency} in the context of strategic classification algorithms, by modeling the problem as a nonzero-sum game between the users and the algorithm designer. The cost of having a transparent algorithm is measured by a quantity, named here as price of transparency which is the ratio of the designer cost at the Stackelberg equilibrium, when the algorithm is transparent (which allows users to be strategic) to that of the setting where the algorithm is not transparent.

研究动机与目标

• 量化当算法透明时，机器学习设计者因策略性数据提供方操纵输入而面临的表现退化。
• 将策略性数据提供方与机器学习设计者之间的互动建模为完全信息下的非合作Stackelberg博弈。
• 定义并计算透明度成本（PoT），即透明状态下设计者成本（Stackelberg均衡）与非策略性基准成本的比值。
• 分析PoT如何依赖于来源变量与偏差变量的联合统计特性，以及分类区域的数量。
• 在最小均方误差估计与量化理论的基础上，推导出双方在透明条件下的最优策略的解析表达式。

提出的方法

• 将策略性分类问题建模为Stackelberg博弈：数据提供方（领导者）选择策略 g(X, Θ) 以偏置输入，分类器设计者（跟随者）选择 h(Y) 以最小化均方误差（MSE）。
• 假设来源 X 与偏差 Θ 联合高斯分布，已知相关系数 ρ 及方差 σ²_X 与 σ²_Θ。
• 推导出最优数据提供方策略 g*(X, Θ) = X + αΘ，其中 α 由博弈的均衡条件导出。
• 推导出最优分类器 h*(Y) 为两阶段过程：首先进行 MMSE 估计 X̂(Y) = E[X|Y]，然后进行最优最近邻量化 QNN( X̂(Y))。
• 计算透明度成本（PoT）为 PoT = [DR(σ²_X) + D(k)_Q(σ²_ X̂)] / D(k)_Q(σ²_X)，其中 DR 为估计失真，D(k)_Q 为量化误差。
• 利用向量量化与估计理论的结果，刻画 σ²_ X̂ 及在策略性输入下的失真。

实验结果

研究问题

• RQ1 当数据提供方具有策略性时，算法透明性如何影响机器学习分类器的性能？
• RQ2 在透明的机器学习系统中，策略性数据提供方的最优策略具有何种解析形式？
• RQ3 透明度成本（PoT）如何依赖于真实数据与提供方引入偏差之间的相关性？
• RQ4 分类区域数量（k）对透明性导致的性能退化有何影响？
• RQ5 在具有策略性数据操纵的联合高斯模型中，是否可以对透明性的性能成本进行解析量化？

主要发现

• 透明度成本（PoT）被解析表征为 PoT = [DR(σ²_X) + D(k)_Q(σ²_ X̂)] / D(k)_Q(σ²_X)，其中 DR 为最小均方误差估计的失真，D(k)_Q 为量化误差。
• 最优数据提供方策略为 g*(X, Θ) = X + αΘ，其中 α = [−1 + √(1 + 4(r + ρ))]/[2(r + ρ)]，表明偏差与提供方的策略变量呈线性关系。
• 最优分类器为 h*(Y) = QNN( X̂(Y))，其中 X̂(Y) = E[X|Y] 为在给定偏置输入 Y 下对 X 的 MMSE 估计。
• PoT 随来源 X 与偏差 Θ 之间的相关系数 ρ 增大而增加，表明更强的策略激励会导致更大的性能退化。
• 当 ρ > 0 时，PoT 严格大于 1，证实即使在无显式用户成本的情况下，透明性仍会对设计者造成可测量的性能损失。
• 性能退化由两部分驱动：估计失真（DR）与量化误差（D(k)_Q），两者在策略性输入下均会增加。