[论文解读] Adversarial Crowdsourcing Through Robust Rank-One Matrix Completion

Qianqian Ma, Alex Olshevsky|arXiv (Cornell University)|Oct 23, 2020

Mobile Crowdsensing and Crowdsourcing参考文献 33被引用 14

一句话总结

本文提出了一种鲁棒的秩一矩阵补全算法，结合交替最小化与极值过滤，从部分观测且任意损坏的条目中恢复秩一矩阵。该方法在Erdős-Rényi随机采样下具有可证明的最优性，并在某些工作者故意提供错误标签的对抗性众包环境中，显著优于最先进方法。

ABSTRACT

We consider the problem of reconstructing a rank-one matrix from a revealed subset of its entries when some of the revealed entries are corrupted with perturbations that are unknown and can be arbitrarily large. It is not known which revealed entries are corrupted. We propose a new algorithm combining alternating minimization with extreme-value filtering and provide sufficient and necessary conditions to recover the original rank-one matrix. In particular, we show that our proposed algorithm is optimal when the set of revealed entries is given by an Erdős-Rényi random graph. These results are then applied to the problem of classification from crowdsourced data under the assumption that while the majority of the workers are governed by the standard single-coin David-Skene model (i.e., they output the correct answer with a certain probability), some of the workers can deviate arbitrarily from this model. In particular, the "adversarial" workers could even make decisions designed to make the algorithm output an incorrect answer. Extensive experimental results show our algorithm for this problem, based on rank-one matrix completion with perturbations, outperforms all other state-of-the-art methods in such an adversarial scenario.

研究动机与目标

• 解决当部分观测条目被任意损坏且损坏位置未知时，重建秩一矩阵的挑战。
• 在随机采样条件下，开发一种可证明最优的鲁棒秩一矩阵补全算法，尤其在存在对抗性损坏时。
• 将该方法应用于众包分类，其中部分工作者可能恶意行为以破坏系统。
• 通过严格的理论分析与实验评估，在对抗性设置中超越现有最先进方法。

提出的方法

• 该算法使用交替最小化迭代估计秩一因子，并结合极值过滤识别并降低损坏条目的影响。
• 引入一种基于残差分布的过滤机制，以检测异常值，而无需事先知晓损坏位置。
• 理论分析建立了在Erdős-Rényi随机采样观测条目下，实现精确恢复的充分必要条件。
• 对符号模式判定问题应用两色彩色化变换，将其转化为在带辅助节点的修改图上的图着色任务。
• 利用从修改图导出的随机矩阵的特征向量，推断底层秩一矩阵的符号模式。
• 将该方法应用于Dawid-Skene众包模型，即使部分工作者为恶意，也能实现可靠分类。

实验结果

研究问题

• RQ1 当部分观测条目被任意损坏且损坏位置未知时，能否精确恢复秩一矩阵？
• RQ2 在何种采样条件下，所提算法在鲁棒秩一矩阵补全中具有可证明最优性？
• RQ3 在某些工作者故意提供错误标签的对抗性众包场景中，该方法表现如何？
• RQ4 尽管存在损坏观测，能否准确恢复底层秩一矩阵的符号模式？
• RQ5 交替最小化与极值过滤的结合是否在合成及真实世界的对抗性数据集中，均优于现有最先进方法？

主要发现

• 当损坏条目数量低于理论阈值时，所提算法在Erdős-Rényi随机采样下可实现对原始秩一矩阵的精确恢复。
• 该方法在可证明最优的意义上成立：在相同采样与损坏条件下，无其他算法可实现矩阵恢复。
• 大量实验表明，该算法在对抗性众包环境中优于全部12种最先进方法，尤其在损坏密集或有策略性分布时表现更优。
• 极值过滤步骤能有效识别并缓解任意大扰动的影响，且无需事先知晓损坏位置。
• 基于两色彩色化的符号模式恢复方法，即使在大量条目被损坏时，也能成功推断出正确的符号结构。
• 理论保证已建立于恢复与符号模式确定两方面，使用Azuma不等式与鞅集中不等式推导出高概率边界。