[论文解读] Gradient Descent for Sparse Rank-One Matrix Completion for Crowd-Sourced Aggregation of Sparsely Interacting Workers

Yao Ma, Alexander Olshevsky+2 more|OpenBU/Boston University Institutional Repository (Boston University)|Apr 25, 2019

Mobile Crowdsensing and Crowdsourcing被引用 13

一句话总结

本文提出了一种投影梯度下降（PGD）算法，用于在单硬币Dawid-Skene模型下对稀疏秩一矩阵补全以估计众包中的工作者技能。结果表明，当工作者交互图中不存在二分连通分量时，技能估计具有可识别性并能实现全局收敛，在真实世界数据集上实现了最先进性能，且对稀疏性具有鲁棒性。

ABSTRACT

We consider worker skill estimation for the single-coin Dawid-Skene crowdsourcing model. In practice, skill-estimation is challenging because worker assignments are sparse and irregular due to the arbitrary and uncontrolled availability of workers. We formulate skill estimation as a rank-one correlation-matrix completion problem, where the observed components correspond to observed label correlations between workers. We show that the correlation matrix can be successfully recovered and skills are identifiable if and only if the sampling matrix (observed components) does not have a bipartite connected component. We then propose a projected gradient descent scheme and show that skill estimates converge to the desired global optima for such sampling matrices. Our proof is original and the results are surprising in light of the fact that even the weighted rank-one matrix factorization problem is NP-hard in general. Next, we derive sample complexity bounds in terms of spectral properties of the signless Laplacian of the sampling matrix. Our proposed scheme achieves state-of-art performance on a number of real-world datasets.

研究动机与目标

• 解决由于不可控的工作者可用性导致工作者-任务分配稀疏且不规则时，众包中工作者技能估计的挑战。
• 通过工作者-工作者标签相关性，将技能估计建模为加权最小二乘秩一矩阵补全问题。
• 利用谱图理论，建立技能估计可识别且全局收敛的条件。
• 开发一种计算高效且对稀疏和不规则的工作者交互具有鲁棒性的算法。
• 基于工作者交互图的无符号拉普拉斯矩阵的谱性质，提供理论上的样本复杂度边界。

提出的方法

• 将工作者技能估计表述为在工作者相关性矩阵上的加权最小二乘秩一矩阵补全问题。
• 使用投影梯度下降（PGD）优化低秩分解，投影操作确保技能估计的非负性和归一化。
• 采用一种指数梯度下降的变体（公式4）以在理论上实现更优收敛性，尽管在实验中性能与标准梯度下降相似。
• 将采样矩阵定义为工作者-任务分配模式，并证明当该矩阵不包含二分连通分量时，PGD可实现全局收敛。
• 基于工作者交互图的无符号拉普拉斯矩阵的谱间隙，推导出样本复杂度边界。
• 通过两步法将方法扩展至多分类问题：先进行技能估计，再执行最优加权多数投票。

实验结果

研究问题

• RQ1 在单硬币Dawid-Skene模型下，当工作者-任务分配稀疏时，工作者技能估计在何种条件下具有可识别性？
• RQ2 在稀疏且不规则的工作者交互下，投影梯度下降能否全局收敛至真实技能估计？
• RQ3 工作者交互图的谱特性如何影响技能估计的样本复杂度和收敛速度？
• RQ4 与IWMV和M3W等现有方法相比，所提出的PGD算法在稀疏性和噪声下的鲁棒性如何？
• RQ5 图稀疏化对真实世界众包数据集中技能估计算法性能有何影响？

主要发现

• 当且仅当采样矩阵（即工作者-任务分配模式）不包含二分连通分量时，技能估计可通过PGD实现可识别性和全局收敛。
• 所提出的PGD算法在真实世界二分类数据集（包括Web和RTE）上实现了最先进性能，即使在高稀疏性下亦表现优异。
• 该算法在图稀疏化下表现稳健，优于IWMV，后者因依赖多数投票在稀疏交互下失效。
• 样本复杂度边界以工作者交互图的无符号拉普拉斯矩阵的谱间隙为表达，将估计精度与图连通性联系起来。
• 实验结果表明，标准梯度下降与指数梯度变体（公式4）之间性能差异极小，但后者可保证理论收敛性。
• 每次迭代的时间复杂度为O(D_max * W)，其中D_max为最大工作者度数，使该方法在大规模稀疏众包场景下具备可扩展性。