[論文レビュー] Gradient Descent for Sparse Rank-One Matrix Completion for Crowd-Sourced Aggregation of Sparsely Interacting Workers

Yao Ma, Alexander Olshevsky+2 more|OpenBU/Boston University Institutional Repository (Boston University)|Apr 25, 2019

Mobile Crowdsensing and Crowdsourcing被引用数 13

ひとこと要約

本稿では、単一コイン・ドゥイド・スケーヌモデルにおけるクラウドソーシングでの作業者スキル推定を目的として、スパースなランク1行列補完のためのプロジェクション勾配降下（PGD）アルゴリズムを提案する。スキル推定が同定可能であり、作業者相互作用グラフに二部グラフ成分が存在しない限り、グローバルに収束することが示され、スパarsityに強く、実世界のデータセットにおいて最先端の性能を達成する。

ABSTRACT

We consider worker skill estimation for the single-coin Dawid-Skene crowdsourcing model. In practice, skill-estimation is challenging because worker assignments are sparse and irregular due to the arbitrary and uncontrolled availability of workers. We formulate skill estimation as a rank-one correlation-matrix completion problem, where the observed components correspond to observed label correlations between workers. We show that the correlation matrix can be successfully recovered and skills are identifiable if and only if the sampling matrix (observed components) does not have a bipartite connected component. We then propose a projected gradient descent scheme and show that skill estimates converge to the desired global optima for such sampling matrices. Our proof is original and the results are surprising in light of the fact that even the weighted rank-one matrix factorization problem is NP-hard in general. Next, we derive sample complexity bounds in terms of spectral properties of the signless Laplacian of the sampling matrix. Our proposed scheme achieves state-of-art performance on a number of real-world datasets.

研究の動機と目的

• 作業者によるタスクへの割り当てが不規則かつスパースである（制御不能な作業者の利用可能性による）場合に、クラウドソーシングにおける作業者スキル推定の課題に対処すること。
• 作業者同士のラベル相関を用いて、重み付き最小二乗法によるランク1行列補完問題としてスキル推定をモデル化すること。
• スペクトルグラフ理論を用いて、スキル推定が同定可能であり、グローバルに収束する条件を確立すること。
• スパースかつ不規則な作業者相互作用に対しても良好に動作する、計算的に効率的で頑健なアルゴリズムを開発すること。
• 作業者相互作用グラフの符号なしラプラシアン行列のスペクトル特性に基づいた理論的サンプル複雑度の境界を提示すること。

提案手法

• 作業者相関行列上での重み付き最小二乗法によるランク1行列補完問題として、作業者スキル推定を定式化する。
• 低ランク因子分解を最適化するために、プロジェクション勾配降下（PGD）を用い、射影によりスケール推定値の非負性と正規化を保証する。
• 理論的収束性の向上を目的として、指数型勾配降下の変種（式4）を採用するが、実験的性能は標準勾配降下と類似している。
• サンプリング行列を、作業者-タスクの割り当てパターンとして定義し、この行列に二部グラフ成分が存在しない場合にPGDのグローバル収束性を証明する。
• 作業者相互作用グラフの符号なしラプラシアン行列のスペクトルギャップに基づいて、サンプル複雑度の境界を導出する。
• 2段階の手法（スキル推定 → 最適重み付き多数決投票）を用いて、多クラス問題へと拡張する。

実験結果

リサーチクエスチョン

• RQ1 スパースな作業者-タスク割り当てを持つ単一コイン・ドゥイド・スケーヌモデルにおいて、作業者スキル推定はどのような条件下で同定可能か？
• RQ2 スパースかつ不規則な作業者相互作用が存在する状況下でも、プロジェクション勾配降下（PGD）は真のスキル推定値にグローバルに収束可能か？
• RQ3 作業者相互作用グラフのスペクトル的性質は、スキル推定のサンプル複雑度と収束速度にどのように影響を与えるか？
• RQ4 IWMV や M3W といった既存手法と比較して、提案手法のPGDアルゴリズムはスパarsityおよびノイズに対してどれほど頑健か？
• RQ5 グラフのスパース化は、実世界のクラウドソーシングデータセットにおけるスキル推定アルゴリズムの性能にどのような影響を与えるか？

主な発見

• サンプリング行列（作業者-タスク割り当てパターン）に二部グラフ成分が存在しない限り、スキル推定はPGDによって同定可能かつグローバルに収束する。
• 提案されたPGDアルゴリズムは、Web や RTE を含む実世界の二値分類データセットにおいて、高いスパarsity下でも最先端の性能を達成する。
• グラフのスパース化に対しても、性能が滑らかに劣化する。IWMV は多数決に依存するため、スパースな相互作用下では失敗するのに対し、本手法は優れた性能を維持する。
• 作業者相互作用グラフの符号なしラプラシアン行列のスペクトルギャップに基づいて、サンプル複雑度の境界を導出する。推定精度とグラフの接続性を結びつける。
• 実験的結果では、標準勾配降下と指数型勾配降下の変種（式4）との間で性能差は最小限にとどまるが、後者は理論的収束保証を保証する。
• 1イテレーションあたりの時間計算量は O(D_max * W) であり、D_max は最大作業者次数を表す。このため、大規模なスパースなクラウドソーシングにスケーラブルである。