[论文解读] A Note on Statistical Inference for Noisy Incomplete 1-Bit Matrix

Yunxiao Chen, Chengcheng Li+1 more|arXiv (Cornell University)|May 4, 2021

Sparse and Compressive Sensing Techniques参考文献 44被引用 4

一句话总结

本文提出了一种在非线性因子模型下针对1-bit矩阵补全的统计效率高且最优的方法，即使在存在缺失数据和二值观测的情况下，也能对矩阵和潜在因子的线性形式进行有效的推断。该方法通过达到Cramér-Rao下界实现了渐近效率，并支持超越随机抽样的灵活缺失设计。

ABSTRACT

We consider the statistical inference for noisy incomplete 1-bit matrix. Instead of observing a subset of real-valued entries of a matrix M, we only have one binary (1-bit) measurement for each entry in this subset, where the binary measurement follows a Bernoulli distribution whose success probability is determined by the value of the entry. Despite the importance of uncertainty quantification to matrix completion, most of the categorical matrix completion literature focus on point estimation and prediction. This paper moves one step further towards the statistical inference for 1-bit matrix completion. Under a popular nonlinear factor analysis model, we obtain a point estimator and derive its asymptotic distribution for any linear form of M and latent factor scores. Moreover, our analysis adopts a flexible missing-entry design that does not require a random sampling scheme as required by most of the existing asymptotic results for matrix completion. The proposed estimator is statistically efficient and optimal, in the sense that the Cramer-Rao lower bound is achieved asymptotically for the model parameters. Two applications are considered, including (1) linking two forms of an educational test and (2) linking the roll call voting records from multiple years in the United States senate. The first application enables the comparison between examinees who took different test forms, and the second application allows us to compare the liberal-conservativeness of senators who did not serve in the senate at the same time.

研究动机与目标

• 为解决1-bit矩阵补全中缺乏不确定性度量的问题，该领域通常仅关注点估计。
• 开发一种方法，使在非线性因子分析模型下，能够对矩阵和潜在因子得分的线性形式进行有效的统计推断。
• 放宽缺失数据机制中随机抽样的假设，允许更灵活且现实的缺失条目设计。
• 通过达到1-bit矩阵补全模型参数的Cramér-Rao下界，实现渐近效率。
• 支持实际应用，如链接不同形式的测试以及比较非重叠任期的参议员。

提出的方法

• 该方法采用非线性因子分析模型，将1-bit矩阵条目标记为基于潜在实值矩阵条目标的伯努利分布结果。
• 在非线性因子模型下，基于似然法构建矩阵和潜在因子得分线性形式的点估计量。
• 推导出估计量的渐近正态性，从而为矩阵和因子的线性组合提供有效的置信区间和假设检验。
• 该分析允许观测到的1-bit条目中存在非随机缺失，使其对各种现实世界的数据采集设计具有鲁棒性。
• 证明该估计量渐近达到Cramér-Rao下界，确认其统计最优性。
• 该框架被应用于两个实际问题：链接教育测试的不同形式，以及比较非重叠任期的美国参议院投票记录。

实验结果

研究问题

• RQ1 当仅有二值观测且条目缺失时，能否对1-bit矩阵补全进行有效的统计推断？
• RQ2 在一般缺失机制下，所提出的估计量是否能通过Cramér-Rao下界实现渐近效率？
• RQ3 该方法能否应用于实际问题，如链接不同形式的测试或比较非重叠任期的立法者？
• RQ4 与典型的i.i.d.抽样假设相比，该方法在非随机缺失数据设计下的表现如何？
• RQ5 在所提出的模型下，矩阵和潜在因子的线性形式的渐近分布是什么？

主要发现

• 所提出的矩阵和潜在因子得分线性形式的估计量渐近服从正态分布，从而支持有效推断。
• 该估计量渐近达到Cramér-Rao下界，确认其统计最优性和效率。
• 该方法不要求缺失条目的随机抽样，使实际应用中可实现灵活且现实的缺失机制。
• 该框架成功实现了不同教育测试形式的链接，使不同版本测试的应试者能够公平比较。
• 该方法支持对美国参议院投票记录进行跨时间比较，可评估非重叠参议员任期期间的意识形态立场。
• 通过两个实际应用验证了理论结果，展示了该方法的实际效用和鲁棒性。