[논문 리뷰] Statistical Inferences of Linear Forms for Noisy Matrix Completion

Dong Xia, Ming Yuan|arXiv (Cornell University)|2019. 08. 31.

Sparse and Compressive Sensing Techniques참고 문헌 35인용 수 13

한 줄 요약

이 논문은 노이즈가 있는 불완전한 관측치에서 낮은 질서의 행렬의 선형 형식에 대한 통계적 추론을 위한 일반적인 프레임워크를 제안한다. 이중 샘플 비편향화와 낮은 질서의 투영을 조합함으로써, 미묘한 정규 조건 하에서 점점 정규 분포를 따르는 추정량을 구성하며, 이는 관측된 행렬의 일부 항목에 대해서만 노이즈가 첨가된 경우에도 유효한 신뢰구간과 가설 검정을 가능하게 한다.

ABSTRACT

We introduce a flexible framework for making inferences about general linear forms of a large matrix based on noisy observations of a subset of its entries. In particular, under mild regularity conditions, we develop a universal procedure to construct asymptotically normal estimators of its linear forms through double-sample debiasing and low-rank projection whenever an entry-wise consistent estimator of the matrix is available. These estimators allow us to subsequently construct confidence intervals for and test hypotheses about the linear forms. Our proposal was motivated by a careful perturbation analysis of the empirical singular spaces under the noisy matrix completion model which might be of independent interest. The practical merits of our proposed inference procedure are demonstrated on both simulated and real-world data examples.

연구 동기 및 목표

• 관측된 행렬의 일부 항목에 노이즈가 첨가된 경우, 큰 낮은 질서의 행렬의 선형 형식에 대한 일반적인 통계적 추론 방법을 개발하는 것.
• 행렬 수준의 추정을 초월하여 개별 항목이나 선형 함수형에 대한 추론 도구의 부족을 해결하는 것, 특히 노이즈가 있는 행렬 완성에서의 경우.
• 최소한의 가정 하에서 선형 형식의 추정량의 점점 정규 분포를 확립함으로써, 신뢰구간과 가설 검정을 가능하게 하는 것.
• 모델에 특화된 조정 없이도 어떤 항목별 일致 추정량이라도 적용 가능한 이론적으로 타당하고 계산적으로 실현 가능한 절차를 제공하는 것.

제안 방법

• 이 방법은 행렬의 초기 항목별 일치 추정량으로부터 오차를 제거하기 위해 이중 샘플 비편향화 전략을 사용한다.
• 비편향화된 추정량을 추정된 낮은 질서의 부분공간에 투영하여 선형 형식의 추정에서 안정성과 일致성을 확보한다.
• 이 프레임워크는 노이즈가 있는 행렬 완성 모델 하에서 경험적 특이 공간의 변화 분석에 기반하며, 이는 점점 정규 분포를 유도하는 데 핵심적인 역할을 한다.
• 유계 비일관성과 서브가우시안 노이즈를 포함한 미묘한 정규 조건 하에서 이론적 보장을 도출한다.
• 이 절차는 어떤 일치 추정량에도 적용 가능한 일반성과 적용 가능성을 지닌다. 예를 들어, 핵노름 펜alties를 사용하거나 행렬 분해 기반의 추정량 등.
• 스펙트럼 노름의 투영 연산자 변화에 대한 경계를 활용한 추정량의 급수 전개를 통해 점점 정규 분포를 확립한다.

실험 결과

연구 질문

• RQ1 관측된 행렬의 일부 항목에 노이즈가 첨가된 경우, 낮은 질서의 행렬의 선형 형식에 대해 점점 정규 분포를 따르는 추정량을 구성할 수 있는가?
• RQ2 제안된 비편향화 및 낮은 질서의 투영 절차가 선형 함수형에 대해 유효한 추론을 제공하기 위한 조건는 무엇인가?
• RQ3 개별 항목의 신뢰구간에 대해 커버리지 정확도와 구간 너비 측면에서 기존 방법과 비교해 본다면, 제안된 방법은 어떠한가?
• RQ4 이 프레임워크는 모델에 특화된 조정 없이도 다양한 일치 추정량에 일반적으로 적용될 수 있는가?

주요 결과

• 제안된 행렬의 선형 형식에 대한 추정량은 미묘한 정규 조건 하에서 점점 정규 분포를 따르며, 이는 유효한 신뢰구간과 가설 검정을 가능하게 한다.
• 이 방법은 행렬이 부분적으로 관측되고 서브가우시안 노이즈에 의해 오염된 경우에도 점점 정규 분포를 달성한다.
• 이 추정량의 수렴 속도는 동일한 조건 하에서 행렬 프로베누스 노름 추정의 최적 속도와 일치한다.
• 경험적 특이 공간의 변화 분석은 핵심적인 이론적 기초를 제공하며, 무작위 행렬 이론 분야에서 별도의 관심을 끌 수 있다.
• 이 프레임워크는 강건하고 일반적이며, 핵노름 및 행렬 분해 기반 방법을 포함한 어떤 항목별 일치 추정량에도 적용 가능하다.
• 시뮬레이션 및 실세계 데이터를 통한 실험 결과는 제안된 방법을 통해 구성된 신뢰구간의 실용성과 정확성을 확인한다.