[논문 리뷰] Uncertainty Quantification of MLE for Entity Ranking with Covariates

Jianqing Fan, Jikai Hou외 1명|arXiv (Cornell University)|2022. 12. 20.

Game Theory and Voting Systems인용 수 7

한 줄 요약

이 논문은 항목 공변량을 통합한 잠재 점수 구조 $\alpha_i^* + \mathbf{x}_i^\top\bm{\beta}^*$를 통해 Bradley-Terry-Luce (BTL) 모델을 확장한 공변량 보조 순위 추정(Covariate-Assisted Ranking Estimation, CARE) 모델을 제안한다. 최대우도추정기(MLE)에 대한 최적의 $\ell_2$ 및 $\ell_\infty$ 추정 속도를 확립하고, 불확실성 정량화를 위한 점근적 분포를 도출하여, 최소한의 표본 복잡도로 공변량 효과에 대한 통계적 추론을 가능하게 한다.

ABSTRACT

This paper concerns with statistical estimation and inference for the ranking problems based on pairwise comparisons with additional covariate information such as the attributes of the compared items. Despite extensive studies, few prior literatures investigate this problem under the more realistic setting where covariate information exists. To tackle this issue, we propose a novel model, Covariate-Assisted Ranking Estimation (CARE) model, that extends the well-known Bradley-Terry-Luce (BTL) model, by incorporating the covariate information. Specifically, instead of assuming every compared item has a fixed latent score $\{θ_i^*\}_{i=1}^n$, we assume the underlying scores are given by $\{α_i^*+{x}_i^ opβ^*\}_{i=1}^n$, where $α_i^*$ and ${x}_i^ opβ^*$ represent latent baseline and covariate score of the $i$-th item, respectively. We impose natural identifiability conditions and derive the $\ell_{\infty}$- and $\ell_2$-optimal rates for the maximum likelihood estimator of $\{α_i^*\}_{i=1}^{n}$ and $β^*$ under a sparse comparison graph, using a novel `leave-one-out' technique (Chen et al., 2019) . To conduct statistical inferences, we further derive asymptotic distributions for the MLE of $\{α_i^*\}_{i=1}^n$ and $β^*$ with minimal sample complexity. This allows us to answer the question whether some covariates have any explanation power for latent scores and to threshold some sparse parameters to improve the ranking performance. We improve the approximation method used in (Gao et al., 2021) for the BLT model and generalize it to the CARE model. Moreover, we validate our theoretical results through large-scale numerical studies and an application to the mutual fund stock holding dataset.

연구 동기 및 목표

• 실제 세계에서 흔한 항목 공변량을 포함하는 엔티티 순위 모델에 대한 통계적 추론 방법의 부족을 해결한다.
• 기본 점수와 공변량 기반 성분의 합으로서 잠재 점수를 모델링하는 새로운 모델인 공변량 보조 순위 추정(Covariate-Assisted Ranking Estimation, CARE)을 개발한다.
• 희박한 비교 그래프 하에서 최대우도추정기(MLE)의 본질적 점수 $\alpha_i^*$ 및 공변량 계수 $\bm{\beta}^*$에 대한 최적의 통계 수렴 속도를 확립한다.
• MLE에 대한 점근적 분포를 도출하여 공변량 효과에 대한 불확실성 정량화와 가설 검정을 가능하게 한다.
• 공변량이 잠재 점수의 변동성을 설명하는지 평가하고, 높은 순위 성능을 향상시키기 위해 희박한 매개변수를 임계값 처리할 수 있는 실용적인 추론 프레임워크를 제공한다.

제안 방법

• CARE 모델 제안: $\mathbb{P}(\text{항목 } i \text{가 } j \text{를 선호}) = \frac{e^{\alpha_i^* + \mathbf{x}_i^\top\bm{\beta}^*}}{e^{\alpha_i^* + \mathbf{x}_i^\top\bm{\beta}^*} + e^{\alpha_j^* + \mathbf{x}_j^\top\bm{\beta}^*}}$, 여기서 $\alpha_i^*$는 기본 점수이고 $\mathbf{x}_i^\top\bm{\beta}^*$는 공변량 효과이다.
• 유일한 추정을 보장하기 위해 식별성 제약 조건을 갖춘 제약 최대우도추정기(MLE) $\widehat{\bm{\theta}}_M = (\widehat{\bm{\alpha}}_M, \widehat{\bm{\beta}}_M)$를 사용한다.
• 희박한 Erdős-Rényi 비교 그래프 하에서 $\widehat{\bm{\alpha}}_M$ 및 $\widehat{\bm{\beta}}_M$에 대한 $\ell_2$ 및 $\ell_\infty$ 수렴 속도를 도출하기 위해 새로운 '이탈-일괄 기법'(Chen 등, 2019)을 적용한다.
• MLE의 점근적 정규성을 도출하여 $\bm{\beta}^*$ 및 $\alpha_i^*$에 대한 신뢰구간과 가설 검정을 가능하게 한다.
• Gao 등(2021)에서 제안한 BLT 모델의 근사 방법을 개선하고, 이를 CARE 모델로 일반화하여 고차원 설정에서의 추론 정확도를 향상시킨다.
• 수치 최적화의 수렴성과 안정성을 보장하기 위해 $\bm{\alpha}$에 대해 $\ell_2$ 정규화를 적용한 사영 그래디언트 강하법을 구현한다.

실험 결과

연구 질문

• RQ1 희박한 비교 그래프에서 공변량을 통합한 쌍별 비교 순위 매기기 모델에 대해 통계적으로 효율적이고 증명 가능한 추론 보장을 갖춘 모델을 설계할 수 있는가?
• RQ2 희박한 비교 그래프 하에서 CARE 모델의 MLE에 대한 최적의 $\ell_2$ 및 $\ell_\infty$ 추정 속도는 무엇인가?
• RQ3 기본 점수 $\alpha_i^*$ 및 공변량 계수 $\bm{\beta}^*$에 대한 MLE의 불확실성을 어떻게 정량화할 수 있는가?
• RQ4 공변량이 잠재 점수를 설명하는지 여부에 대한 유효한 가설 검정을 가능하게 하기 위해 MLE의 점근적 분포를 유도할 수 있는가?
• RQ5 CARE 모델에서 유효한 불확실성 정량화를 달성하기 위해 필요한 최소 표본 복잡도는 무엇인가?

주요 결과

• Erdős-Rényi 비교 그래프에서 간선 확률 $p$ 및 쌍당 비교 횟수 $L$ 하에서, MLE의 $\bm{\beta}^*$에 대한 $\ell_2$ 추정 오차 상한이 고확률적으로 $\left\|\widehat{\bm{\beta}}_M - \bm{\beta}^*\right\|_2 \lesssim \kappa_1 \sqrt{\frac{(d+1)\log n}{npL}}$임을 입증하였다.
• MLE의 $\alpha_i^*$는 $\ell_2$ 및 $\ell_\infty$ 속도로 $\widetilde{O}(\sqrt{\frac{1}{npL}})$를 달성하였으며, 이는 희박한 그래프 모델 하에서 최소 최대 최적 속도와 일치한다.
• MLE의 $\bm{\beta}^*$에 대한 점근적 정규성이 입증되어 개별 공변량 효과에 대한 신뢰구간과 가설 검정을 구축할 수 있다.
• 논문은 Gao 등(2021)에서 제안한 BLT 모델의 근사 방법을 개선하고 이를 CARE 모델로 일반화하여 고차원 설정에서의 추론 정확도를 향상시켰다.
• 수치 실험과 상호 펀드 주식 보유 데이터셋에 대한 응용을 통해 이론적 결과를 검증하였으며, 정확한 불확실성 정량화와 희박한 매개변수의 임계값 처리 이후 향상된 순위 성능을 보였다.
• 사영 그래디언트 강하법에 $\ell_2$ 정규화를 적용한 알고리즘이 신뢰성 있게 수렴하며, 실증 결과는 이론적 속도와 추론 품질을 확인해 주었다.