[논문 리뷰] As you like it: Localization via paired comparisons

Andrew K. Massimino, Mark A. Davenport|arXiv (Cornell University)|2018. 02. 19.

Distributed Sensor Networks and Detection Algorithms참고 문헌 43인용 수 6

한 줄 요약

이 논문은 랜드마크 점의 랜덤 모델 하에서 유클리드 공간 내 점의 국소화를 위해 이진 쌍 비교('x는 p보다 q보다 더 가깝다')를 사용하는 방법을 제안한다. 이론적으로 약 $ nR/\epsilon $개의 비교로 목표 벡터 $\mathbf{x}$를 오차 $\epsilon$ 이내로 추정할 수 있으며, 노이즈에 대해 안정적이며, 적응형 비교 쌍 선택으로 인해 상당한 성능 향상이 가능하다.

ABSTRACT

Suppose that we wish to estimate a vector $\mathbf{x}$ from a set of binary paired comparisons of the form "$\mathbf{x}$ is closer to $\mathbf{p}$ than to $\mathbf{q}$" for various choices of vectors $\mathbf{p}$ and $\mathbf{q}$. The problem of estimating $\mathbf{x}$ from this type of observation arises in a variety of contexts, including nonmetric multidimensional scaling, "unfolding," and ranking problems, often because it provides a powerful and flexible model of preference. We describe theoretical bounds for how well we can expect to estimate $\mathbf{x}$ under a randomized model for $\mathbf{p}$ and $\mathbf{q}$. We also present results for the case where the comparisons are noisy and subject to some degree of error. Additionally, we show that under a randomized model for $\mathbf{p}$ and $\mathbf{q}$, a suitable number of binary paired comparisons yield a stable embedding of the space of target vectors. Finally, we also show that we can achieve significant gains by adaptively changing the distribution for choosing $\mathbf{p}$ and $\mathbf{q}$.

연구 동기 및 목표

• 기타 알려진 랜드마크 점들로부터의 거리에 대한 이진 쌍 비교만을 사용하여 특성 공간 내 사용자의 이상점 $\mathbf{x}$를 추정하는 것.
• 랜드마크 점의 랜덤 모델 하에서 정확한 국소화를 위해 필요한 최소 비교 수를 결정하는 것.
• 실제 환경에서 노이즈 또는 오류가 있는 비교에 대한 강건성을 분석하는 것.
• 비적응형 샘플링에 비해 비교 쌍의 적응형 선택이 추정 정확도를 어떻게 향상시키는지 조사하는 것.
• 고차원 공간에서의 안정적 임bedding 및 국소화 정확도에 대한 이론적 보장을 수립하는 것.

제안 방법

• 사용자의 이상점 $\mathbf{x}$를 $\mathbb{R}^n$ 상의 점으로 모델링하고, 관측치로는 $\|\mathbf{x} - \mathbf{p}_i\| < \|\mathbf{x} - \mathbf{q}_i\|$ 형태의 이진 비교를 사용한다.
• 랜드마크 점 $\mathbf{p}_i, \mathbf{q}_i$가 분산 $\sigma^2$를 가진 구형 가우시안 분포에서 독립적으로 동일하게 분포된다고 가정하는 랜덤 모델을 사용한다.
• 비교 결과에서 유도된 제약 조건을 만족시키는 $\mathbf{x}$의 $\ell_2$-노름을 최소화하는 볼록 최적화 문제로 국소화 문제를 수립한다.
• 랜덤 모델 하에서 측도의 농도와 랜덤 행렬 이론을 사용하여 추정 오차에 대한 이론적 경계를 확립한다.
• 중간 추정치를 기반으로 비교 쌍의 분포를 재중심화하고 재스케일링하는 적응형 전략을 도입하여 정확도를 향상시킨다.
• 노이즈를 비교 과정에 주입함으로써 강건성을 평가한다 (가우시안, 로지스틱, 균일 및 적대적 오차), 그로 인한 추정 오차를 측정한다.

실험 결과

연구 질문

• RQ1 랜드마크 점에 대한 랜덤 모델 하에서 $\mathbf{x}$를 $\epsilon$-정확도 이내로 추정하기 위해 필요한 이진 쌍 비교의 수는 얼마인가?
• RQ2 추정 오차는 차원 $n$, 목표 노름 $R$, 그리고 원하는 정밀도 $\epsilon$에 따라 어떻게 변화하는가?
• RQ3 비교 데이터의 노이즈 또는 오류는 국소화 정확도에 어떤 영향을 미치는가?
• RQ4 비적응형 샘플링에 비해 비교 쌍의 적응형 선택이 추정 성능을 상당히 향상시킬 수 있는가?
• RQ5 비교 초평면으로 정의된 공간 내 $\mathbf{x}$의 임bedding의 이론적 안정성은 어떠한가?

주요 결과

• 랜덤 모델 하에서 $\widetilde{O}(nR/\epsilon)$개의 이진 쌍 비교로 $\mathbf{x}$를 오차 $\epsilon$ 이내로 추정하는 데 충분하며, 로그 인자 수준에서만 영향을 받는다.
• 이 방법은 거의 최적성을 확보한다. 균일한 오차 한계를 보장하는 데 있어 어떤 비교 체계도 $\Omega(nR/\epsilon)$개 이하의 비교로는 성능을 보장할 수 없다.
• 가우시안, 로지스틱, 그리고 균일한 사전 양자화 노이즈 등 다양한 노이즈 모델 하에서도 추정기는 안정적이고 강건하며, 노이즈 분산이 증가함에 따라 추정 오차가 부드럽게 증가한다.
• 충분한 비교가 가능할 경우, 중간 추정치를 기반으로 비교 쌍의 분포를 업데이트하는 적응형 비교 선택 전략은 비적응형 샘플링 대비 정확도를 지수적으로 향상시킨다.
• 고정된 유한한 수의 항목이 있는 경우에도, 예를 들어 거부 샘플링 또는 이진 스케일링을 통해 데이터 세트에서 적응형 선택을 수행하면 비적응형 샘플링보다 상당히 뛰어난 성능을 보이며, $\mathbb{R}^3$ 내 10,000개의 항목을 대상으로 한 실험에서 이를 입증하였다.
• 가장 멀리 떨어진 비교가 뒤집히는 적대적 환경에서도 이 방법은 합리적인 성능을 유지하지만, 손상된 비교의 수가 증가할수록 오차가 증가한다.