[논문 리뷰] A generalization of some random variables involving in certain compressive sensing problems

Romeo Meštrović|arXiv (Cornell University)|2018. 06. 26.

Sparse and Compressive Sensing Techniques참고 문헌 17인용 수 4

한 줄 요약

이 논문은 압축 측정(compressive sensing)에서 사용되는 이산 복소수 랜덤 변수를 일반화하며, N개 원소로 구성된 다중집합에서 m개의 요소를 추출할 때 그 기대값과 분산에 대한 정확한 표현식을 유도한다. 주요 기여는 이러한 모멘트를 행렬의 성질—프로베니우스 노름, 일관성(coherence), 특이값, 웰치 경계(Welch bound)—와 연결함으로써, 압축 측정에서 측정 행렬을 분석하기 위한 이론적 도구를 제공하는 데 있다.

ABSTRACT

In this paper we give a generalization of the discrete complex-valued random variable defined and investigated in \cite{ssa} and \cite{m8}. We prove the statements concerning the expressions for the excepted value and the variance of this random variable. In partucular, such a random variable here is defined for each of $m$ rows of any $m imes N$ complex or real matrix ${ m{\bf A}}$ with $1\le m\le N$. We consider the arithmetic mean $\bar{X}(m)$ of these $m$ random variables and we deduce the expressions for the expected value $\Bbb E[\bar{X}(m)]$ and the variance ${ m{ Var}}[\bar{X}(m)]$ of $\bar{X}(m)$. Using the expression for ${ m{ Var}}[\bar{X}(m)]$, we establish some equalities and inequalities involving ${ m{Var}}[\bar{X}(m)]$, the Frobenius norm, the largest eigenvalue, the largest singular value and the coherence of a matrix ${ m{\bf A}}$. It is showed that some of these estimates are closely related to the Welch bound of the coherence of a $m imes N$ complex or real matrix ${ m{\bf A}}$ with $1\le m\le N$. Taking into account that the value of coherence of the measurement matrix in the theory of compressive sensing has a significant role, we believe that our results should be useful for some topics of this theory.

연구 동기 및 목표

• 압축 측정에서 사용되는 임의의 m행 부분행렬에 대해 m×N 행렬의 m행 부분행렬에 사용되는 이산 복소수 랜덤 변수를 일반화하기 위해.
• 복소수의 다중집합에서 무작위로 선택된 m개의 요소 합에 대한 기대값과 분산에 대한 정확한 해석적 표현식을 도출하기 위해.
• 표본 평균의 분산을 기본 행렬 노름과 일관성, 특히 웰치 경계와 연결하기 위해.
• 압축 측정에서 측정 행렬의 성능을 확률적 모멘트를 통해 평가하기 위한 이론적 도구를 제공하기 위해.

제안 방법

• 다중집합 Φ_N의 N개의 복소수 요소들 중에서 균일하게 무작위로, 다시 넣지 않고 선택된 m개의 요소 합으로 정의된 이산 복소수 랜덤 변수 X(m,Φ_N)를 정의한다.
• 대칭성과 초기하학적 수세기(counting)를 활용하여, 조합적 수세기 기반으로 기대값 E[X(m,Φ_N)] = (m/N)∑z_i 를 도출한다.
• 모든 m-부분집합에서 |z_i|² 및 z_i z̄_j 항의 발생 빈도를 세어, 이중 이항 항등식을 적용하여 두 번째 모멘트 E[|X(m,Φ_N)|²]를 계산한다.
• Var[X] = E[|X|²] − |E[X]|² 항등식을 사용하여 분산 Var[X(m,Φ_N)]을 도출하며, ∑|z_i|² 및 |∑z_i|² 에 대한 닫힌 형태의 표현식을 얻는다.
• 정규화된 표본 평균 X̄(m,Φ_N) = X(m,Φ_N)/m 을 도입하고, 그 기대값과 분산을 유도하여 평균 안정성 분석을 수행한다.
• 분산 표현식을 행렬 노름—프로베니우스 노름, 최대 특이값, 고유값, 일관성—과 연결하며, 특히 웰치 경계와의 연관성을 강조한다.

실험 결과

연구 질문

• RQ1 복소수 다중집합에서 무작위로 선택된 m개의 요소 합에 대한 기대값과 분산은 닫힌 형태로 어떻게 표현할 수 있는가?
• RQ2 압축 측정에서 측정 행렬의 일관성과 표본 평균의 분산 사이에는 어떤 관계가 있는가?
• RQ3 유도된 분산 표현식은 행렬 일관성에 대한 알려진 경계인 웰치 경계와 어떻게 관련이 있는가?
• RQ4 표본 평균의 분산은 프로베니우스 노름과 스펙트럼 성질과 같은 기본 행렬 노름으로 표현될 수 있는가?
• RQ5 다중집합의 구조와 다시 넣지 않고 추출하는 방식이, 압축 측정 맥락에서 합의 분포적 성질을 어떻게 형성하는가?

주요 결과

• 합 X(m,Φ_N)의 기대값은 정확히 E[X(m,Φ_N)] = (m/N)∑_{i=1}^N z_i 로 표현되며, 표본 크기 m에 대해 선형 스케일링을 보인다.
• X(m,Φ_N)의 분산은 Var[X(m,Φ_N)] = [m(N−m)/(N²(N−1))]·(N∑|z_i|² − |∑z_i|²) 로 주어지며, 이는 요소들의 산재 정도에 따라 달라진다.
• 이 분산은 Var[X(m,Φ_N)] = [m(N−m)/(N²(N−1))]·∑_{1≤i<k≤N} |z_i − z_k|² 로도 표현될 수 있으며, 이는 쌍별 차이와 연결된다.
• 정규화된 표본 평균 X̄(m,Φ_N)의 분산은 Var[X̄(m,Φ_N)] = [(N−m)/(mN²(N−1))]·(N∑|z_i|² − |∑z_i|²) 로 주어지며, 이는 m이 클수록 분산이 감소함을 보여준다.
• 유도된 분산 표현식은 행렬 A의 일관성과 직접적으로 관련되어 있으며, 등호 조건은 웰치 경계와 연결된다.
• 결과적으로, 표본 평균의 분산이 프로베니우스 노름, 최대 특이값, 행렬 A의 일관성과 연결되는 부등식과 등식을 수립하며, 이는 압축 측정 응용 분야에서 이론적 경계를 제공한다.