[논문 리뷰] Sensing Matrix Optimization for Block-Sparse Decoding

Kevin Rosenblum, Lihi Zelnik‐Manor외 1명|arXiv (Cornell University)|2010. 09. 08.

Sparse and Compressive Sensing Techniques참고 문헌 16인용 수 10

한 줄 요약

이 논문은 블록 스퍼스 압축 측정에서 블록 스퍼스 구조를 활용하여 신호 복원 및 분류 성능을 향상시키기 위해 상등 사전의 블록 간 및 서브블록 간 인코herence의 가중합을 최소화하는 새로운 센싱 매트릭스 최적화 프레임워크를 제안한다. 가중 인코herence 최소화(WCM) 알고리즘은 서로서비스 함수와 닫힌 형태의 업데이트를 사용하여 국소 최적해로 반복 수렴하며, 무작위 또는 비블록-구조 센싱 매트릭스보다 블록-OMP 성능을 크게 향상시킨다.

ABSTRACT

Recent work has demonstrated that using a carefully designed sensing matrix rather than a random one, can improve the performance of compressed sensing. In particular, a well-designed sensing matrix can reduce the coherence between the atoms of the equivalent dictionary, and as a consequence, reduce the reconstruction error. In some applications, the signals of interest can be well approximated by a union of a small number of subspaces (e.g., face recognition and motion segmentation). This implies the existence of a dictionary which leads to block-sparse representations. In this work, we propose a framework for sensing matrix design that improves the ability of block-sparse approximation techniques to reconstruct and classify signals. This method is based on minimizing a weighted sum of the inter-block coherence and the sub-block coherence of the equivalent dictionary. Our experiments show that the proposed algorithm significantly improves signal recovery and classification ability of the Block-OMP algorithm compared to sensing matrix optimization methods that do not employ block structure.

연구 동기 및 목표

• 신호의 블록-스퍼스 구조를 활용하여 압축 측정에서 신호 복원 및 분류 성능을 향상시키기 위해.
• 등가 사전 내 블록 간 및 서브블록 간 인코herence를 최소화하는 센싱 매트릭스를 설계하기 위해.
• 비볼록 인코herence 최소화 문제의 국소 해로 수렴하는 효율적인 최적화 알고리즘을 개발하기 위해.
• 성능 향상에 있어 서브블록 간 인코herence 최소화가 블록 간 인코herence 최소화보다 더 중요하다는 것을 입증하기 위해.
• 블록 구조를 고려하지 않은 기존 센싱 매트릭스 설계 방식을 능가하는 프레임워크를 제공하기 위해.

제안 방법

• 센싱 매트릭스 설계를 위한 목적 함수로 블록 간 및 서브블록 간 인코herence의 가중합을 제안한다.
• 비볼록 목적 함수를 더 쉽게 최소화할 수 있는 서로서비스 함수로 대체하기 위해 유계 최적화 접근법을 사용한다.
• 각 반복 단계에서 서로서비스 함수를 최소화하기 위한 닫힌 형태의 해를 고유값 분해를 통해 유도한다.
• 현재 반복값에서 유도된 변형된 매트릭스의 상위 M개 고유벡터를 통해 센싱 매트릭스를 업데이트한다.
• 현재 반복값에서의 기울기가 동일하고 내림차순을 보장함으로써 수렴성을 확보한다.
• 특정 센싱 매트릭스 표현에 관계없이 그램 매트릭스가 그대로 유지되도록 유니타리 불변 공식을 활용한다.

실험 결과

연구 질문

• RQ1 블록 간 및 서브블록 간 인코herence를 동시에 최소화하도록 센싱 매트릭스를 최적화하면 블록-스퍼스 신호 복원 성능이 향상되는가?
• RQ2 블록-OMP 성능 향상에 있어 서브블록 간 인코herence 최소화가 블록 간 인코herence 최소화보다 더 큰 영향을 미치는가?
• RQ3 서로서비스 기반 최적화 방법은 비볼록 센싱 매트릭스 설계 문제를 수렴 보장과 함께 효율적으로 해결할 수 있는가?
• RQ4 제안된 WCM 방법은 무작위 또는 비블록-구조 센싱 매트릭스 설계 방식과 비교해 복원 정확도 및 분류 정확도에서 어떻게 성능을 냅니까?
• RQ5 제안된 프레임워크는 얼굴 인식이나 운동 세그멘테이션과 같은 실세계 블록-스퍼스 신호 응용에 일반화될 수 있는가?

주요 결과

• 제안된 WCM 알고리즘은 블록 구조를 忽시하는 센싱 매트릭스 설계 대비 블록-OMP의 신호 복원 및 분류 성능을 크게 향상시킨다.
• 서브블록 간 인코herence 최소화가 블록 간 인코herence 최소화보다 더 큰 성능 향상을 가져오며, 목적 함수에서 서브블록 항에 더 높은 가중치를 배정하는 것이 타당하다.
• 반복적인 WCM 알고리즘은 각 단계에서 기울기가 동일하고 서로서비스 함수가 지배하는 것으로 증명됨에 따라 원래의 비볼록 문제의 국소 최소값으로 수렴한다.
• 닫힌 형태의 업데이트 단계는 변형된 매트릭스의 고유값 분해에 기반하여 계산 효율성을 보장한다.
• 결과로 도출된 센싱 매트릭스는 거의 또는 완전히 정규직교 블록을 갖는 등가 사전을 생성하여 블록-스퍼스 근사 정확도를 향상시킨다.
• 시뮬레이션 결과는 WCM 최적화 센싱 매트릭스가 복원 오차와 분류 작업 모두에서 표준 무작위 또는 인코herence 최소화 매트릭스를 능가함을 확인한다.