[논문 리뷰] Incorporating Prior Information in Compressive Online Robust Principal Component Analysis

Huynh Van Luong, Nikos Deligiannis외 3명|arXiv (Cornell University)|2017. 01. 24.

Sparse and Compressive Sensing Techniques참고 문헌 27인용 수 5

한 줄 요약

이 논문은 압축 측정값에서 이전 복원 결과의 사전 정보를 활용하여, 압축 측정값으로부터 비디오 프레임을 스파스(전경) 및 저질서수(배경) 성분으로 순차적으로 분리하는 압축 온라인 강건 PCA 방법을 제안한다. 이는 n-ℓ₁ 최소화와 증분 SVD를 통해 실현된다. 정적 또는 천천히 변화하는 배경 조건 하에서 성공적인 복원을 위한 측정값 수요에 대한 이론적 경계를 제공하며, 기존 방법들에 비해 뛰어난 성능을 달성한다.

ABSTRACT

We consider an online version of the robust Principle Component Analysis (PCA), which arises naturally in time-varying source separations such as video foreground-background separation. This paper proposes a compressive online robust PCA with prior information for recursively separating a sequences of frames into sparse and low-rank components from a small set of measurements. In contrast to conventional batch-based PCA, which processes all the frames directly, the proposed method processes measurements taken from each frame. Moreover, this method can efficiently incorporate multiple prior information, namely previous reconstructed frames, to improve the separation and thereafter, update the prior information for the next frame. We utilize multiple prior information by solving $n ext{-}\ell_{1}$ minimization for incorporating the previous sparse components and using incremental singular value decomposition ($\mathrm{SVD}$) for exploiting the previous low-rank components. We also establish theoretical bounds on the number of measurements required to guarantee successful separation under assumptions of static or slowly-changing low-rank components. Using numerical experiments, we evaluate our bounds and the performance of the proposed algorithm. In addition, we apply the proposed algorithm to online video foreground and background separation from compressive measurements. Experimental results show that the proposed method outperforms the existing methods.

연구 동기 및 목표

• 실시간 비디오 처리에서 배치 기반 강건 PCA의 한계를 해결하기 위해, 스파스 및 저질서수 성분을 순차적으로 압축 측정값을 기반으로 복원할 수 있도록 하는 것을 목표로 한다.
• 이전에 복원된 스파스 및 저질서수 성분과 같은 사전 정보를 온라인 복원 과정에 통합하여 정확도와 효율성을 향상시키는 것을 목표로 한다.
• 정적 또는 천천히 변화하는 저질서수 성분 조건 하에서 성공적인 분리에 필요한 압축 측정값 수에 대한 이론적 경계를 설정하는 것을 목표로 한다.
• 압축 측정값을 사용하여 한 프레임씩 처리할 수 있는 확장성 있고 온라인 알고리즘을 개발하는 것을 목표로 한다. 이는 대규모 비디오 응용 분야에 적합하다.

제안 방법

• 각 시간 단계에서 핵심 범수의 최소화와 ℓ₁-노름의 최소화를 동시에 고려하는 정규화된 최적화 문제를 해결한다. 이는 업데이트된 저질서수 행렬의 노름과 현재 스파스 성분의 ℓ₁-노름을 최소화하며, 압축 측정값을 만족시킨다.
• 이전 스파스 성분의 사전 지식을 통합하기 위해 n-ℓ₁ 최소화를 사용하여 복원 정확도를 향상시킨다.
• 완전한 재계산 없이도 이전 저질서수 성분을 효율적으로 업데이트하고 활용하기 위해 증분 특이값 분해(SVD)를 적용한다.
• 전체 프레임이 아닌 압축 측정값 Φ(xₜ + vₜ)을 처리함으로써 저장 및 계산 부담을 감소시킨다.
• 이론적 분석은 측정값 수의 고유한 복원을 보장하기 위한 경계를 유도하기 위해 가우시안 폭과 폴라 코너 개념을 사용한다.
• 수치 실험을 통해 검증하고, 압축 측정값으로부터 온라인 비디오 전경-배경 분리를 적용한다.

실험 결과

연구 질문

• RQ1 온라인 환경에서 스파스 및 저질서수 성분의 성공적인 분리에 필요한 최소 압축 측정값 수는 얼마인가?
• RQ2 이전 프레임의 사전 정보는 온라인 복원 과정에 어떻게 효과적으로 통합될 수 있는가? 이를 통해 복원 정확도를 향상시킬 수 있는가?
• RQ3 증분 SVD와 n-ℓ₁ 최소화를 결합하여 시간에 따라 변화하는 비디오 시퀀스에서 계산 효율성을 유지하면서도 강건성을 확보할 수 있는가?
• RQ4 기존의 압축 RPCA 및 온라인 PCA 방법들과 비교해 복원 품질과 측정 효율성 측면에서 제안된 방법은 어떠한가?

주요 결과

• 제안된 방법은 압축 측정값을 사용한 전경-배경 분리 작업에서 기존의 압축 온라인 RPCA 방법들보다 뛰어난 성능을 보였다.
• 가우시안 폭과 부분미분 기하학을 사용한 이론적 경계는 신호 구조와 관련된 임계값을 초과할 경우 높은 확률로 성공적인 복원을 보장한다.
• 특히 사전 정보를 효과적으로 활용할 경우, 작은 수의 압축 측정값으로도 안정적이고 정확한 복원을 달성할 수 있었다.
• 수치 실험을 통해 유도된 측정값 경계가 실제 복원 성능을 잘 예측하며 다양한 조건에서 타당함을 확인했다.
• 증분 SVD와 n-ℓ₁ 최소화의 활용은 낮은 계산 오버헤드로 실시간 처리를 가능하게 하여 스트리밍 비디오 응용 분야에 적합하다.