[논문 리뷰] New lower bounds on nonnegative rank using conic programming

Hamza Fawzi, Pablo A. Parrilo|arXiv (Cornell University)|2012. 10. 25.

Advanced Optimization Algorithms Research인용 수 6

한 줄 요약

이 논문은 비음수 행렬의 비음수 질량에 대한 새로운 하한을 제안하며, 구형 프로그래밍을 활용하여 비음수 제약 조건이 붙은 노름을 사용한다. 이 하한은 코페시티브 프로그래밍으로 표현되며, 준정형 프로그래밍을 통해 단순화되어, 희소성에 영향을 받지 않는 대안을 제공하며, 특정 행렬에 대해 기존 방법보다 뛰어난 성능을 보인다.

ABSTRACT

The nonnegative rank of an entrywise nonnegative matrix A of size mxn is the smallest integer r such that A can be written as A=UV where U is mxr and V is rxn and U and V are both nonnegative. The nonnegative rank arises in different areas such as combinatorial optimization and communication complexity. Computing this quantity is NP-hard in general and it is thus important to find efficient bounding techniques especially in the context of the aforementioned applications. In this paper we propose a new lower bound on the nonnegative rank which, unlike most existing lower bounds, does not explicitly rely on the matrix sparsity pattern and applies to nonnegative matrices with arbitrary support. The idea involves computing a certain nuclear norm with nonnegativity constraints which allows to lower bound the nonnegative rank, in the same way the standard nuclear norm gives lower bounds on the standard rank. Our lower bound is expressed as the solution of a copositive programming problem and can be relaxed to obtain polynomial-time computable lower bounds using semidefinite programming. We compare our lower bound with existing ones, and we show examples of matrices where our lower bound performs better than currently known ones.

연구 동기 및 목표

• 비음수 질량에 대한 새로운 하한을 개발하여, 행렬의 희소성 패턴에 의존하지 않도록 한다.
• 기존의 표준 핵심 노름 기반 질량 하한을 비음수 질량 설정으로 일반화하는 구형 프로그래밍 공식을 제공한다.
• 실제 계산을 위해 준정형 프로그래밍을 사용하여 다항식 시간 내에 계산 가능한 이완을 제공한다.
• 임의의 지원을 가진 테스트 행렬에서 기존 하한보다 향상된 성능을 보여준다.

제안 방법

• 비음수 요인 행렬에 대한 비음수 제약 조건이 붙은 핵심 노름 최소화 문제를 통해 비음수 질량 하한을 공식화한다.
• 해결된 최적화 문제를 코페시티브 프로그래밍 문제로 표현하여 비음수 질량에 대한 엄밀한 하한을 확보한다.
• 코페시티브 프로그래밍을 준정형 프로그래밍으로 이완하여 효율적이고 다항식 시간 내에 계산 가능한 형태로 만든다.
• 이완된 문제의 최적값을 비음수 질량에 대한 계산 가능한 하한으로 사용한다.
• 희소성 구조에 의존하지 않고 임의의 지원을 가진 행렬에 적용한다.
• 계산된 하한을 알려진 하한과 비교하여 성능을 평가한다.

실험 결과

연구 질문

• RQ1 구형 프로그래밍 접근법이 비음수 질량에 대한 더 낮은 하한을 제공할 수 있으며, 이는 행렬의 희소성에 영향을 받지 않는가?
• RQ2 제안된 코페시티브 공식화는 기존 하한과 비교해 엄밀함과 계산 가능성 측면에서 어떻게 다른가?
• RQ3 코페시티브 프로그래밍의 준정형 이완이 원래 하한의 엄밀함을 어느 정도 유지할 수 있는가?
• RQ4 희박하거나 임의의 지원을 가진 행렬에서 이 방법은 희소성 기반 하한보다 더 나은 성능을 보이는가?

주요 결과

• 제안된 하한은 비음수 제약 조건이 붙은 핵심 노름에서 유래하여, 기존의 표준 질량 하한을 비음수 질량 설정으로 일반화한다.
• 이 하한은 코페시티브 프로그래밍으로 표현되어 이론적으로 엄밀한 하한을 보장하지만, 직접 계산하기는 어렵다.
• 코페시티브 프로그래밍의 실용적인 준정형 이완을 통해 다항식 시간 내에 하한을 계산할 수 있다.
• 실험 결과, 특히 희소성 기반 하한이 실패하는 경우에, 임의의 지원을 가진 특정 행렬에서 기존 방법보다 새로운 하한이 뛰어난 성능을 보였다.