[논문 리뷰] Self-scaled bounds for atomic cone ranks: applications to nonnegative rank and cp-rank

Hamza Fawzi, Pablo A. Parrilo|DSpace@MIT (Massachusetts Institute of Technology)|2014. 04. 11.

Mathematical Inequalities and Applications인용 수 3

한 줄 요약

이 논문은 비음수 질량과 cp-질량에 대한 더 낮은 경계를 유도하기 위해, 다항식 제약 조건을 가진 정수형 프로그래밍과 다항식 제약 조건을 가진 정수형 프로그래밍을 사용하는 새로운 자기 스케일링 원자 노름 프레임워크를 제안한다. 이 방법은 스케일링에 대해 불변이며, 기존의 노름 기반 경계를 개선하고, 가환성 및 대각선 스케일링 불변성과 같은 구조적 성질을 유지한다.

ABSTRACT

The nonnegative rank of a matrix A is the smallest integer r such that A can be written as the sum of r rank-one nonnegative matrices. The nonnegative rank has received a lot of attention recently due to its application in optimization, probability and communication complexity. In this paper we study a class of atomic rank functions defined on a convex cone which generalize several notions of "positive" ranks such as nonnegative rank or cp-rank (for completely positive matrices). The main contribution of the paper is a new method to obtain lower bounds for such ranks which improve on previously known bounds. Additionally the bounds we propose can be computed by semidefinite programming. The idea of the lower bound relies on an atomic norm approach where the atoms are self-scaled according to the vector (or matrix, in the case of nonnegative rank) of interest. This results in a lower bound that is invariant under scaling and that is at least as good as other existing norm-based bounds. We mainly focus our attention on the two important cases of nonnegative rank and cp-rank where our bounds satisfying interesting properties: For the nonnegative rank we show that our lower bound can be interpreted as a non-combinatorial version of the fractional rectangle cover number, while the sum-of-squares relaxation is closely related to the Lovász theta number of the rectangle graph of the matrix. We also prove that the lower bound inherits many of the structural properties satisfied by the nonnegative rank such as invariance under diagonal scaling, subadditivity, etc. We also apply our method to obtain lower bounds on the cp-rank for completely positive matrices. In this case we prove that our lower bound is always greater than or equal the plain rank lower bound, and we show that it has interesting connections with combinatorial lower bounds based on edge-clique cover number.

연구 동기 및 목표

• 비음수 질량과 cp-질량과 같은 원자 질량 함수에 대해 더 낮은 경계를 더 강력하고 확장 가능한 방식으로 개발하기 위해.
• 최적화, 통신 복잡성, 통계에서 핵심적인 양인 비음수 질량에 대한 효과적인 하한을 계산하는 데 도전하는 데에.
• 자기 스케일링 원자 노름 프레임워크를 통해 기존의 노름 기반 및 조합론적 경계를 통합하고 일반화하기 위해.
• 이 경계들이 다항식 제약 조건을 가진 정수형 프로그래밍을 통해 계산 가능하도록 보장하기 위해.
• 새로운 하한에 대해 대각선 스케일링에 대한 불변성과 가환성과 같은 이론적 성질을 수립하기 위해.

제안 방법

• 입력 행렬 또는 벡터에 따라 원자들이 스케일링되는 자기 스케일링 원자 노름 접근법을 제안하여 스케일링 변환에 대해 불변성을 확보한다.
• 원자 노름 기반 하한 함수 τ₊(A)를 정의하며, 이는 비음수 랭크-일차 행렬의 볼록 조합에 대해 최소화된다.
• 비볼록 원자 질량 최소화 문제를 다룰 수 있는 정수형 프로그래밍으로 변환하기 위해 다항식 제약 조건(SOS)을 사용한다.
• 블록 구조를 가진 정부정행렬 제약 조건을 통해 자기 스케일링 경계를 포괄하는 SDP 근사 τ₊^sos(A)를 유도한다.
• 블록 대각선 행렬의 구조를 활용하여 직접 합 연산에서의 가환성과 가환성을 증명한다.
• 그래프 이론적 해석을 통해 다항식 제약 조건을 사용한 근사가 기존의 조합론적 경계, 예를 들어 Lovász ϑ-수와 분수형 직사각형 커버 수와 연결됨을 밝힌다.

실험 결과

연구 질문

• RQ1 자기 스케일링 원자 노름 프레임워크는 기존의 노름 기반 방법보다 더 낮고 더 불변적인 비음수 질량 경계를 도출할 수 있는가?
• RQ2 제안된 경계는 분수형 직사각형 커버 수와 같은 조합론적 하한 경계와 어떻게 관련이 있는가?
• RQ3 새로운 경계가 가환성 및 대각선 스케일링 불변성과 같은 구조적 성질을 어느 정도 상속하는가?
• RQ4 원자 노름의 다항식 제약 조건 근사는 효율적으로 계산될 수 있으며, 기존의 알려진 SDP 근사와 동일한가?
• RQ5 행렬의 직사각형 그래프의 맥락에서 새로운 경계와 Lovász ϑ-수 사이의 관계는 무엇인가?

주요 결과

• 제안된 자기 스케일링 경계 τ₊(A)는 비음수 질량에 대해 다른 노름 기반 하한 경계보다 항상 크거나 같다.
• 경계 τ₊(A)는 행렬 A에 대한 대각선 스케일링에 대해 불변이며, 행과 열이 양의 가중치로 스케일링되더라도 값이 유지된다.
• 다항식 제약 조건 근사 τ₊^sos(A)는 A의 직사각형 그래프의 Lovász ϑ-수와 동일하다는 것이 입증되었으며, 잘 알려진 조합론적 하한과 연결된다.
• 비음수 질량의 경우, 경계 τ₊(A)는 분수형 직사각형 커버 수의 비조합론적 변형으로 해석될 수 있다.
• 경계 τ₊(A)는 가환성: τ₊(A ⊕ B) = τ₊(A) + τ₊(B)이며, 동일한 성질이 SOS 근사 τ₊^sos에 대해서도 성립한다.
• cp-질량의 경우, 경계 τ₊(A)는 항상 순수 질량보다 크거나 같으며, 행렬의 지지 그래프의 간선 클리크 커버 수와 관련이 있다.