[논문 리뷰] On Restricted Nonnegative Matrix Factorization

Dmitry Chistikov, Stefan Kiefer외 3명|arXiv (Cornell University)|2016. 05. 23.

Matrix Theory and Algorithms참고 문헌 2인용 수 3

한 줄 요약

이 논문은 제한된 비음수 행렬 분해(RNMF)와 확률적 오토마타 사이의 깊은 연결 고리를 확립하며, 1971년 파즈가 제기한 열린 문제를 해결한다. 즉, 최소 커버링 확률적 오토마타가 항상 유리수 전이 확률을 갖는 것은 아니라는 것을 보여주며, 낮은 유리수 질량을 가진 행렬일지라도 최소 RNMF 요소에서 무리수 성분을 필요로 할 수 있음을 입증한다. 주요 결과는 1974년에 제기된 오랫동안 유효해온 주장이 잘못되었음을 밝히며, 이는 유리수 행렬이 최소 RNMF에서 무리수 성분을 가질 수 있음을 보여준다.

ABSTRACT

Nonnegative matrix factorization (NMF) is the problem of decomposing a given nonnegative $n imes m$ matrix $M$ into a product of a nonnegative $n imes d$ matrix $W$ and a nonnegative $d imes m$ matrix $H$. Restricted NMF requires in addition that the column spaces of $M$ and $W$ coincide. Finding the minimal inner dimension $d$ is known to be NP-hard, both for NMF and restricted NMF. We show that restricted NMF is closely related to a question about the nature of minimal probabilistic automata, posed by Paz in his seminal 1971 textbook. We use this connection to answer Paz's question negatively, thus falsifying a positive answer claimed in 1974. Furthermore, we investigate whether a rational matrix $M$ always has a restricted NMF of minimal inner dimension whose factors $W$ and $H$ are also rational. We show that this holds for matrices $M$ of rank at most $3$ and we exhibit a rank-$4$ matrix for which $W$ and $H$ require irrational entries.

연구 동기 및 목표

• 유리수 비음수 행렬이 항상 유리수 요소 W와 H를 갖는 제한된 NMF를 갖는지 조사하는 것.
• 파즈(1971)가 제기한 최소 커버링 확률적 오토마타의 존재성 문제를 해결하는 것, 특히 전이 확률이 유리수인 경우.
• 제한된 NMF와 내포 다면체 문제(NPP) 사이의 관계를 명확히 하는 것.
• 유리수 행렬의 제한된 비음수 질량이 언제 유리수 요소 행렬로 달성될 수 있는지 조건을 규명하는 것.
• 특히 유리수 위에서의 RNMF의 계산 복잡성과 대수적 구조를 분석하는 것.

제안 방법

• 제한된 NMF와 표식 마르코프 체인(LMC)의 커버러빌리티 관계 사이에 공식적인 대응 관계를 수립하여, RNMF를 확률적 오토마타 이론과 연결한다.
• 내포 다면체 문제(NPP)에 기하학적 추론을 적용하여 최소 정점 해를 분석하고, 행렬 분해 제약 조건을 다면체 기하학으로 변환한다.
• 최소 내부 차원에서 5개 점의 유리수 해가 존재하지 않는 특정한 랭크 4의 유리수 행렬 M을 구성하여, 유리수 위에서의 제한된 비음수 질량이 6임을 증명한다.
• 슬랙 함수와 간격 분석을 사용하여 NPP의 최소 정점 구성에서 무리수 좌표가 반드시 필요하다는 것을 엄밀하게 증명한다.
• RNMF와 최소 확률적 오토마타 사이의 이중성을 활용하여, 최소 커버링 오토마타가 유리수 확률로 존재하지 않을 수 있음을 보여준다.
• 대수적 기법을 사용하여, 유리수 행렬의 최소 RNMF에서 요소 행렬 W와 H에 무리수 성분이 반드시 필요할 수 있음을 입증한다.

실험 결과

연구 질문

• RQ1 모든 유리수 행렬이 최소 내부 차원에서 유리수 요소 W와 H를 갖는 제한된 NMF를 항상 갖는가?
• RQ2 1974년에 주장된 바와 같이, 최소 확률적 오토마타가 항상 유리수 전이 확률을 갖는 LMC를 커버할 수 있는가?
• RQ3 유리수 행렬의 제한된 비음수 질량이 항상 유리수 요소 행렬로 달성되는가?
• RQ4 입력 다면체가 유리수일 때, 내포 다면체 문제(NPP)에서 필요한 최소 정점 수는 얼마인가?
• RQ5 RNMF 요소에 무리수 성분이 존재하는 것을 대수적 또는 기하학적으로 특성화할 수 있는가?

주요 결과

• 최소 내부 차원에서 유리수 제한된 NMF가 존재하지 않는 랭크 4의 유리수 행렬이 존재하며, 이는 W와 H에 무리수 성분이 반드시 필요함을 증명한다.
• 이 행렬의 유리수 위에서의 제한된 비음수 질량은 6이며, 비음수 질량은 5이므로, 유리수와 실수 RNMF 사이에 엄격한 분리가 존재함을 보여준다.
• 특정 LMC에 대한 최소 커버링 확률적 오토마타는 유리수 전이 확률을 가질 수 없으며, 이는 1974년의 주장이 잘못되었음을 반증한다.
• 이 사례에서 내포 다면체 문제(NPP)의 최소 정점 해는 무리수 좌표를 요구하며, 이는 유리수 해가 항상 존재하지 않음을 확인한다.
• 랭크 3 이하의 행렬에 대해서는 최소 내부 차원에서 항상 유리수 RNMF가 존재하므로, 랭크 4에서 임계점이 존재함을 보여준다.
• 슬랙 함수 분석을 통해 NPP의 핵심 정점의 x좌표는 정확히 2−√2여야 하며, 이는 무리수이므로 무리수 성분의 필요성을 확인한다.