[논문 리뷰] Online Adaptive Principal Component Analysis and Its extensions

Jianjun Yuan, Andrew Lamperski|arXiv (Cornell University)|2019. 01. 23.

Advanced Bandit Algorithms Research참고 문헌 27인용 수 5

한 줄 요약

이 논문은 정적 리그레트 대신 적응적 리그레트를 최소화하는 온라인 적응형 PCA 알고리즘을 제안하며, 변화하는 데이터 환경에 더 빠르게 적응할 수 있도록 한다. 무작위 온라인 PCA와 고정 공유 업데이트를 결합함으로써, 비선형 적응적 리그레트를 달성하고, 동적 환경에서 정적 PCA보다 뛰어난 성능을 보이며, 합성 데이터 및 Yale-B 얼굴 데이터셋에서 낮은 누적 손실을 기록함으로써 검증되었다.

ABSTRACT

We propose algorithms for online principal component analysis (PCA) and variance minimization for adaptive settings. Previous literature has focused on upper bounding the static adversarial regret, whose comparator is the optimal fixed action in hindsight. However, static regret is not an appropriate metric when the underlying environment is changing. Instead, we adopt the adaptive regret metric from the previous literature and propose online adaptive algorithms for PCA and variance minimization, that have sub-linear adaptive regret guarantees. We demonstrate both theoretically and experimentally that the proposed algorithms can adapt to the changing environments.

연구 동기 및 목표

• 시간이 지남에 따라 변화하는 데이터 환경에서 정적 리그레트의 한계를 해결하기 위해.
• 정적 리그레트 최소화보다 변화하는 데이터 부분공간에 더 효과적으로 적응하는 온라인 알고리즘을 개발하기 위해.
• 단위 벡터 및 단형 수치 공간의 분산 최소화에 대해 적응적 리그레트 프레임워크를 확장하기 위해.
• 이론적으로도 실험적으로도 제안된 알고리즘이 비정상적인 환경에서 더 빠르게 적응하고 낮은 누적 손실을 달성함을 보여주기 위해.

제안 방법

• 알고리즘은 [16]에서 제안한 무작위 온라인 PCA 방법과 고정 공유 업데이트를 결합하여 변화하는 환경에 적응할 수 있도록 한다.
• 상대 엔트로피와 양자 상대 엔트로피를 각각 확률 분포와 밀도 행렬 간의 발산을 측정하는 데 사용한다.
• 고정 공유 단계는 과거의 결정을 점차적으로 '잊는' 방식으로 환경 변화에 대한 반응성을 향상시킨다.
• 분산 최소화를 위해, 유사한 적응적 리그레트 최소화 원리를 사용하여 두 가지 파rameter 공간인 단위 벡터와 단형 수치 공간으로 확장된다.
• 이론적 분석을 통해 비선형 적응적 리그레트 경계가 확립되어, 최적의 시간 간격별 솔루션 대비 성능 향상이 시간이 지남에 따라 보장된다.
• 실험적 평가는 세 개의 이동하는 부분공간을 가진 합성 데이터와 20명의 다른 개인이 포함된 Yale-B 얼굴 데이터셋을 사용하며, 둘 다 k=2로 설정된다.

실험 결과

연구 질문

• RQ1 온라인 PCA 알고리즘이 정적 리그레트 대신 적응적 리그레트를 최소화함으로써 비정상적인 데이터 환경을 더 잘 다룰 수 있는가?
• RQ2 고정 공유 업데이트는 정적 리그레트 최소화에 비해 온라인 PCA에서 적응 속도를 어떻게 향상시키는가?
• RQ3 적응적 리그레트 프레임워크는 단위 벡터 및 단형 수치 공간에서 온라인 분산 최소화로 성공적으로 확장될 수 있는가?
• RQ4 제안된 알고리즘은 얼굴 이미지 등 실제 동적 데이터에서 정적 PCA보다 낮은 누적 손실을 달성하는가?

주요 결과

• 제안된 온라인 적응형 PCA 알고리즘은 비선형 적응적 리그레트를 달성하여 변화하는 환경에 대한 이론적 강건성을 입증한다.
• 세 개의 이동하는 부분공간을 가진 합성 예제에서, 알고리즘은 정적 PCA보다 더 빠르게 적응하여 상당히 낮은 누적 손실을 기록한다.
• 20명의 개인이 포함된 Yale-B 얼굴 데이터셋에서, 명백한 부분공간 전환 없이도 알고리즘이 가장 낮은 누적 손실을 달성하여 효과적인 적응을 보였다.
• 고정된 비교자에 의존하는 Follow the Leader와 정적 PCA는 비정상적인 데이터에 부적합하므로, 알고리즘이 이들보다 뛰어난 성능을 보였다.
• 고정 공유 확장은 병렬으로 여러 알고리즘을 실행할 필요 없이 효율적인 적응을 가능하게 하여 이전 방법의 log T 오버헤드를 피한다.
• 에이전트의 반복 복잡도가 고유값 분해로 인해 O(n³)이지만, 최적화 시 인크리멘탈 PCA와 경쟁 가능한 성능을 유지한다.