[논문 리뷰] The decoupled extended Kalman filter for dynamic exponential-family factorization models

Carlos Alberto Gomez-Uribe, Brian Karrer|arXiv (Cornell University)|2018. 06. 26.

Tensor decomposition and applications참고 문헌 35인용 수 3

한 줄 요약

이 논문은 동적 지수족 요인 분해 모델에 특화된 분리형 확장 칼만 필터(DEKF)를 소개한다. 이는 온라인, 적응형 학습과 불확실성 추정을 가능하게 하며, 매개변수의 이탈을 모델링하고 블록 대각 공분산 근사치를 사용함으로써 각 관측치에서 관련이 있는 매개변수만 효율적으로 업데이트한다. 이는 탐색/활용 전략을 지원하며, 실제 및 시뮬레이션 데이터에서 기존 방법에 비해 확장성과 적응성 면에서 뛰어나다.

ABSTRACT

Motivated by the needs of online large-scale recommender systems, we specialize the decoupled extended Kalman filter (DEKF) to factorization models, including factorization machines, matrix and tensor factorization, and illustrate the effectiveness of the approach through numerical experiments on synthetic and on real-world data. Online learning of model parameters through the DEKF makes factorization models more broadly useful by (i) allowing for more flexible observations through the entire exponential family, (ii) modeling parameter drift, and (iii) producing parameter uncertainty estimates that can enable explore/exploit and other applications. We use a different parameter dynamics than the standard DEKF, allowing parameter drift while encouraging reasonable values. We also present an alternate derivation of the extended Kalman filter and DEKF that highlights the role of the Fisher information matrix in the EKF.

연구 동기 및 목표

• 대규모 시계열 변화가 있는 추천 시스템에서 정적이고 배치 기반의 요인 분해 모델의 한계를 해결하기 위해.
• 동적 사용자 선호도와 비정상적인 데이터에 대해 불확실성 정량화를 포함한 온라인 매개변수 학습을 가능하게 하기 위해.
• 행렬/텐서 분해 및 요인 분해 기계를 포함한 지수족 요인 분해 모델로 DEKF를 확장하기 위해.
• 사후 분포에서 캘리브레이션된 불확실성 추정을 통해 탐색/활용 전략을 지원하기 위해.
• 블록 대각 공분산 근사치를 활용해 각 새로운 관측치에 관여하는 요소들만 업데이트함으로써 계산 효율성을 향상시키기 위해.

제안 방법

• 지수족 요인 분해 모델에 특화된 DEKF를 적용하여 이진, 카운트, 연속 결과와 같은 다양한 관측 유형을 유연하게 처리할 수 있도록 한다.
• 이격을 허용하면서도 합리적인 매개변수 값으로 유지하도록 수정된 매개변수 동역학 모델을 사용하여, 무한한 증가를 방지한다.
• 매개변수 공분산 행렬에 블록 대각 근사치를 적용하여 각 관측치에 관여하는 요소와 관련된 매개변수만 업데이트한다.
• 피셔 정보 행렬을 사용하여 DEKF 업데이트 식을 유도함으로써, 근사 베이지안 추론의 정보 기하 원리와 연결한다.
• MAP 추정치 주위에서 반복하는 이터레이티드 DEKF 변형을 도입하여 사후 분포 근사 정확도를 향상시키며, 효율성 손실 없이 정확도를 높인다.
• 온라인 추천 환경에서 톰슨 샘플링 및 기타 불확실성 기반 의사결정 전략을 지원할 수 있도록 계산 프레임워크를 적응시킨다.

실험 결과

연구 질문

• RQ1 DEKF는 동적 지수족 요인 분해 모델에 효과적으로 특화될 수 있는가? 이는 확장성 있는 온라인 학습을 가능하게 하는가?
• RQ2 드라이프 인식 동역학을 갖춘 제안된 DEKF는 표준 DEKF에 비해 매개변수 안정성과 예측 정확도 측면에서 어떻게 비교되는가?
• RQ3 블록 대각 공분산 근사치는 계산 비용을 줄이면서도 추정 정확도를 얼마나 잘 유지하는가?
• RQ4 DEKF의 불확실성 추정치는 온라인 추천 시스템에서 효과적인 탐색/활용 전략을 가능하게 하는가?
• RQ5 비정규 분포 및 비선형 모델에서 이터레이티드 DEKF는 표준 DEKF에 비해 사후 분포 근사 정확도를 어떻게 향상시키는가?

주요 결과

• 제안된 DEKF는 각 관측치에서 관련된 요소들만 업데이트함으로써 최소한의 메모리 및 계산 오버헤드로 동적 요인 분해 모델에서 효율적인 온라인 학습을 가능하게 한다.
• 이 방법은 매개변수의 이격을 성공적으로 모델링하면서도 안정적이고 잘 조율된 매개변수 추정치를 유지하며, 표준 랜덤 워크 동역학에서 관찰되는 무한한 증가를 방지한다.
• 시뮬레이션 및 실제 데이터에 대한 수치 실험 결과, DEKF는 경쟁 가능한 예측 정확도를 달성하며, 탐색/활용 행동을 효과적으로 지원하는 불확실성 추정치를 제공한다.
• 이터레이티드 DEKF 변형은 특히 비선형성이 높거나 사후 평균이 사전 평균에서 멀리 떨어져 있을 경우 사후 분포 근사 정확도를 향상시킨다.
• DEKF의 불확실성 추정치를 기반으로 한 톰슨 샘플링은 온라인 추천 과제에서 보상 최적화를 향상시키며, 불확실성 정량화의 실용적 유용성을 입증한다.
• 블록 대각 공분산 근사치는 전체 공분산 업데이트의 계산 비용을 크게 줄이면서도 뛰어난 성능을 유지하여, 이 방법이 대규모 모델로도 확장 가능하게 한다.