[논문 리뷰] Incremental Slow Feature Analysis: Adaptive and Episodic Learning from High-Dimensional Input Streams

Varun Raj Kompella, Matthew Luciw외 1명|arXiv (Cornell University)|2011. 12. 09.

Blind Source Separation Techniques참고 문헌 50인용 수 7

한 줄 요약

이 논문은 비정적이고 고차원적인 입력 스트림에 적응하기 위해 점진적 히브시안 및 반-히브시안 업데이트를 사용하는 온라인, 공분산 없는 알고리즘인 Incremental Slow Feature Analysis (IncSFA)를 제안한다. IncSFA는 공분산 행렬을 저장하지 않고 실시간으로 느린 특징을 추적함으로써 자율 에이전트에서 수명 주기적, 에피소드 기반 학습을 가능하게 하며, 동적인 환경에서 배치 SFA보다 뛰어난 성능을 보이며 영상 스트림으로부터 안정적이고 생물학적으로 타당한 특징 추출을 달성한다.

ABSTRACT

Slow Feature Analysis (SFA) extracts features representing the underlying causes of changes within a temporally coherent high-dimensional raw sensory input signal. Our novel incremental version of SFA (IncSFA) combines incremental Principal Components Analysis and Minor Components Analysis. Unlike standard batch-based SFA, IncSFA adapts along with non-stationary environments, is amenable to episodic training, is not corrupted by outliers, and is covariance-free. These properties make IncSFA a generally useful unsupervised preprocessor for autonomous learning agents and robots. In IncSFA, the CCIPCA and MCA updates take the form of Hebbian and anti-Hebbian updating, extending the biological plausibility of SFA. In both single node and deep network versions, IncSFA learns to encode its input streams (such as high-dimensional video) by informative slow features representing meaningful abstract environmental properties. It can handle cases where batch SFA fails.

연구 동기 및 목표

• 비정적이고 개방형 환경에서 배치 SFA(Slow Feature Analysis)의 한계를 해결하기 위해.
• 영상과 같은 고차원 감각 스트림으로부터 온라인, 점진적인 느린 특징 학습을 가능하게 하기 위해.
• 공분산 행렬 추정을 제거함으로써 계산 비용을 감소시키고 외곽치에 대한 민감도를 낮추기 위해.
• 히브시안 및 반-히브시안 학습 규칙을 통해 생물학적 타당성을 향상시키기 위해.
• 학습 에피소드 간 특징 초기화를 허용함으로써 에피소드 기반 학습을 지원하기 위해.

제안 방법

• IncSFA는 점진적 주성분 분석(CCIPCA)과 미니멀 성분 분석(MCA)을 결합하여 온라인 학습 규칙을 사용해 느린 특징을 점진적으로 업데이트한다.
• 생물학적 타당성을 시뮬레이션하기 위해 히브시안 및 반-히브시안 가중치 업데이트를 사용하며, 배치 고유값 시스템 계산을 대체한다.
• 알고리즘은 입력 스트림을 실시간으로 처리하여 전체 데이터셋을 다시 학습하지 않고도 특징을 업데이트한다.
• 의미 없는 주성분을 계산하는 것을 피하기 위해 특징 추정 중 차원 축소를 적용한다.
• 공간적으로 겹치는 수용 영역을 가진 계층적 IncSFA 네트워크를 구성하여 계층 간 추상화를 가능하게 한다.
• 안정적인 입력 영역에서 저고유값 성분의 노이즈를 억제하기 위해 특징 출력을 [-5, 5]로 클리핑한다.

실험 결과

연구 질문

• RQ1 점진적 SFA 알고리즘이 비정적 환경에서 변화하는 입력 통계에 적응할 수 있는가?
• RQ2 IncSFA는 재초기화 없이 에피소드 기반 학습 세션 간에 의미 있는 느린 특징을 학습할 수 있는가?
• RQ3 IncSFA는 배치 SFA보다 외곽치에 대한 민감도를 낮출 수 있는가?
• RQ4 IncSFA는 공분산 행렬 추정 없이 고차원 영상 스트림으로부터 안정적인 저차원 특징 표현을 달성할 수 있는가?
• RQ5 히브시안 및 반-히브시안 학습 규칙을 통해 IncSFA는 어느 정도 생물학적 타당성을 유지하는가?

주요 결과

• IncSFA는 움직이는 보드의 영상 스트림에서 예상되는 거리 신호와 유사한 삼각함수 형태의 느린 특징을 성공적으로 추출한다.
• 이전 에피소드의 최종 특징을 재사용하여 초기화함으로써 IncSFA는 에피소드 간 안정적인 특징 표현을 유지한다.
• IncSFA는 시간이 지남에 따라 일시적인 변화가 없는 자극의 영향을 점차 감소시킴으로써 외곽치에 대한 민감도를 감소시킨다.
• 공분산 없는 설계 덕분에 100×100 이미지에 대해 약 5000만 개에서 ~100×100×m로 파rameter 수를 감소시켜 효율적인 온라인 처리를 가능하게 한다.
• 계층적 네트워크에서 IncSFA는 효과적인 차원 축소와 추상화를 달성하며, 최종 레이어는 단일 유의미한 느린 특징을 생성한다.
• IncSFA 특징에 기반한 2차 회귀모형은 거리 예측 작업에서 낮은 RMSE를 달성하여 특징의 후속 작업에 대한 유용성을 확인한다.