[논문 리뷰] Semiparametric energy-based probabilistic models

Jan Humplik, Gašper Tkačik|arXiv (Cornell University)|2016. 05. 24.

Neural dynamics and brain function참고 문헌 23인용 수 3

한 줄 요약

이 논문은 에너지 함수의 비선형 변환을 유연하고 비모수적 표현을 통해 학습함으로써 기존의 에너지 기반 모델을 일반화하는 반모수적 에너지 기반 모델을 제안한다. 조각별로 일정한 기저 함수를 사용하여 비선형성을 모델링하고 에너지 매개변수와 함께 최적화함으로써, 큰 동적 범위를 가진 복잡한 확률 분포를 효과적으로 포착할 수 있다. 이는 망막 신경 세포 데이터에서 표준 모델보다 뛰어난 성능을 보이며 검증되었다.

ABSTRACT

Probabilistic models can be defined by an energy function, where the probability of each state is proportional to the exponential of the state's negative energy. This paper considers a generalization of energy-based models in which the probability of a state is proportional to an arbitrary positive, strictly decreasing, and twice differentiable function of the state's energy. The precise shape of the nonlinear map from energies to unnormalized probabilities has to be learned from data together with the parameters of the energy function. As a case study we show that the above generalization of a fully visible Boltzmann machine yields an accurate model of neural activity of retinal ganglion cells. We attribute this success to the model's ability to easily capture distributions whose probabilities span a large dynamic range, a possible consequence of latent variables that globally couple the system. Similar features have recently been observed in many datasets, suggesting that our new method has wide applicability.

연구 동기 및 목표

• 잠재 변수가 전반적인 결합을 유도할 때, 큰 동적 범위를 가진 확률 분포를 포착하는 데에 한계가 있는 표준 에너지 기반 모델의 문제를 해결하기 위해.
• 특정 기능 형태를 가정하지 않고, 에너지에서 비정규화된 확률로의 비선형 변환을 모델링하기 위한 유연하고 비모수적 방법을 개발하기 위해.
• 에너지 함수와 비선형 변환을 함께 최적화하여 표현력을 향상시키기 위해, 제약 없는 최적화를 가능하게 하기 위해.
• 특히 망막 간상세포 활동과 같은 실제 신경 데이터에서 모델의 효과성을 입증하기 위해, 표준 모델이 전체 확률 범위를 포착하지 못하는 상황에서의 성능 향상을 위해.

제안 방법

• 모델은 표준 에너지 기반 모델을 일반화하기 위해, 음의 에너지의 지수함수를 임의의 엄격히 감소하고 두 번 미분 가능한 함수 V로 대체함으로써 p(s|α,V) ∝ exp(−V(E(s|α)))가 되도록 한다.
• 비선형성 V는 미분방정식 형태로 표현된다: V(E) = γ₁ + γ₂∫ₑ₀ᴱ exp(∫ₑ₀ᴱ′ W(E′′) dE′′) dE′, 여기서 W는 조각별로 일정한 함수이다.
• W는 에너지 구간에 대한 지시 함수 기저로 전개되어, 그 계수 β에 대해 제약 없는 최적화가 가능해지며, γ₁과 γ₂는 척도 및 이동 매개변수로 학습된다.
• 모델은 에너지 매개변수와 비선형성 매개변수(γ, β)에 대해 별도의 학습률을 사용하는 지속적 대비 분열(Persistent Contrastive Divergence)을 사용하여 훈련되며, 안정성을 확보한다.
• 에너지 범위 [E₀, E₁]은 훈련 중에 현재 매개변수 하에서 관측된 에너지 범위에 맞게 동적으로 업데이트된다.
• 수렴성 향상과 모드 붕괴 방지를 위해, 밀도 상태 추정 알고리즘을 사용하여 근사 가능도를 최대화한다.

실험 결과

연구 질문

• RQ1 에너지에서 확률로의 변환에 대해 비모수적이고 학습 가능한 비선형성이 복잡하고 큰 동적 범위를 가진 신경 데이터의 확률 분포 모델링에 상당한 향상을 이끌 수 있는가?
• RQ2 제안된 반모수적 모델은 망막 간상세포 활동의 통계를 포착하는 데 있어 표준 이원상관 모델 및 제한형 볼츠만 기반 모델보다 어떻게 비교되는가?
• RQ3 학습된 비선형성이 잠재 변수가 전체 시스템에 전반적인 영향을 미치는 효과를 포착하는 데 얼마나 효과적인가?
• RQ4 암시적인 은닉 유닛 모델링 없이도, 비모수적 모델이 파라미터 모델보다 더 높은 가능도와 통계적 적합도를 달성할 수 있는가?
• RQ5 비선형성의 비모수적 표현 방식이 에너지 함수 매개변수와 함께 안정적이고 효율적인 공동 최적화를 가능하게 하는가?

주요 결과

• 반모수적 모델은 표준 이원상관 모델과 제한형 볼츠만 기반 모델보다 망막 간상세포 데이터에서 유의미하게 높은 로그 가능도를 달성하여 더 나은 통계적 적합도를 보였다.
• 모델은 표준 모델이 표현하지 못하는 희귀하고 매우 불가능한 상태를 포함한 신경 활동 확률의 전체 동적 범위를 성공적으로 포착했다.
• 학습된 비선형성 V는 저에너지 영역에서 강하게 비선형임을 확인하여, 잠재 변수가 유도하는 전반적인 결합 효과를 효과적으로 보상하고 있음을 시사했다.
• 지속적 대비 분열을 통한 에너지 함수와 비선형성의 공동 최적화는 안정적인 수렴을 이끌었으며, 최종 모델은 일반화 능력 향상과 모드 붕괴 감소를 보였다.
• W에 대해 조각별 일정한 기저를 사용함으로써, 제약적인 기능 형태를 부과하지 않으면서도 효과적인 비모수적 비선형성 모델링이 가능했다.
• Q=12개의 에너지 구간과 최적화된 메타매개변수 E₀ 및 E₁를 가진 최종 모델이 가장 뛰어난 성능을 보였으며, 이는 적응형 에너지 구간 분할의 중요성을 입증했다.