[논문 리뷰] A trajectorial interpretation of the dissipations of entropy and Fisher information for stochastic differential equations

Joaquín Fontbona, Benjamin Jourdain|arXiv (Cornell University)|2011. 07. 17.

Stochastic processes and financial applications참고 문헌 16인용 수 27

한 줄 요약

이 논문은 비역행성 확산과정에서 일반적인 볼록 엔트로피에 대해 궤적 기반의 확률적 미적분학적 해석을 제공한다. 기하학적 이론과 두브-마이어 분해를 통해, 엔트로피 소산 공식의 확률적 유사체를 유도하고, 확산 행렬의 제곱근에 의존하는 새로운 비내재적 정의의 바크리-에메르 기준을 제안한다. 이 기준은 고전적 기준이 실패할 경우에도 U-엔트로피의 지수적 수렴을 보장한다.

ABSTRACT

The dissipation of general convex entropies for continuous time Markov processes can be described in terms of backward martingales with respect to the tail filtration. The relative entropy is the expected value of a backward submartingale. In the case of (non necessarily reversible) Markov diffusion processes, we use Girsanov theory to explicit the Doob-Meyer decomposition of this submartingale. We deduce a stochastic analogue of the well known entropy dissipation formula, which is valid for general convex entropies, including the total variation distance. Under additional regularity assumptions, and using It\\^o's calculus and ideas of Arnold, Carlen and Ju \\cite{Arnoldcarlenju}, we obtain moreover a new Bakry Emery criterion which ensures exponential convergence of the entropy to $0$. This criterion is non-intrisic since it depends on the square root of the diffusion matrix, and cannot be written only in terms of the diffusion matrix itself. We provide examples where the classic Bakry Emery criterion fails, but our non-intrisic criterion applies without modifying the law of the diffusion process.

연구 동기 및 목표

• 연속시간 마르코프 확산과정에서 엔트로피 및 피셔 정보 소산에 대한 궤적 기반 해석을 제공한다.
• 전통적인 엔트로피 소산 공식을 총변동 및 카이제곱 거리 포함 일반 볼록 엔트로피로 확장한다.
• U-엔트로피가 0으로 지수적 수렴을 보장하는 새로운 비내재적 정의의 바크리-에메르 기준을 개발한다.
• 기존의 바크리-에메르 기준이 실패하는 경우에도 이 새로운 기준이 적용되며, 확산과정의 법칙을 변경하지 않도록 보장한다.
• 가중함수 α를 포함하는 통합형 히브리드 기준을 통해 기존 기준들을 통합하고 비교한다.

제안 방법

• U(dPs/dQs(XQs))로 구성된 후행 하위마르팅글의 도브-마이어 분해를 적용하여 확률적 엔트로피 소산 공식을 도출한다.
• 시간에 의존하는 비균일한 확산과정에서, 하위마르팅글의 유한변동 및 국소마르팅글 성분을 기하학적 이론을 통해 명시적으로 계산한다.
• 이토의 미적분학과 생성자 분해를 활용하여, U-피셔 정보 소산을 확산 행렬 a = σσ*의 제곱근 σ에 대해 표현한다.
• 확산 행렬 a가 아닌 σ에 의존하는 새로운 바크리-에메르 유형 기준을 유도한다. 이는 비내재적 정의를 갖는다.
• C1 함수 α를 통해 새로운 기준과 고전 기준을 가중하여 통합 기준을 도입하며, 부분적 적분에 의해 유도된 도함수 항이 발생한다.
• 아르놀트, 카르렌, 주 (2001)의 결과를 복원하고 비교함으로써 접근법을 검증하며, 시간 역전과 비역행성의 역할을 강조한다.

실험 결과

연구 질문

• RQ1 궤적 기반 확률적 미적분학 접근법을 통해 총변동과 같은 모든 볼록 엔트로피에 대해 엔트로피 소산 공식을 일반화할 수 있는가?
• RQ2 U-피셔 정보 소산은 확산 행렬 자체가 아닌 그 제곱근에 대해 어떻게 표현할 수 있는가?
• RQ3 새로운 비내재적 정의의 바크리-에메르 기준이 U-엔트로피가 0으로 지수적 수렴함을 보장하는 조건은 무엇인가?
• RQ4 고전 기준이 실패하는 경우에도 이 새로운 기준이 적용되는 조건은 무엇이며, 이때 확산과정의 법칙은 변경되지 않는가?
• RQ5 새로운 기준을 고전 기준과 어떻게 조합하여 더 강력한 수렴 조건을 도출할 수 있는가?

주요 결과

• 논문은 일반 볼록 엔트로피에 대해 모든 U ∈ C2(R+)에 대해 유효한 확률적 유사 엔트로피 소산 공식을 수립한다. 여기에는 U(x) = x ln x, (x−1)², |x−1| 등 포함.
• U-피셔 정보 소산은 비음수의 세미마르팅글 기대값과 동일하며, 기하학적 이론과 이토의 미적분학을 통해 드리프트 성분을 명시적으로 계산할 수 있다.
• 확산 행렬 a의 제곱근 σ에 의존하는 새로운 비내재적 정의의 바크리-에메르 기준이 도출되었으며, 이는 U-엔트로피가 0으로 지수적 수렴을 보장한다.
• 이 기준은 고전 기준보다 엄격히 더 약하다: 고전 기준이 실패하는 경우에도 이 새로운 기준이 성립하는 예시가 존재하며, 이때도 동일한 확산과정의 법칙을 유지한다.
• C1 가중함수 α를 포함하는 통합 기준은 고전 기준과 새로운 기준 사이의 보간을 가능하게 하며, 수렴 속도는 α의 도함수에 따라 달라진다.
• 이 접근법은 아르놀트, 카르렌, 주 (2001)의 결과를 복원하고 재해석하며, 그들의 행렬 Y11는 내재적이지만 새로운 항 Γ11는 내재적이지 않음을 보여주며, 기초 가정의 근본적 차이를 부각시킨다.