[논문 리뷰] The impulse cutoff an entropy functional measure on trajectories of Markov diffusion process integrating in information path functional

Vladimir S. Lerner|arXiv (Cornell University)|2012. 04. 24.

Fault Detection and Control Systems참고 문헌 29인용 수 3

한 줄 요약

이 논문은 마코프 확산 과정에서의 정보를 측정하기 위한 새로운 프레임워크를 제안한다. 엔트로피 기능 감소를 이산 펄스 커팅으로 모델링함으로써 확산 경로 엔트로피를 이산화된 정보 비트로 전환한다. 주요 기여는 정보 경로 기능(IPF)으로, 이러한 엔트로피 커팅을 통합하여 유한하고 가산적이지 않은 정보 측도를 제공하며, 숨겨진 과정 상관관계를 포착하고 최적의 엔트로피-정보 변환을 최대최소-최소최대 원리에 의해 가능하게 한다.

ABSTRACT

The impulses, cutting entropy functional (EF) measure on trajectories Markov diffusion process, integrate information path functional (IPF) composing discrete information Bits extracted from observing random process. Each cut brings memory of the cutting entropy, which provides both reduction of the process entropy and discrete unit of the cutting entropy a Bit. Consequently, information is memorized entropy cutting in random observations which process interactions. The origin of information associates with anatomy creation of impulse enables both cut entropy and stipulate random process generating information under the cut. Memory of the impulse cutting time interval freezes the observing events dynamics in information processes. Diffusion process additive functional defines EF reducing it to a regular integral functional. Compared to Shannon entropy measure of random state, cutting process on separated states decreases quantity information concealed in the states correlation holding hidden process information. Infinite dimensional process cutoffs integrate finite information in IPF whose information approaches EF restricting process maximal information. Within the impulse reversible microprocess, conjugated entropy increments are entangling up to the cutoff converting entropy in irreversible information. Extracting maximum of minimal impulse information and transferring minimal entropy between impulses implement maxmin-minimax principle of optimal conversion process entropy to information. Macroprocess extremals integrate entropy of microprocess and cutoff information of impulses in the IPF information physical process. IPF measures Feller kernel information. Estimation extracting information confirms nonadditivity of EF measured process increments.

연구 동기 및 목표

• 확산 과정에서의 연속적 엔트로피를 펄스 기반 커팅을 통해 체계적으로 이산적이고 측정 가능한 정보 단위로 변환하는 방법을 정식화하기 위해.
• 표준 샤논 엔트로피를 초월하여 확산 경로의 숨겨진 상관관계를 포착하는 비가산적 정보 측도를 개발하기 위해.
• 펄스에 의한 엔트로피 감소와 비가역적 정보 형성 간의 물리적 및 수학적 프레임워크를 수립하기 위해.
• macroscopic 과정에서 최대최소-최소최대 전략을 사용하여 엔트로피와 정보 간의 최적 변환 원리를 유도하기 위해.
• 정보 경로 기능(IPF)을 통해 미세 과정의 공액 엔트로피 증분을 매크로 과정의 극값에 통합하기 위해.

제안 방법

• 엔트로피 기능(EF)을 정규 적분 형태로 줄이기 위해 추가 기능을 사용하여 마코프 확산 과정을 모델링한다.
• 각 정보 비트에 해당하며 과정의 동적 기억을 冻결시키는 이산화된 엔트로피 감소를 위한 '펄스 커팅'을 도입한다.
• 누적 엔트로피 커팅 측도로서의 정보 경로 기능(IPF)을 정의하며, 무한차원 과정 경로에서의 유한한 정보를 통합한다.
• 펄스 간격 동안 엔트로피-정보 변환의 최적화를 위해 최대최소-최소최대 원리를 적용한다.
• IPF의 정보 내용을 측정하고 EF 증분의 비가산성을 검증하기 위해 펠러 커널 추정을 사용한다.
• 역행 가능한 미세 과정에서의 공액 엔트로피 증분이 커팅을 거치면서 비가역적으로 변하여 정보 생성의 기초가 된다.

실험 결과

연구 질문

• RQ1 연속적 확산 과정에서의 엔트로피는 어떻게 체계적으로 이산적이고 측정 가능한 정보 단위로 변환될 수 있는가?
• RQ2 다수의 엔트로피 커팅을 하나의 유한하고 비가산적 정보 측도로 통합할 수 있는 수학적 구조는 무엇인가?
• RQ3 IPF는 표준 엔트로피 측도가 놓치는 확산 경로의 숨겨진 상관관계를 어떻게 포착하는가?
• RQ4 이러한 시스템에서 엔트로피를 정보로의 최적 변환을 지배하는 원리는 무엇인가?
• RQ5 펄스 커팅은 확산 과정에서 비가역성과 기억을 어떻게 유도하는가?

주요 결과

• 펄스 커팅은 연속적 엔트로피를 이산 정보 비트로 변환하며, 각 커팅이 엔트로피 감소의 기억을 유지한다.
• 정보 경로 기능(IPF)은 무한차원 확산 경로에서의 유한한 정보를 통합하여 최대 과정 정보를 효과적으로 제한한다.
• 과정 증분의 추정을 통해 엔트로피 기능(EF)의 비가산성이 확인되었으며, 이는 정보가 간단히 간격 간에 가산되지 않음을 시사한다.
• 역행 가능한 미세 과정에서의 공액 엔트로피 증분이 커팅을 거치면서 비가역적으로 변하여 정보 생성의 기초가 된다.
• 최대최소-최소최대 원리는 최소 펄스 정보를 최대한 추출하고 펄스 간 엔트로피 전달을 최소화함으로써 엔트로피에서 정보로의 최적 변환을 가능하게 한다.
• 매크로 과정 극값은 미세 과정 엔트로피와 펄스 커팅 정보의 적분으로 나타나며, IPF에 의해 지배되는 물리적 정보 과정을 형성한다.