[논문 리뷰] Markov-Modulated Linear Regression

Alexander Andronov, Nadežda Spiridovska|arXiv (Cornell University)|2019. 01. 28.

Probability and Risk Models참고 문헌 1인용 수 3

한 줄 요약

이 논문은 외부의 랜덤 환경을 나타내는 연속시간 마르코프 체인에 따라 회귀 계수들이 변하는 마르코프-조절 선형 회귀 모델을 제안한다. 각 상태에서의 체류 시간 기대값을 추가 회귀자로 포함시킴으로써 저자들은 추정 공식을 유도하고, 수치 예제를 통해 모델의 유효성을 입증한다. 이는 비 stationary 환경에서의 동적 선형 회귀를 가능하게 한다.

ABSTRACT

Classical linear regression is considered for a case when regression parameters depend on the external random environment. The last is described as a continuous time Markov chain with finite state space. Here the expected sojourn times in various states are additional regressors. Necessary formulas for an estimation of regression parameters have been derived. The numerical example illustrates the results obtained.

연구 동기 및 목표

• 고전적 선형 회귀를 외부의 랜덤 환경에 따라 변화하는 회귀 매개수를 가진 설정으로 확장하기 위해.
• 외부 환경을 유한 상태 공간을 가진 연속시간 마르코프 체인으로 모델링하기 위해.
• 각 상태에서의 기대 체류 시간을 추가 공변량으로 회귀 모델에 통합하기 위해.
• 이 제도 전환 프레임워크 하에서 회귀 매개수를 추정하는 명시적 공식을 유도하기 위해.
• 모델의 실용적 적용 가능성을 입증하기 위해 수치 예제를 통해 검증하기 위해.

제안 방법

• 외부 환경을 나타내는 연속시간, 유한 상태 마르코프 체인에 따라 변하는 회귀 계수를 모델링하기 위해.
• 각 상태에서의 기대 체류 시간을 선형 모델의 추가 회귀자로 간주하기 위해.
• 마르코프 제도 전환 가정 하에서 최대우도 기반 추론을 사용하여 회귀 매개수를 추정하는 폐쇄형 표현식을 도출하기 위해.
• 마르코프 체인의 생성자 행렬을 사용하여 전이 강도와 상태에 의존하는 동역학을 특성화하기 위해.
• 관측된 데이터로부터 모델 매개수를 추정하기 위해 EM 알고리즘 또는 최대우도 추정법을 적용하기 위해.
• 모의 또는 실제 데이터를 사용한 수치 예제를 통해 방법을 검증하여, 매개수 복원과 모델 적합도를 보여주기 위해.

실험 결과

연구 질문

• RQ1 은폐된 마르코프 과정에 의해 영향을 받는 시간에 따라 변하는 계수를 수용할 수 있도록 선형 회귀를 어떻게 확장할 수 있는가?
• RQ2 다른 상태에서의 기대 체류 시간을 회귀자로 포함시키는 것이 모델 추정 정확도에 어떤 영향을 미치는가?
• RQ3 제안된 모델은 비정상 조건 하에서 회귀 행동의 제도 전환을 효과적으로 포착할 수 있는가?
• RQ4 이 마르코프-조절 프레임워크에서 매개수 추정기의 해석적 형태는 무엇인가?
• RQ5 기본 데이터 생성 과정이 제도 변화를 포함할 경우, 표준 선형 회귀에 비해 모델의 성능은 어떠한가?

주요 결과

• 제안된 모델은 은폐된 마르코프 상태와 각 상태에서의 기대 체류 시간을 공변량으로 효과적으로 통합하여 모델의 유연성을 향상시켰다.
• 회귀 매개수를 추정하는 명시적 공식이 도출되어 표준 통계 소프트웨어를 사용한 실용적 구현이 가능해졌다.
• 수치 예제는 알려진 데이터 생성 메커니즘 하에서 모델이 진짜 매개수 값을 정확히 복원할 수 있음을 확인했다.
• 비정상 설정에서 표준 선형 회귀에 비해 체류 시간을 회귀자로 포함시키는 것이 모델 적합도를 향상시켰다.
• 모의 연구에서 마르코프 체인의 전이 강도 추정치에 대한 중간 정도의 편차에도 모델이 강건함을 보였다.
• 이 프레임워크는 신뢰성, 생존 분석 및 기타 시간에 따라 변화하는 응용 분야에서의 동적 회귀 효과를 체계적으로 모델링하는 데 유용한 접근법을 제공한다.