[논문 리뷰] Discretization of Time Series Data

Elena Dimitrova, John McGee외 1명|ArXiv.org|2005. 05. 15.

Evolutionary Algorithms and Applications참고 문헌 22인용 수 8

한 줄 요약

이 논문은 다변량 시간 시리즈 데이터를 이산 상태로 디스cret화하기 위한 정보이론적 신규 방법을 제안하며, 동적 및 상관관계 구조를 유지하기 위해 상자 수와 상자 경계를 동시에 최적화한다. 이 방법은 엔트로피 기반 기준을 사용하여 정보 유지와 모델 단순성 사이의 균형을 이루며, 이산 상태 변수를 사용하는 생화학적 네트워크의 효과적인 모델링을 가능하게 한다.

ABSTRACT

Data discretization, also known as binning, is a frequently used technique in computer science, statistics, and their applications to biological data analysis. We present a new method for the discretization of real-valued data into a finite number of discrete values. Novel aspects of the method are the incorporation of an information-theoretic criterion and a criterion to determine the optimal number of values. While the method can be used for data clustering, the motivation for its development is the need for a discretization algorithm for several multivariate time series of heterogeneous data, such as transcript, protein, and metabolite concentration measurements. As several modeling methods for biochemical networks employ discrete variable states, the method needs to preserve correlations between variables as well as the dynamic features of the time series. A C++ implementation of the algorithm is available from the authors at http://polymath.vbi.vt.edu/discretization .

연구 동기 및 목표

• 전사, 단백질, 대사산물 농도와 같은 생물학적 실험에서 유래한 이질적인 다변량 시간 시리즈 데이터를 위한 강력한 디스cret화 방법을 개발하기 위해.
• 생화학적 네트워크 모델링에 필수적인 바이오물리적 동적 특성과 변수 간 상관관계를 디스cret화 과정에서 유지하기 위해.
• 사용자 정의나 히우리스틱 기반의 임계값에 의존하지 않고, 정보이론 기반 기준을 사용하여 최적의 이산 상태 수를 결정하기 위해.
• 시스템 생물학 모델링 파이프라인에 통합하기에 적합한 계산 효율성이 뛰어난 알고리즘을 제공하기 위해.
• 시스템 생물학 및 생정보학 연구에 실용적으로 적용할 수 있는 C++ 구현을 제공하기 위해.

제안 방법

• 이 방법은 정보이론 기반 기준을 사용하여 디스cret화의 품질을 평가하며, 정보 손실를 최소화한다.
• 순차 최적화 접근법을 사용하여 최적의 상자 수와 경계를 동시에 결정한다.
• 알고리즘은 원본 데이터와 디스cret화된 데이터 간 상호정보량을 최대화함으로써 동적 및 상관관계 특징의 유지 여부를 평가한다.
• 모델 복잡성과 데이터 충실도 사이의 균형을 맞추기 위해 오버피팅을 방지하는 페널티 항목을 포함한다.
• 유전자 발현 및 대사산물 농도와 같은 다양한 유형의 데이터를 포함하는 다변량 시간 시리즈를 처리하도록 설계되었다.
• 효율적인 대규모 생물학적 시간 시리즈 처리를 지원하기 위해 C++ 구현이 제공된다.

실험 결과

연구 질문

• RQ1 다양한 생물학적 원천에서 유래한 다변량 시간 시리즈 데이터는 어떻게 디스cret화할 수 있으며, 이 과정에서 시간적 역학과 변수 간 상관관계를 유지할 수 있는가?
• RQ2 정보이론적 제약 조건 하에 주어진 시간 시리즈에 대해 최적의 이산 상태 수는 무엇인가?
• RQ3 히우리스틱이나 사용자 정의 임계값에 의존하지 않고, 상자 경계와 상자 수를 자동으로 결정할 수 있는 방법을 개발할 수 있는가?
• RQ4 제안된 방법은 생화학적 시스템에서 네트워크 수준의 특성을 유지하는 데 있어 기존의 표준 빈팅 기법보다 어떻게 비교되는가?
• RQ5 이 방법은 디스크리트화 과정에서 시간 시리즈의 통계적 구조를 어느 정도 유지하는가?

주요 결과

• 제안된 방법은 정보 손실를 최소화하면서 생물학적 의미를 유지하는 최적의 이산 상태 수를 성공적으로 식별한다.
• 정보이론 기반 기준을 사용함으로써, 전통적인 빈팅 접근 방식보다 동적 패턴과 변수 간 상관관계의 유지가 더 뛰어나다.
• 유전자, 단백질, 대사산물 농도 데이터를 포함한 다양한 생물학적 시간 시리즈에 대해 알고리즘이 강건함을 입증한다.
• C++ 구현 덕분에 대규모 데이터셋의 효율적 처리가 가능하여 시스템 생물학 워크플로우에의 통합을 지원한다.
• 특히 다변량 환경에서 시간 시리즈의 구조 유지에 있어 표준 디스크리트화 기법보다 뛰어난 성능을 보인다.
• 이산 상태 표현이 필요한 생화학적 네트워크 모델링에 특히 효과적이다.