[논문 리뷰] Decision Trees Unearth Return Sign Correlation in the S&P 500

Lucas Fiévet, Didier Sornette|arXiv (Cornell University)|2016. 10. 12.

Complex Systems and Time Series Analysis참고 문헌 7인용 수 2

한 줄 요약

이 논문은 S&P 500에서 비선형 수익률 기호 상관관계를 탐지하기 위해 고정된 의사결정트리 모델을 제안하며, 자기회귀 모델의 한계를 극복한다. 20년간 통계적으로 유의미한 비정상 수익률을 기록(유의수준 p < 0.01)하며, 거래비용 21 bps에서도 매수·持有 전략을 능가한다. 특히 시장 위기 기간 동안 두드러진 성과를 보이며, 수익률 기호 예측 가능성과 관련된 행동 편향에 기인한 체계적 비효율성을 시사한다.

ABSTRACT

Technical trading rules and linear regressive models are often used by practitioners to find trends in financial data. However, these models are unsuited to find non-linearly separable patterns. We propose a decision tree forecasting model that has the flexibility to capture arbitrary patterns. To illustrate, we construct a binary Markov process with a deterministic component that cannot be predicted with an autoregressive process. A simulation study confirms the robustness of the trees and limitation of the autoregressive model. Finally, adjusting for multiple testing, we show that some tree based strategies achieve trading performance significant at the 99% confidence level on the S&P 500 over the past 20 years. The best strategy breaks even with the buy-and-hold strategy at 21 bps in transaction costs per round trip. A four-factor regression analysis shows significant intercept and correlation with the market. The return anomalies are strongest during the bursts of the dotcom bubble, financial crisis, and European debt crisis. The correlation of the return signs during these periods confirms the theoretical model.

연구 동기 및 목표

• 자기회귀 과정과 같은 선형 모델이 비선형으로 분리 가능한 수익률 패턴(예: XOR 유사 의존성)을 포착하는 데에 한계가 있다는 점을 해결하기 위해.
• 의사결정트리 기반 전략이 실제 금융 데이터에서, 특히 시장 이질현상 기간 동안 예측 가능한 수익률 기호 상관관계를 탐지할 수 있는지 테스트하기 위해.
• 伝통적인 기술적 트레이딩 규칙을 넘어서, 다중 검정 보정 및 HAC-로버스트 성과 지표를 활용해 시장 효율성을 철저히 평가하기 위해.
• 행동 히ュ리스틱(예: 과거 수익률 기호에 의존하는 것)이 주식 수익률의 예측 가능한 패턴을 이끌어내는지 조사하기 위해.

제안 방법

• 수익률 기호 예측 가능성에서 임의의 비선형 패턴을 포착하기 위한 선형 모델의 유연한 대안으로 고정의사결정트리(Fixed Decision Trees, FCT)를 제안한다.
• 고정의사결정트리와 고차원 이진 마르코프 체인 사이의 이론적 연관성을 유도하여, 복잡한 자기상관構조를 모델링할 수 있도록 한다.
• 자기회귀 과정과 마르코프 과정 양측에서의 예측 성능을 비교하기 위해 시뮬레이션 연구를 수행한다. 자동회귀 모델, 고정 트리, 동적 최적화 트리 간의 성능을 비교한다.
• Romano와 Wolf(2005)의 다중 검정 보정과 Ledoit-Wolf(2008)의 HAC-로버스트 샤페로 비율을 활용하여 S&P 500 일간 수익률에 대한 전략의 통계적 유의성을 평가한다.
• 최고 성과 전략의 비정상 수익률과 리스크 조정 수익률을 검증하기 위해 4요인 회귀 모델을 적용한다.
• 거래비용 민감도 분석을 포함하여, 지연 1–3단계 및 캘리브레이션 윈도우 300–460일 동안 1,000개의 전략 유니버스를 활용해 결과를 검증한다.

실험 결과

연구 질문

• RQ1 고정의사결정트리는 자기회귀 모델이 포착하지 못하는 비선형 수익률 기호 상관관계를 탐지할 수 있는가?
• RQ2 다중 검정 보정 및 이방성(이질분산) 보정을 거친 후 의사결정트리의 예측 능력이 통계적으로 유의미한가?
• RQ3 금융 위기 기간 동안 수익률 기호 상관관계가 체계적으로 나타나는가? 그리고 행동 히ュ리스틱에 의해 설명 가능한가?
• RQ4 간단한 검색 기술(예: 최고 샤페로 비율)이 사전에 승자 전략을 선정할 수 있었는가? 이는 실용적 타당성을 시사하는가?
• RQ5 S&P 500은 효율적 시장 가설을 위반하는 예측 가능한 수익률 기호 패턴을 보이는가?

주요 결과

• 최고의 고정의사결정트리 전략은 다중 검정 보정 후 99% 신뢰수준에서 통계적 유의성을 확보하여 시장 효율성의 근본가설을 기각한다.
• 최적 전략은 라운드트립 당 21 bps의 거래비용 수준에서 매수·持有 전략과 손익이 균형을 이루며, 시장 제약 조건에 대한 강건성을 보여준다.
• 거래비용이 없는 조건에서 최고의 고정트리 전략은 매수·持有 기준의 누적 수익률과 샤페로 비율을 두 배 이상으로 끌어올린다.
• 4요인 회귀 분석에서 전략은 유의미한 양의 절편을 보이며, 비정상적인 리스크 조정 수익률을 확인한다.
• 수익률 기호 상관관계는 도트컴 버블(2000–2003), 금융위기(2008–2009), 유럽 부채위기(2012) 기간에 가장 강하게 나타나며, 수익률 예측의 행동 편향을 시사한다.
• 마르코프 과정에서는 자기회귀 모델보다 고정의사결정트리가 뛰어난 성능을 보이며, 자기회귀 과정에서도 거의 동등한 효과를 발휘함으로써, 모델 오Specification에 대한 강건성을 확인한다.