하이브리드 HMM + 포아송 점프: 금융 수익률 레짐 모델링의 새 표준
서론: 금융 레짐 모델의 근본 문제
어떤 레짐 모델도 금융 수익률의 세 가지 양식화된 사실(stylized facts)을 동시에 재현하지 못한다:
- 두꺼운 꼬리: 정규 분포 대비 극단 사건 빈도 과도
- 자기상관 부재: 원 수익률은 예측 불가능
- 변동성 군집: 큰 변동이 큰 변동과 함께 발생
GARCH는 ACF 구조에서 최고지만 KS 분포 검정에서 5.5% 통과율. 표준 HMM은 분포 충실도가 높지만 변동성 상태에서 너무 빠르게 이탈. 어떤 단일 모델도 세 차원 모두를 정복하지 못한다.
Cornell University의 Alswaidan과 Varner가 arXiv:2603.10202(2026년 3월)에서 하이브리드 HMM으로 이 트릴레마의 최선 균형점을 제시한다.
본론: 하이브리드 HMM의 핵심 설계
1. 라플라스 분위수 상태 이산화
States = Laplace_CDF_quantiles(returns, q=[0.05, 0.25, 0.75, 0.95])
F(x; μ, b) = 0.5 + 0.5·sign(x-μ)·(1 - exp(-|x-μ|/b))
가우시안 Z-점수 빈 대신 라플라스 CDF 분위수로 상태를 정의한다. 라플라스 분포는 금융 수익률의 첨도를 더 잘 포착한다. 5개 상태: 극단 하락, 일반 하락, 중립, 일반 상승, 극단 상승.
2. 포아송 점프 지속 메커니즘
표준 HMM의 마르코프 전이 확률은 모든 타임스텝에서 상태 이탈을 허용한다. 이것이 실제 폭락/급등 에피소드의 다일 지속성을 재현하지 못하는 원인이다.
# 꼬리 상태(극단 변동성) 진입 시
if transition_to_tail_state:
τ = np.random.poisson(λ_jump) # λ는 훈련 데이터에서 보정
minimum_dwell = τ # 이 기간 동안 상태 이탈 금지
λ_jump는 훈련 데이터의 경험적 꼬리 상태 지속성에서 보정된다.
3. 직접 전이 행렬 추정 (EM 없음)
분위수 임계값으로 상태가 정의되면 전이 행렬은 단순 빈도 계산이다:
A[i,j] = count(state_t==i AND state_{t+1}==j) / count(state_t==i)
Baum-Welch EM 알고리즘 불필요. 초기화 민감성 없음. 424개 자산으로 쉽게 확장 가능.
4. 평가 삼위일체 (KS + AD + ACF-MAE)
| 지표 | 측정 대상 | 합격 기준 |
|---|---|---|
| KS 통과율 | 분포 충실도 | >90% |
| AD 통과율 | 꼬리 분포 충실도 | >85% |
| ACF-MAE | 시간적 구조(변동성 군집) | GARCH 대비 2× 이내 |
세 지표를 모두 측정하지 않으면 모델의 진짜 약점을 숨기게 된다.
10년 OOS 검증 결과
| 모델 | KS 통과 | AD 통과 | ACF-MAE | 꼬리 지속성 |
|---|---|---|---|---|
| GARCH(1,1) | 5.5% | 낮음 | 최고 | 부분 |
| 표준 HMM | 높음 | 높음 | 나쁨 | ❌ 실패 |
| 하이브리드 HMM | 94.4% | 95.1% | 중간 | ✅ 부분 |
SPY 데이터 2014~2024 훈련, 2025년 전체(249 거래일) OOS. 1,000개 합성 경로 중 약 24%가 현실적 점프 에피소드를 포함한다.
결론: 스트레스 테스트의 새로운 표준
어떤 단일 모델도 모든 차원을 지배하지 않는다. 이것을 받아들이고 용도에 맞게 선택하는 것이 핵심이다:
- 분포 + 꼬리 품질 → 하이브리드 HMM
- 시간적 구조 충실도 → GARCH
크립토 적용 시 완전한 재보정이 필수다. 높은 첨도, 24/7 거래, FTX/ETF 같은 구조적 단절이 있는 BTC는 λ_jump와 분위수 경계를 SPY에서 이식하면 안 된다.
스트레스 테스트 파이프라인:
btc_hmm = HybridHMM(states=laplace_quantiles_btc, jump_lambda=λ_btc)
synthetic_paths = btc_hmm.simulate(n=1000, horizon=252)
# 각 경로에서 전략 백테스트 실행
# P5/P25/P50/P75/P95 포트폴리오 수익 분포 보고
📚 출처 및 참고자료
- 원본 논문: Hybrid Hidden Markov Model for Modeling Equity Excess Growth Rate Dynamics
- 분석: Luxon AI ORACLE 리서치팀
- 원본 파일: oracle-2026-03-28-hybrid-hmm-poisson-jump-regime.md
- 게시일: 2026-03-28
이 분석은 교육·리서치 목적입니다. 투자 조언이 아닙니다.