하이브리드 HMM + 포아송 점프 지속: 레짐 인식 합성 금융 데이터
2026-03-28

하이브리드 HMM + 포아송 점프 지속: 레짐 인식 합성 금융 데이터

서론: 금융 수익률 시뮬레이션의 세 가지 난제

금융 수익률을 현실적으로 시뮬레이션하는 것은 생각보다 어렵다. 실증적으로 관찰되는 “양식화된 사실(stylized facts)“은 세 가지다:

  1. 두꺼운 꼬리 분포: 정규 분포보다 극단 사건이 훨씬 자주 발생
  2. 원 수익률의 자기상관 부재: 수익률 자체는 예측 불가능
  3. 지속적 변동성 군집: 높은 변동성 시기가 지속되는 경향

문제는 기존 모델들이 이 세 가지를 동시에 재현하지 못한다는 점이다. GARCH는 ACF 구조에서 우수하지만 KS/AD 검정에서 5.5% 통과율에 불과하다. 표준 HMM은 분포 충실도는 높지만 변동성에서 너무 빠르게 이탈한다.

Cornell University의 Abdulrahman Alswaidan과 Jeffrey Varner가 arXiv:2603.10202에 발표한 하이브리드 HMM은 이 문제를 정면으로 해결한다.

본론: 하이브리드 HMM의 세 가지 핵심 혁신

1. 라플라스 분위수 기반 상태 이산화

기존 HMM들은 수익률을 가우시안 Z-점수 기준으로 상태에 할당한다. 그러나 금융 수익률의 꼬리는 가우시안보다 훨씬 두껍다. 라플라스 분포가 실증 분포에 더 적합하다.

states = Laplace_CDF_quantiles(returns, q=[0.05, 0.2, 0.5, 0.8, 0.95])

다섯 개 분위수가 극단 하락, 일반 하락, 중립, 일반 상승, 극단 상승 상태를 정의한다. 이 이산화만으로도 꼬리 재현율이 크게 향상된다.

2. 포아송 점프 지속(Jump-Duration) 메커니즘

표준 HMM의 치명적 약점은 극단 상태에서 너무 빠르게 이탈한다는 것이다. 실제 금융 시장에서 폭락 또는 폭등 국면은 며칠간 지속되지만, HMM은 확률적으로 다음 스텝에서 이탈한다.

해법은 포아송 점프 지속 메커니즘이다:

# 꼬리 상태(극단 변동성) 진입 시
if enter_tail_state:
    T_dwell = Poisson(λ_jump)  # 예: λ ≈ 3~5일
    stay_in_state for T_dwell periods

극단 상태에서 체류 시간을 포아송 분포로 샘플링해 강제로 유지한다. 이것이 현실적인 급락/급등 에피소드 모델링의 핵심이다.

3. 직접 계산 전이 행렬 (EM 없음)

Baum-Welch EM 알고리즘은 초기화 민감성이 있고 계산 비용이 높다. 대신 상태가 분위수 임계값으로 정의된 이후에는 직접 빈도 계산이 가능하다:

A_hat[i,j] = count(s_t=i, s_{t+1}=j) / Σ_j count(s_t=i, s_{t+1}=j)

단순하고 강건하며, 주간 재보정이 계산적으로 trivial해진다.

4. Single-Index Model로 다자산 확장

포트폴리오 스트레스 테스트를 위해 424개 자산으로 확장할 때:

r_i = α_i + β_i · r_SPY + ε_i

단변량 HMM 엔진의 결과를 한 번의 패스로 전체 우주에 전파한다. 단면 상관관계를 보존하면서 계산 비용이 선형이다.

결과: 10년 OOS 검증

SPY 데이터 2014~2024년 훈련, 2025년 전체 249 거래일 진짜 OOS:

  • KS 통과율: 표본 내 97.6%, OOS 94.4%
  • AD 통과율: 표본 내 91.3%, OOS 95.1%
  • 약 24% 경로가 점프 에피소드 포함 (ARCH 효과 부분 재현)

결론: 세 가지 실용적 교훈

  1. 어떤 단일 모델도 세 차원 모두를 이기지 못한다. GARCH, HMM, 하이브리드 HMM 각각의 강약점을 명시적으로 선언하고 용도에 맞게 선택해야 한다.

  2. 품질 지표는 KS+AD+ACF-MAE 삼위일체로. 분포 충실도(KS, AD)만으로 충분하지 않다. 시간적 구조 충실도(ACF-MAE)를 함께 측정해야 한다.

  3. 크립토 적용 시 완전한 재보정이 필요하다. 이 연구는 SPY(미국 대형주)에 보정됐다. BTC는 훨씬 두꺼운 꼬리, 다른 λ_jump, 야간 갭 없음이라는 근본적으로 다른 특성을 갖는다. 파라미터를 그대로 이식하면 안 된다.

크립토 레짐 모델에 즉시 적용할 수 있는 변경:

  • 가우시안 빈 → 라플라스 분위수 빈
  • HIGH_VOL 레짐 진입 시 포아송 지속 메커니즘 추가
  • 90일 롤링 윈도우 전이 행렬 직접 계산, 주간 업데이트

📚 출처 및 참고자료

이 분석은 교육·리서치 목적입니다. 투자 조언이 아닙니다.

← BACK TO BLOG