Modelos no lineales

Modelos no lineales
Modelos ARCH y GARCH
Modelos no lineales
Mogens Bladt
March 3, 2009
Mogens Bladt
Modelos no lineales
Modelos no lineales
Modelos ARCH y GARCH
Cuando un modelo lineal (ARIMA) se ha analizado a fondo y no
produce un resultado satisfactorio se puede intentar espcificar un
modelo no lineal.
Algunos de los fallas en el ajuste de modelos lineales podrı́a indicar
hacia un cierto tipo de modelo no–lineal.
Por ejemplo se podria espcificar un modelo auto–regresivo no lineal
de la siguiente forma
Xt = µ(Xt−1 , Xt−2 , ..., Xt−p ) + t ,
donde t es un ruido blanco con medio zero y varianza σ 2 .
También se podria extender este modelo para permitir que la varianza
depende de los Xt ’s anteriores, i.e.
Xt = µ(Xt−1 , Xt−2 , ..., Xt−p ) + σ(Xt−1 , ..., Xt−p )Wt
donde {Wt } es un ruido blanco con medio zero y varianza 1.
Mogens Bladt
Modelos no lineales
Modelos no lineales
Modelos ARCH y GARCH
Supongamos que Wt son i.i.d. ∼ N(0, 1) y p = 1, i.e.
Xt = µ(Xt−1 ) + σ(Xt−1 )Wt .
Entonces Xt |Xt−1 = x ∼ N(µ(x), σ 2 (x)).
Entonces la distribución de Xt es una mezcla (continua) de
distribuciones normales.
Este tipo de distribuciones tienen colas más pesadas y más kurtosis
(veamos más adelante).
Supongamos que las funciones µ y σ dependen de un parámetro
no–conocido θ.
Si el ruido blanco tiene una distribución normal, entonces la función
de vero–similitud L esta dado por un producto de densidades
normales:
Mogens Bladt
Modelos no lineales
Modelos no lineales
Modelos ARCH y GARCH
L(x1 , ..., xn ; θ) ∝ f (x1 , ..., xn ; θ)
= f (xn |xn−1 , ..., x0 ; θ)f (xn−1 , ..., x0 )
= f (xn |xn−1 ; θ) · · · f (x1 |x0 ; θ)
Entonces
θ̂n = argmaxθ
n
X
log f (xi |xi−1 ; θ).
i=1
Por la normalidad
n X
1
(xi − µ(xi−1 , θ))2
1
2
θ̂n = argmaxθ
− log(2π) − log σ (xi−1 , θ) −
2
2
2σ 2 (xi−1 )
i=1
La dificultad númerico de maximizar esta expressión depende de la
forma explicta de µ y σ, pero en principios no es más dificil que para
el caso lineal.
Mogens Bladt
Modelos no lineales
Modelos no lineales
Modelos ARCH y GARCH
El estimador para θ es consistente (θ̂n → θ cuando n → ∞) y
asintoticamente normal
Si el ruido no es normal es en general mucho más dificil de estimar θ.
Si se utilisa la normal aún sabiendo que no es la distribución correcta,
el estimador θ̂n se conoce como estimador de pseudo–maximo
vero–similitud o de quasi–maximo vero–similitud.
Mogens Bladt
Modelos no lineales
Modelos no lineales
Modelos ARCH y GARCH
La motivación hemos visto en series de IBM, GM, Dell etc. donde
básicamente los log–rendimientos se comportaban como ruido blando
en el sentido que estaban no–correlacionadas, pero el cuadrado del
ruido si tenian corrlaciones.
Este implica que los datos no pueden seguir una distribución normal
porque en este caso la no–correlación implicarı́a independencia.
Si la distribución es normal se puede checar con un plot Q-Q.
Evidencia demuestra que en general las colas son más pesadas en
datos obervados que para la normal.
En la modelación de ARCH y GARCH se modela tanto el desarrollo
del los datos tanto como la volatilidad, i.e. la desvición estandar del
ruido blanco que ahora se supone que depende del tiempo t.
Mogens Bladt
Modelos no lineales
Modelos no lineales
Modelos ARCH y GARCH
La justificación empirica de este tipo de modelo es por (1) evidencia
que hay cambios en la volatilidad con el tiempo (periodos con alta y
baja volatilidad) y (2) colas más pesadas de los obervaciones.
Definición
(Auto–Regresivo Condicionalmente Heterocedástico)
Una series de tiempo {Xt } es de tipo ARCH(p) si
Xt = σt Wt ,
σt2
= α0 +
p
X
2
αj Xt−j
j=1
donde {Wt } son i.i.d. con media zero y varianza 1 y α0 > 0, αj ≥ 0.
Frecuentemente se supone que Wt ∼ N(0, 1) para simplificar la
estimación.
Mogens Bladt
Modelos no lineales
Modelos no lineales
Modelos ARCH y GARCH
En el caso del ARCH(1) tenemos, iterando
Xt2 = σt2 Wt2
2
= α0 Wt2 + α1 Xt−1
Wt2
2
2
2
= α0 Wt2 + α1 α0 Wt−1
Wt2 + α12 Xt−2
Wt−1
Wt2
= ...
2
2
2
= α0 Wt2 + α0 α1 Wt2 Wt−1
+ ... + α0 α1n Wt2 Wt−1
· · · Wt−n
+
2
2
2
α1n+1 Wt2 wt−1
· · · Wt−n
Xt−n−1
Si {Xt } es estacionaria, entonces IE(Xt2 ) es constante y por lo tanto


n
X
2
j
2
2 
2

IE Xt − α0
α1 Wt · · · Wt−j = α1n+1 IE Wt2 · · · IE Wt−n
j=0
2
·IE Xt−n−1
2
= α1n+1 IE Xt−n−1
→0
cuando n → ∞.
Mogens Bladt
Modelos no lineales
Modelos no lineales
Modelos ARCH y GARCH
Entonces
Xt2
= α0
∞
X
2
α1j Wt2 · · · Wt−j
.
j=0
La media de Xt esta dado por
IE(Xt ) = IE(σt Wt ) = IE(σt )IE(Wt ) = 0
y el segundo momento por
IE(Xt2 ) = α0
∞
X
α1j =
j=0
α0
.
1 − α1
Las covarianzas de {Xt } estan dadas por
IE(Xt Xt+h ) = IEIE (Xt Xt+h |Wt+h−1 , Wt+h−2 , ...)
= IE (Xt IE (Xt+h |Wt+h−1 , Wt+h−2 , ...)) = 0
por dado Wt+h−1 , ..., σt+h es constante y Xt+h = σt+h Wt+h entonces
tiene medio condicional zero.
Mogens Bladt
Modelos no lineales
Modelos no lineales
Modelos ARCH y GARCH
Entonces la función ACF es igual a zero.
Calculus similares se puede hacer para ARCH(p).
Para el ARCH(1) tenemos
2
σt2 = α0 + α1 Xt−1
y introduciendo νt = Xt2 − σt2 se puede escribir como
2
Xt2 = α0 + α1 Xt−1
+ νt .
Como
2
νt = Xt2 − σt2 = σt2 (Wt2 − 1) = (α0 + α1 Xt−1
)(Wt2 − 1)
tenemos que
2
IE(νt |Xt−1 , Xt−2 , ...) = (α0 + α1 Xt−1
)IE(Wt2 − 1) = 0.
Entonces IE(νt νt+h ) = 0 para h > 0, pero obviamente las varianzas IE(νt2 )
no son constantes, i.e. es heterocesdástico.
Mogens Bladt
Modelos no lineales
Modelos no lineales
Modelos ARCH y GARCH
Entonces {Xt } es un proceso ARCH(1) si y solo si {Xt2 } es un
proceso AR(1) en un sentido un poco más amplio que lo tradicional.
Entonces un ARCH(1) se puede identificar con el uso del PACF.
Definición
(Auto–Regresivo Condicionalmente Heterocedástico Generalizado)
Una series de tiempo se llama GARCH(p, q) si
Xt = σt Wt , σt2 = α0 +
p
X
i=1
2
αi Xt−i
+
q
X
2
βj σt−j
.
j=1
donde {Wt } es una sucessión de variables i.i.d. con media zero y varianza
1.
Mogens Bladt
Modelos no lineales
Modelos no lineales
Modelos ARCH y GARCH
Usando el mismo método como para ARCH(1),
definiendo
νt = Xt2 − σt2 ó
P
P
p
q
2 +
2
σt2 = Xt2 − ν, se obtiene desde σt2 = α0 i=1 αi Xt−i
j=1 βj σt−j que
Xt2
= α0 +
= α0 +
p
X
i=1
p
X
2
αi Xt−i
+
2
αi Xt−i
+
i=1
q
X
j=1
q
X
2
βj σt−j
+ νt
2
βj Xt−j
−
j=1
max (p,q)
= α0 +
X
2
(αi + βi )Xt−j
−
i=1
q
X
βj νt−j + νt
j=1
q
X
βj νt−j + νt
j=1
definiendo αj = 0 para j > p y βj = 0 para j > q.
Con la misma técnica que antes se demuestra que
IE(νt |Xt−1 , Xt−2 , ...) = 0 y por lo tanto que Cov(Xt , Xt+h ) = 0 para
h 6= 0. Otra vez tenemos la heterocedadisticidad presente como tienen
varianzas distintos.
Mogens Bladt
Modelos no lineales
Modelos no lineales
Modelos ARCH y GARCH
En un amplio sentido, {Xt } sigue un modelo GARCH(p., q) si y solo
si {Xt2 } sigue un proceso ARMA(p, q) con un ruido no homogeneo.
Investigamos condiciones de estacionariedad. Tomando especranzas
en la representación ARMA y usando que IE(νt ) = 0 para todo t,
max (p,q)
IE(Xt2 )
X
= α0 +
2
(αj + βj )IE(Xt−j
)
j=1
y suponiendo estacionariedad para {Xt }, implicando que su varianza
IE(Xt2 ) es constante, se obtiene que
α0
IE(Xt2 ) =
Pmax (p,q)
1 − i=1
(αi + βi )
implicando que debemos imponer la condición
max (p,q)
X
(α1 + βi ) < 1.
i=1
Mogens Bladt
Modelos no lineales