Trabajo No 2. Tópicos en Procesos Estocásticos Norman Giraldo Gómez Escuela de Estadı́stica - Universidad Nacional de Colombia [email protected] Abril, 2011 1. Introducción Este trabajo consiste de 2 puntos asignados de la lista siguiente. La asignación de los puntos está al final del tema. En la Sección 3 hay varios resultados que se utilizan en la solución de los problemas. 2. Problemas 1. Suponga un proceso gaussiano (Xj , j = 1, 2, . . .) tal que E(Xj ) = µ exp(−1/j) y Cov(Xi , Xj ) = R(i, j) = σ 2 exp(−|1/i−1/j|), donde µ y σ se asumen conocidos, y X0 ∼ N(µ, σ 2). a) Encuentre E(Xn Xm ). 2 b) Compruebe que se cumple Xn − → X cuando n → ∞, para cierta variable aleatoria X, aplicando la Proposición 3.2 en las Notas. c) Justifique por qué se cumple X ∼ N(µ, σ 2 ). d ) Se define el proceso (Yn , n = 0, 1, . . .) como la solución de la ecuación recursiva siguiente: Yn = ϕYn−1 + Xn , n = 1, 2, . . . 1 donde ϕ ∈ (−1, 1), y Y0 ∼ N(µ, σ 2 ), es independiente de Xn , n = 1, 2, . . .. Encuentre una expresión para Yn . Sugerencia: use la fórmula de la solución de ecuaciones de la forma xn = axn−1 + bn . e) Encuentre una expresión para V ar(Yn ). Utilice la varianza de variables de P P la forma: α0 X, α ∈ Rn , dada por V ar(α0 X) = i j αi αj Ri,j 2 f ) Compruebe que Yn → Y , para cierta variable Y , utilizando la Proposición 3.2, de las Notas. g) Encuentre Y a partir de la ecuación recursiva Yn = ϕYn−1 +Xn . Sugerencia: 2 utilice el resultado: aXn + bYn → aX + bY . 2. Suponga el proceso estocástico (Xn , n = 0, 1, . . .), definido por las siguientes condiciones: √ i) X0 ∼ Exp(1/ 2) √ ii) Xn |Xn−1 ∼ Exp(Xn−1 / 2), n = 1, 2, . . . a) Encuentre E(Xn |Xn−1 ). Y luego E(Xn ) en función de E(Xn−1 ). Compruebe que: E(Xn ) = 2−(n+1)/2 (1) b) Encuentre V ar(Xn |Xn−1 ). Y luego V ar(Xn ) en función de V ar(Xn−1 ). Compruebe que: V ar(Xn ) = 1 − 2−(n+1) (2) c) Defina Yn = 2(n+1)/2 Xn . Compruebe que Yn es una martingala. P d ) Defina Sn = nj=1 Yj . Aplique la Proposición 3.1 para comprobar que Sn converge a una variable S, a.s. e) Simule una muestra de la variable S y reporte la densidad estimada de log(S). () 3. Suponga un proceso AR(2), Xn , definido por () () Xn() = ϕ1 Xn−1 + ϕ2 ()Xn−2 + Zn , n ∈ Z, (3) para 0 < < 1, y p > 0, con ϕ1 = 2 cos(2π/p), ϕ2() = −1 + . Desarrolle los siguientes puntos. 2 a) Para cada encuentre una condición para p tal que el polinomio autoregresivo de (3) tenga las raı́ces fuera del cı́rculo unitario. () b) Si R (0) es la varianza de Xn , entonces se cumple que lı́m→+0 R (0) = +∞, donde (1 − ϕ2 ())σ 2 R (0) = . (4) (1 + ϕ2())((1 − ϕ2 ())2 − ϕ21 ) c) Si = 0 y ρk es la solución de la ecuación recursiva ρk = ϕ1 ρk−1 +ϕ2 (0)ρk−2 , con ρ0 = 1, ρ1 = 2 cos 2π/2 entonces ρk = cos(2πk/p), para todo k ≥ 0. Por tanto, si > 0 es pequeño, podrı́a suponerse que la función de () autocorrelación de Xn se aproxima a cos(2πk/p). () d ) Use = 0.0003, p = 12. Simule n = 12∗50 valores del proceso Xn . Calcule el periodograma con la función spectrum. Reporte la gráfica de la serie, su fac estimada y la densidad espectral estimada. Qué se observa de especial en este proceso?. Use la instrucción siguiente. spectrum(x, spans=c(5,7), log="dB", ci=0.8) e) Con base en la función armaimp de la librerı́a timsac, calcule la representación causal ó función de impulso, es decir, los valores ψj tales que P Xn = ∞ j=1 ψj Xn−j , la autocovarianza, y el log de la densidad espectral. Comente los resultados. En particular si se cumple que la función de auto() correlación de Xn se aproxima a cos(2πk/p). Use los comandos siguientes. e = 0.0003 p=12 f1 = 2*cos(2*pi/p) f2 = -1 + e # con timsac armaimp( arcoef=c(f1,f2), macoef=NULL, v=1.0, n=1000, lag=20 ) 4. Defina un proceso (Xn , n ∈ Z) de la manera siguiente. Suponga que (Un ) es una sucesión de variables iid Uniformes(0,1). Suponga dos números, a > 0, 0 < b < 1. Defina Xn+1 = −(a + bXn ) ln(Un ), (5) Desarrollar las propiedades de (Xn ) siguientes. a) Compruebe que Xn+1 |Xn ∼ Exp(a + bXn ), donde X ∼ Exp(θ) significa E(X) = θ. 3 b) Itere m veces la ecuación (5) y compruebe que se obtiene la ecuación Xn = −a m X j=0 (−b) j j Y ln(Un−s ) + b m+1 Xn−m s=0 m Y ln(Un−s ). (6) s=0 c) Justifique por qué a partir de (6) se debe tener en L2 j ∞ X Y j Xn = −a (−b) ln(Un−s ). j=0 (7) s=0 d ) Justifique por qué a partir de (7) se puede concluı́r que (Xn ) es estacionario estricto y ergódico. e) A partir de (7) compruebe que E(Xn ) = a/(1 − b). √ 2a2 (1+b) f ) Compruebe que si 0 < b < 2/2 entonces E(Xn2 ) = 1−2b 2 (1−b) . √ g) Compruebe que si 0 < b < 2/2 y m ≥ 0 entonces Cov(Xn , Xn+m ) = bm V ar(Xn ). Como el proceso debe ser estacionario en covarianza entonces R(m) = Cov(Xn , Xn+m ) = b|m| V ar(Xn ). 5. Suponga que (Yn , n ∈ Z) es un proceso AR(p), con media µ > 0, tal que si φ(z) es el polinomio autorregresivo se cumple φ(z) 6= 0 para todo z tal que |z| ≤ 1. Además, φ(L)(Yn ) = Zn , con Zn ∼ RB(0, σ 2), ruido blanco. Suponga adicionalmente que se escogen los coeficientes autorregresivos φj y la varianza σ 2 de tal forma que P(Yn ∈ (−1, 1)) = 1, ∀n ∈ Z, y además se cumple la aproximación log(1 + Yn ) = Yn con error despreciable. Considere las variables Qk asociadas Xk = j=1 (1 + Yj )−1 . La interpretación de estas variables es: Yk es la tasa de rendimiento en el dı́a k de un fondo de fiducia y Xk es el valor presente de $1 para un perı́odo de k dı́as. P Por tanto, la variable Sn = nk=1 Xk es el valor presente de pagos diarios de P $1 durante un perı́odo de n dı́as. Es necesario definir la variable S = nk=1 Xk , denominada “perpetuidad”. Es el valor presente de una perpetuidad, es decir, un tipo de bono sin vencimiento, similar en ese sentido a una acción. Comprobar ó desarrollar lo siguiente. a) Comprobar que las variables Xk tienden a cero en probabilidad. Es decir, se cumple que para todo > 0, P(|Xk | > ) tiende a cero cuando k → ∞. Para esto, desarrolle los puntos siguientes. 4 1) Explique por qué se cumplen las siguientes igualdades: P(|Xk | > ) = P(Xk > ) = P(e− P(e− Pk j=1 Yj > ) = P(e− Pk j=1 Yj Pk j=1 ln(1+Yj ) > ) = (8) > ) = P(e−kȲk > ) = P(e−kȲk > ) = P(Ȳk < − ln()/k). (9) (10) as 2) Compruebe que Sn − → S para una cierta variable S. Para esto desarP rolle los siguientes puntos. Como Sn = nj=1 Xj entonces aplicando la Proposición 3.1 de la Notas, una condición suficiente para que exista el P∞ as lı́mite Sn − → S es que se cumpla j=1 E(|Xj |) < ∞. Para comprobar esta última condición desarrolle los siguientes puntos. (a) Explique por qué se cumple n Y Pn E(|Xn |) = E( (1 + Yj )−1 ) = E(e− j=1 log(1+Yj ) ) j=1 P − n j=1 Yj = E(e ) (b) Suponga que la representación causal de Yn está dada por Yn = P∞ P∞ j=0 ψj Zn−j . Denote M = j=0 ψj . Entonces por el Teorema de Lı́mite Central para procesos estacionarios se cumple que √ d n(Ȳn − µ) − → N(0, σ 2 M 2 ), (11) P donde Ȳn = (1/n) nj=1 Yj . Justifique por qué se debe tener que, para n grande − n X j=1 a Yj ∼ N(−nµ, nσ 2 M 2 ). (c) Explique por qué se cumple que si n es grande entonces E(e− 2 2 se puede aproximar por e−k(µ−σ M /2). (12) Pn j=1 Yj ) (d) Explique por qué se cumple que si n es grande entonces E(|Xn |) 2 2 se puede aproximar por e−k(µ−σ M /2) y por tanto se cumple que ∞ X e −k(µ−σ2 M 2 /2) j=1 5 <∞⇒ ∞ X j=1 E(|Xj |) < ∞ (13) (e) Finalmente explique por qué si se cumple que µ > σ 2M 2 /2 enP∞ tonces se cumple la condición j=1 E(|Xj |) < ∞, y por la Proposición 3.1, Sn converge a.s. a una variable S. 6. Considere un proceso (Yj , j = 0, 1, . . .), la solución positiva de la ecuación recursiva no-lineal siguiente Uj−1 Uj−1 +γ −µ , (14) ln Yj = ω + β ln Yj−1 + α Yj−1 Yj−1 donde Uj ∼ iid N(0, 1), Y ∼ N(6, 1), independiente de las (Uj ). a) Reemplazando Xj = ln Yj la ecuación (14) se transforma en la (15) Xj = ω + βXj−1 + e−Xj−1 (αUj−1 + γ(|Uj−1 | − µ)), (15) b) Simule Yj con µ = 0.6893, η = (ω, β, α, γ) = (1.2000, 0.8000, −0.2400, 0.1800). Compruebe que, empı́ricamente, la recursión en (15) define un proceso estacionario en covarianza. 3. Notas Esta sección contiene algunas fórmulas y resultados para resolver algunos de los problemas. Proposición 3.1. (Condición suficiente para convergencia as de una suma de va, ver [4], Lema 2.2.1, pag. 31). Suponga que (Xn , n ∈ N) es una sucesión de variables P P aleatorias. Y defina Sn = nj=1 Xj . Si se cumple que ∞ j=1 E(|Xj |) < ∞ entonces as existe una variable aleatoria S con P(|S| < ∞) = 1 tal que Sn − → S cuando n → ∞. Proposición 3.2. (Condición necesaria y suficiente para convergencia en L2 ) Un 2 proceso Xn converge en media cuadrática a una variable X, Xn → X, si y solo si E(Xn Xm ) converge a una constante c cuando n, m → ∞. Proposición 3.3. (Ley Fuerte de Grandes Números) Si Xn , n = 1, 2, . . . es una Pn sucesión de variables aletarias i.i.d. con varianza finita entonces (1/n) j=1 Xj → E(X1 ), n → ∞ con probabilidad 1. 6 Proposición 3.4. (ver [5], Proposición 7.2.3, p. 563). Si Xn es una marcha aleatoria y E(X1 ) > 0 entonces Xn → ∞, n → ∞ con probabilidad 1. Si E(X1 ) < 0 entonces Xn → −∞, n → ∞ con probabilidad 1. Proposición 3.5. (ver [1], Theorem 1, p. 212). Se define el proceso (Yn , n ∈ Z) como la solución de la ecuación recursiva Yn+1 = An Yn + Bn , (16) donde ((An , Bn ), n ∈ Z) una sucesión bidimensional estacionaria y ergódica con valores en R2 . Suponga que se cumplen las condiciones: E(log |A0|) < 0 y E(log(|B0|)+ ) < ∞. Entonces Yn existe, es único y se puede representar de la forma ! ∞ n−1 X Y Yn = Ak Bn−j−1 . (17) j=0 k=n−j donde la serie en la parte de la derecha de (17) converge absolutamente a.s. 4. Presentación y Valor del trabajo La presentación se sugiere que sea con formato de artı́culo, es decir, tı́tulo, autores (nombre, carnet, carrera, resumen, en la primera página y luego: desarrollo, conclusiones, bibliografı́a, con páginas numeradas. Elaborado en lo posible en world o latex. Se solicita no empastar (las pastas son un desperdicio de papel). El valor de este trabajo es 33 %. La fecha de entrega es 15 dı́as después de la colocación del trabajo. Asignación de Puntos Grupos Estudiantes 1 David Arango Sampaio 2 Fabio Andrés Gómez de los Rios 3 Diego Fernando Lemus Polania 4 Ledwing Gabriel Osorio Cárdenas 5 Johana Osorno Gómez 6 Edison Hernan Ruiz Osorno 7 Diego Alejandro Salazar Blandón 7 P.1 2 1 1 2 3 2 3 P.2 4 5 3 4 5 4 5 Referencias [1] Brandt, A. (1986) The Stochastic Equation Yn+1 = An Yn + Bn with stationary coefficients. Adv. Appl. Prob. 18, 211–220. [2] Grimmett, G.R. and Stirzaker, D. R. (1992) Probability and Random Processes. Oxford Science Publications. [3] Serfling, R. J. (1990) Approximation Theorems of Mathematical Statistics. John Wiley and Sons. [4] Fuller, W. (1996) Introduction to Statistical Theory of Time Series. John Wiley and Sons. [5] Resnick, S.I. (1992). Adventures in Stochastic Processes Birkhauser, Boston. 8