Vectores aleatorios

Descripción breve del tema
1. Distribución conjunta de un vector aleatorio
Vectores aleatorios
„
„
(distribuciones multivariantes)
Vectores aleatorios discretos
Vectores aleatorios continuos
2. Distribuciones marginales y condicionadas
3. Independencia entre variables aleatorias
4. Características de un vector aleatorio
Tema 9
„
„
Esperanza
Covarianza, correlación, matriz de varianzas y covarianzas
5. Transformaciones de vectores aleatorios
6. Distribución normal multivariante
Ignacio Cascos
Depto. Estadística, Universidad Carlos III
1
Objetivos
†
†
†
†
Depto. Estadística, Universidad Carlos III
2
Descripción breve del tema
1. Distribución conjunta de un vector aleatorio
Manejar vectores aleatorios y funciones de
distribución y densidad conjuntas.
Obtener distribuciones marginales y
condicionadas a partir de la conjunta.
Obtener la distribución de una transformación
de un vector aleatorio.
Manejar la distribución normal multivariante.
Ignacio Cascos
Ignacio Cascos
Depto. Estadística, Universidad Carlos III
„
„
Vectores aleatorios discretos
Vectores aleatorios continuos
2. Distribuciones marginales y condicionadas
3. Independencia entre variables aleatorias
4. Características de un vector aleatorio
„
„
Esperanza
Covarianza, correlación, matriz de varianzas y covarianzas
5. Transformaciones de vectores aleatorios
6. Distribución normal multivariante
3
Ignacio Cascos
Depto. Estadística, Universidad Carlos III
4
Distribución conjunta de un vector
aleatorio
Función de distribución conjunta
Dadas X e Y dos variables aleatorias definidas
sobre el mismo espacio muestral E, la aplicación
(X,Y) : E → IR2
es un vector aleatorio bidimensional.
La distribución de probabilidad que describe
simultáneamente el comportamiento de X e Y se
llama distribución de probabilidad conjunta.
Ignacio Cascos
Depto. Estadística, Universidad Carlos III
Dado un vector aleatorio (X,Y) y dados x,y∈IR,
la función de distribución conjunta de (X,Y)
evaluada en (x,y) se define como
FX,Y(x,y) = P(X ≤ x , Y ≤ y)
= P((X ≤ x)∩(Y ≤ y))
5
Ignacio Cascos
Depto. Estadística, Universidad Carlos III
6
Vectores aleatorios discretos
Distribución Multinomial
Dadas X e Y dos variables aleatorias discretas, el
vector aleatorio (X,Y) será discreto y tiene
función de probabilidad conjunta
p(x,y) = P(X = x , Y = y).
Tenemos:
Dado un experimento aleatorio con k resultados
posibles, de tal modo que la probabilidad de cada
resultado p1, p2,…, pk se mantinene constante, un
vector aleatorio (X1,X2,…,Xk) sigue distribución
multinomial si cada Xi representa el número de
veces que ocurre el resultado i-ésimo en n
experimentos independientes.
1.
2.
p(x,y) ≥ 0
ΣxΣyp(x,y) = 1
Función de distribución conjunta
F(x0,y0) = P(X ≤ x0 , Y ≤ y0) = Σx≤x Σy≤y p(x,y)
0
Ignacio Cascos
Depto. Estadística, Universidad Carlos III
0
7
Ignacio Cascos
Depto. Estadística, Universidad Carlos III
8
Distribución Multinomial
Vectores aleatorios continuos
Dados 0 ≤ x1,x2,…,xk ≤ n y 0 ≤ p1,p2,…,pk ≤ 1 con
x1+x2+…+xk = n y p1+p2+…+pk = 1. Si (X1,X2,…,Xk)
sigue distribución multinomial, tenemos
Dadas X e Y dos variables aleatorias continuas, el
vector aleatorio (X,Y) será continuo y tiene
función de densidad conjunta f(x,y) que satisface
P( X1 = x1, X2 = x2 ,...,Xk = xk ) =
n!
x
x
x
p1 1 p2 2 ...pk k
x1!x2!...xk !
1.
f(x,y) ≥ 0 ;
2.
∫ ∫ f(x,y)dxdy = 1 .
Función de distribución conjunta
F(x0,y0) = P(X ≤ x0 , Y ≤ y0) = ∫−∞ ∫−∞ f(x,y)dydx
x0
Ignacio Cascos
Depto. Estadística, Universidad Carlos III
9
Ignacio Cascos
y0
Depto. Estadística, Universidad Carlos III
Vectores aleatorios continuos
Descripción breve del tema
Tenemos que
1. Distribución conjunta de un vector aleatorio
„
„
P(a ≤ X ≤ b , c ≤ Y ≤ d) = ∫ ∫
Y además
f(x,y) = ∂2F(x,y)/∂x∂y
b d
a c f(x,y)dydx
10
Vectores aleatorios discretos
Vectores aleatorios continuos
2. Distribuciones marginales y condicionadas
3. Independencia entre variables aleatorias
4. Características de un vector aleatorio
„
„
Esperanza
Covarianza, correlación, matriz de varianzas y covarianzas
5. Transformaciones de vectores aleatorios
6. Distribución normal multivariante
Ignacio Cascos
Depto. Estadística, Universidad Carlos III
11
Ignacio Cascos
Depto. Estadística, Universidad Carlos III
12
Distribuciones marginales
Distribuciones marginales
A la distribución de cada variable de las que
componen un vector aleatorio se le denomina
distribución marginal. Dado el vector aleatorio
(X,Y) podemos hablar, por tanto, de la
distribución marginal de X y de la distribución
marginal de Y.
†
Ignacio Cascos
Depto. Estadística, Universidad Carlos III
pX(x) = P(X=x) = ΣyP(X=x,Y=y) = Σyp(x,y)
pY(y) = P(Y=y) = ΣxP(X=x,Y=y) = Σxp(x,y)
13
Distribuciones marginales
†
Variables discretas. Dadas X e Y con función
de probabilidad conjunta p(x,y), las funciones
de probabilidad marginales de ambas
variables son
Ignacio Cascos
Depto. Estadística, Universidad Carlos III
14
Distribuciones condicionadas
Variables continuas. Dadas X e Y con función
de densidad conjunta f(x,y), las funciones de
densidad marginales de ambas variables son
Dado el vector aleatorio (X,Y) podemos construir
la distribución de probabilidad de una variable
(por ejemplo X) condicionada a que la otra tome
un valor fijo (Y = y0).
fX(x) = ∫−∞ f(x,y)dy
+∞
fY(y) = ∫−∞ f(x,y)dx
+∞
Ignacio Cascos
Depto. Estadística, Universidad Carlos III
15
Ignacio Cascos
Depto. Estadística, Universidad Carlos III
16
Distribuciones condicionadas
†
Distribuciones condicionadas
Variables discretas. Si la función de
probabilidad conjunta de (X,Y) es p(x,y), la
función de probabilidad de Y condicionada a
X = x0 con pX(x0) > 0 viene dada por
p(y|x0) = p(x0,y)/pX(x0) = P(X=x0,Y=y)/P(X=x0)
†
En general, para cualesquiera x e y tenemos
p(x,y) = p(y|x)pX(x)
Ignacio Cascos
Depto. Estadística, Universidad Carlos III
Variables continuas. Si la función de densidad
conjunta de (X,Y) es f(x,y), la función de
densidad de Y condicionada a X = x0 viene
dada por
f(y|x0) = f(x0,y)/fX(x0) si fX(x0) >0.
En general tenemos
f(x,y) = f(y|x)fX(x)
17
Ignacio Cascos
Depto. Estadística, Universidad Carlos III
18
Descripción breve del tema
Variables aleatorias independientes
1. Distribución conjunta de un vector aleatorio
Dos variables aleatorias X e Y se dicen
independientes si el conocimiento del valor que
toma una, no nos aporta información sobre el
valor que tomará la otra.
Para cualesquiera A,B⊂IR,
„
„
Vectores aleatorios discretos
Vectores aleatorios continuos
2. Distribuciones marginales y condicionadas
3. Independencia entre variables aleatorias
4. Características de un vector aleatorio
„
„
Esperanza
Covarianza, correlación, matriz de varianzas y covarianzas
P((X∈A)∩(Y∈B)) = P(X∈A)P(Y∈B)
5. Transformaciones de vectores aleatorios
6. Distribución normal multivariante
Ignacio Cascos
Depto. Estadística, Universidad Carlos III
19
Ignacio Cascos
Depto. Estadística, Universidad Carlos III
20
Variables aleatorias independientes
†
2.
3.
†
1. Distribución conjunta de un vector aleatorio
Variables aleatorias discretas. Indep. si
1.
„
„
p(y|x) = pY(y)
para cualesquiera x,y o bien
p(x|y) = pX(x)
para cualesquiera x,y o bien
p(x,y) = p(x|y)pY(y) = pX(x)pY(y)
para x,y.
2.
3.
Ignacio Cascos
„
„
f(y|x) = fY(y)
para cualesquiera x,y o bien
f(x|y) = fX(x)
para cualesquiera x,y o bien
f(x,y) = f(x|y)fY(y) = fX(x)fY(y) para x,y.
Depto. Estadística, Universidad Carlos III
21
Ignacio Cascos
†
⎛ E[ X 1 ] ⎞
⎜
⎟
⎜ E[ X 2 ] ⎟
E[ X ] = ⎜
M ⎟
⎜
⎟
⎜ E[ X ]⎟
n ⎠
⎝
22
†
Covarianza. La covarianza mide la relación
lineal entre dos variables,
Cov(X,Y) = E[(X−E[X])(Y−E[Y])]
Propiedades:
1.
2.
3.
4.
Depto. Estadística, Universidad Carlos III
Depto. Estadística, Universidad Carlos III
Características de un vector aleatorio
Esperanza. El vector de medias de X es el vector
cuyas componentes son las esperanzas de cada
componente de X
Ignacio Cascos
Esperanza
Covarianza, correlación, matriz de varianzas y covarianzas
5. Transformaciones de vectores aleatorios
6. Distribución normal multivariante
Características de un vector aleatorio
†
Vectores aleatorios discretos
Vectores aleatorios continuos
2. Distribuciones marginales y condicionadas
3. Independencia entre variables aleatorias
4. Características de un vector aleatorio
Variables aleatorias continuas. Indep. si
1.
Descripción breve del tema
23
Ignacio Cascos
Cov(X,Y) = E[XY]−E[X]E[Y] ;
si X e Y son independientes, Cov(X,Y) = 0 ;
Cov(X,Y) = 0 no garantiza que X e Y sean
independientes ;
Cov(aX+b,cY+d)=acCov(X,Y) .
Depto. Estadística, Universidad Carlos III
24
Características de un vector aleatorio
†
†
Características de un vector aleatorio
Correlación. La correlación también es una
medida de la relación lineal entre dos variables
Cov( X , Y )
ρ ( X ,Y ) =
Var[ X ]Var[Y ]
Propiedades:
1. si X e Y son independientes, ρ(X,Y) = 0 ;
2. ρ(X,Y) = 0 no garantiza X e Y independientes ;
3. | ρ(X,Y) | ≤ 1 ;
4. | ρ(X,aX+b) | = 1 .
Ignacio Cascos
Depto. Estadística, Universidad Carlos III
†
Matriz de varianzas y covarianzas.
M X = E[( X − µ )( X − µ ) t ]
Cov( X 1 , X 2 )
⎛ Var[ X 1 ]
⎜
Var[ X 2 ]
⎜ Cov( X 2 , X 1 )
MX =⎜
M
M
⎜
⎜ Cov( X , X ) Cov( X , X )
1
2
n
n
⎝
25
Ignacio Cascos
L Cov( X 1 , X n ) ⎞
⎟
L Cov( X 2 , X n ) ⎟
⎟
O
M
⎟
Var[ X n ] ⎟⎠
L
Depto. Estadística, Universidad Carlos III
26
Descripción breve del tema
Transformaciones de vectores aleatorios
1. Distribución conjunta de un vector aleatorio
Dado el vector aleatorio X=(X1,X2,…,Xn) con
función de densidad conjunta fX(x1,x2,…,xn), lo
transformamos en otro vector aleatorio
Y=(Y1,Y2,…,Yn) con la misma dimensión
Y1 = g1(X1,X2,…,Xn)
Y2 = g2(X1,X2,…,Xn)
…
Yn = gn(X1,X2,…,Xn)
„
„
Vectores aleatorios discretos
Vectores aleatorios continuos
2. Distribuciones marginales y condicionadas
3. Independencia entre variables aleatorias
4. Características de un vector aleatorio
„
„
Esperanza
Covarianza, correlación, matriz de varianzas y covarianzas
5. Transformaciones de vectores aleatorios
6. Distribución normal multivariante
Ignacio Cascos
Depto. Estadística, Universidad Carlos III
27
Ignacio Cascos
Depto. Estadística, Universidad Carlos III
28
Transformaciones de vectores aleatorios
Transformaciones de vectores aleatorios
de tal modo que existan transformadas inversas.
La función de densidad conjunta de Y será,
dx
fY ( y1 , K , yn ) = f X ( g −1 ( y1 , K , yn ))
dy
†
donde
Ignacio Cascos
dx1
dy1
dx
= M
dy dxn
dy1
dx1
dy n
O M
dxn
L
dy n
L
Depto. Estadística, Universidad Carlos III
f Z ( z) = ∫
29
E[Y] = E[AX] = AE[X]
MY = E[(AX−AE[X])(AX−AE[X])t] = AMXAt
Depto. Estadística, Universidad Carlos III
Ignacio Cascos
31
f X ( z − x ) f Y ( x ) dx
Depto. Estadística, Universidad Carlos III
30
Transformaciones de vectores aleatorios
†
Transformaciones lineales. Dado X un vector
aleatorio n-dimensional y A una matriz m×ndimensional, el vector aleatorio Y = AX
(m-dimensional) cumple
Ignacio Cascos
+∞
−∞
Transformaciones de vectores aleatorios
†
Convolución. Si X e Y son variables aleatorias
independientes con funciones de densidad
fX(x) y fY(y), la función de densidad de Z=X+Y
es
Transformaciones lineales. Dado X un vector
aleatorio n-dimensional y u un vector en IRn,
la variable aleatoria Y= utX cumple
E[Y] = E[utX] = utE[X]
Var[Y] = Var[utX] = utMXu
E[u1X1+u2X2] = u1E[X1] +u2E[X2]
Var[u1X1+u2X2] = utMXu
= u12Var[X1]+u22Var[X2]+2u1u2Cov(X1,X2)
Ignacio Cascos
Depto. Estadística, Universidad Carlos III
32
Descripción breve del tema
Distribución Normal bivariante
1. Distribución conjunta de un vector aleatorio
Decimos que un vector aleatorio X sigue distribución
normal bivariante con vector de medias (µ1,µ2) y matriz de
varianzas y covarianzas Σ si tiene función de densidad
⎧ 1
⎛ x − µ1 ⎞⎫
1
⎟⎟⎬
f ( x1 , x2 ) =
exp⎨− ( x1 − µ1 , x2 − µ 2 )Σ −1 ⎜⎜ 1
1/ 2
−
x
µ
2
2π Σ
2
2
⎝
⎠⎭
⎩
„
„
Vectores aleatorios discretos
Vectores aleatorios continuos
2. Distribuciones marginales y condicionadas
3. Independencia entre variables aleatorias
4. Características de un vector aleatorio
„
„
Esperanza
Covarianza, correlación, matriz de varianzas y covarianzas
⎛ σ 12
si Σ = ⎜⎜
⎝ ρσ 1 σ 2
5. Transformaciones de vectores aleatorios
6. Distribución normal multivariante
1
2πσ 1σ 2
Ignacio Cascos
Depto. Estadística, Universidad Carlos III
33
Distribución Normal bivariante
Ignacio Cascos
⎧⎪ − 1
exp⎨
2
1− ρ 2
⎪⎩ 2 1 − ρ
(
)
ρσ 1 σ 2 ⎞
⎟ , entonces
σ 22 ⎟⎠
⎡⎛ x − µ ⎞ 2 ⎛ x − µ ⎞ 2
⎛ x − µ1 ⎞⎛ x2 − µ 2 ⎞⎤ ⎫⎪
1
2
⎟⎟ + ⎜⎜ 2
⎟⎟ − 2 ρ ⎜⎜ 1
⎟⎟⎜⎜
⎟⎟⎥ ⎬
⎢⎜⎜ 1
⎢⎣⎝ σ 1 ⎠ ⎝ σ 2 ⎠
⎝ σ 1 ⎠⎝ σ 2 ⎠⎥⎦ ⎪⎭
Depto. Estadística, Universidad Carlos III
34
Distribución Normal bivariante
rho=0, sigma1)1, sigma2=3
10
rho=0, sigma1=sigma2
-3
-10
-2
-5
-1
0
0
1
5
2
Las marginales de una distribución Normal
bivariante son normales unidimensionales,
X1~N(µ1,σ1) y X2~N(µ2,σ2) .
-2
0
1
2
3
rho=0.8, sigma1=sigma2
-10
-5
0
Depto. Estadística, Universidad Carlos III
35
Ignacio Cascos
rho=-0.8, sigma1=sigma2
10
-5
0
-5
-4
Ignacio Cascos
5
0
5
La correlación ρ controla el grado de
dependencia lineal entre ellas.
-1
5
-3
-2
0
2
4
Depto. Estadística, Universidad Carlos III
-4
-2
0
2
4
36
Distribución Normal bivariante
†
Propiedades. Dado (X1,X2) un vector aleatorio
normal con vector de medias (µ1,µ2) y matriz
de varianzas y covarianzas ⎛ σ 2
ρσ σ ⎞
1
Σ = ⎜⎜
⎝ ρσ 1 σ 2
1.
2.
3.
Ignacio Cascos
1
σ
si ρ = 0 entonces X1 y X2 son
independientes ;
dados a1,a2∈IR, aX1+aX2 es normal ;
X1|X2=x2 es normal y X2|X1=x1 es normal .
Depto. Estadística, Universidad Carlos III
2
2
2
37
⎟
⎟
⎠