Gestión Aeronáutica: Estadística Teórica Facultad Ciencias Económicas y Empresariales Departamento de Economía Aplicada Profesor: Santiago de la Fuente Fernández ESTADÍSTICA TEÓRICA: ESTIMADORES Estadística Teórica: Estimadores 1 Estadística Teórica: Estimadores 2 Gestión Aeronáutica: Estadística Teórica Facultad Ciencias Económicas y Empresariales Departamento de Economía Aplicada Profesor: Santiago de la Fuente Fernández ESTIMADORES Un estimador es un estadístico (una función de la muestra) utilizado para estimar un parámetro desconocido de la población. Por ejemplo, si se desea conocer el precio medio poblacional de un artículo (parámetro desconocido) se recogen observaciones del precio de dicho artículo en diversos establecimientos (muestra) pudiendo utilizarse la media aritmética de las observaciones para estimar el precio medio poblacional. Para cada parámetro pueden existir varios estimadores diferentes. En general, se elige el estimador que posea mejores propiedades que los restantes, como insesgadez, eficiencia, convergencia y robustez (consistencia). El valor de un estimador proporciona una estimación puntual del valor del parámetro en estudio. En general, se realiza la estimación mediante un intervalo, es decir, se obtiene un intervalo estadístico muestral error estimación dentro del cual se espera se encuentre el valor poblacional dentro de un cierto nivel de confianza. El nivel de confianza es la probabilidad de que a priori el valor poblacional se encuentre contenido en el intervalo. PROPIEDADES DE LA ESPERANZA Y VARIANZA a) EaX1 bX 2 EaX1 EbX 2 a E X1 b E X 2 b) Var aX1 bX2 Var aX1 Var bX2 a2 Var X1 b2 Var X 2 Estadística Teórica: Estimadores 3 SESGO Se denomina sesgo de un estimador a la diferencia entre la esperanza (valor esperado) del estimador y el verdadero valor del parámetro a estimar. Es deseable que un estimador sea insesgado o centrado, esto es, que el sesgo sea nulo para que la esperanza del estimador sea igual al valor del parámetro que se desea estimar. Por ejemplo, si se desea estimar la media de una población, la media aritmética de la muestra es un estimador insesgado de la misma, ya que la esperanza (valor esperado) es igual a la media poblacional. Si una muestra X (x 1 , x 2 , , x n ) procede de una población de media : E x i para i (1, 2, , n) La media aritmética muestral es un estimador insesgado de la media poblacional: 1 n 1 n 1 E x E xi E xi n i 1 n i 1 n 1 n n n E x i i1 1 E x 1 E x 2 E x n n La varianza de una muestra aleatoria simple es un estimador sesgado de la varianza poblacional, siendo su esperanza: n La varianza muestral 2 x (x i x)2 i1 . Para calcular su esperanza n matemática se realizan previamente algunos cálculos sumando y restando la esperanza de la variable aleatoria poblacional. n n (x x) (x x ) 2 2 i 2x i1 n i i1 n 1 n n (xi ) (x ) 2 i1 Desarrollando el cuadrado: Estadística Teórica: Estimadores 4 1 n 2 x n i1 (x i )2 (x )2 2(x i )(x ) 1 n 1 n (x i ) n(x ) 2 (x ) (n x n ) i 1 1 n (x i ) n x n 2n x 2n x 2n x 2n x 2n i1 1 n (x i ) n(x ) i1 n n (x i )2 n(x )2 2(x ) i1 i1 (x i ) n 2 2 n 2 2 2 2 2 n 2 2 Calculando la esperanza matemática de la varianza muestral 2x : 1 E E n 2 x n i1 1 n (x i ) n(x ) E (x i )2 E (x )2 n i1 varianza media 2 2 muestral varianza poblacional En el segundo miembro aparecen dos esperanzas, la primera E(x i )2 coincide con la varianza poblacional 2 al tratarse de una muestra aleatoria simple, la segunda esperanza E(x )2 es la varianza de la media 2 muestral n 2 n 1 2 Por tanto, E n n 2 x 2 La cuasivarianza de una muestra aleatoria simple es un estimador n (x x) 2 i insesgado de la varianza poblacional: s2x Estadística Teórica: Estimadores 5 i1 n1 Relación entre varianza y cuasivarianza: n 2x (n 1) s2x s2x n 2x n1 La esperanza de la cuasivarianza s2x es la varianza poblacional 2 : n n n1 2 n E s2x E 2x . E 2x . . 2 n1 n n 1 n 1 Un estimador ̂ es insesgado (centrado) cuando E(ˆ ) Un estimador ̂ es sesgado sí E(ˆ ) b(ˆ ) b(ˆ ) E(ˆ ) sesgo Un estimador ̂ es asintóticamente insesgado si su posible sesgo tiende a cero al aumentar el tamaño muestral que se calcula: lim b(ˆ ) 0 n 1 Sea el estimador ˆ n1 1 ˆ E() E n 1 n i1 b(ˆ ) E(ˆ ) n x i i1 n 1 1 xi E xi n 1 i 1 n 1 n n n n1 n1 n E(x i ) i1 n1 insesgado asintóticamente Estadística Teórica: Estimadores 6 n 1 (n ) n1 n1 n 0 ERROR CUADRÁTICO MEDIO DE LOS ESTIMADORES (ECM) La utilización de la estimación puntual como si fuera el verdadero valor del parámetro conduce a que se pueda cometer un error más o menos grande. El Error Cuadrático Medio (ECM) de un estimador ̂ viene definido: 2 ˆ ˆ ˆ ˆ ECM() E( ) V() E( ) sesgo 2 sesgo b(ˆ ) E(ˆ ) Cuando el estimador es centrado, el sesgo b(ˆ ) 0 ECM(ˆ ) V(ˆ ) Un error cuadrático medio pequeño indicará que en media el estimador ̂ no se encuentra lejos del parámetro . CONSISTENCIA Si no es posible emplear estimadores de mínima varianza, el requisito mínimo deseable para un estimador es que a medida que el tamaño de la muestra crece, el valor del estimador tienda a ser el valor del parámetro poblacional, propiedad que se denomina consistencia. Un estimador ̂ consistente es un estimador asintóticamente insesgado cuya varianza tiende a cero al aumentar el tamaño muestral. El estimador ̂ es consistente cuando lim E(ˆ ) y n lim V(ˆ ) 0 n EFICIENCIA Un estimador es más eficiente o más preciso que otro estimador, si la varianza del primero es menor que la del segundo. Sean ̂ 1 y ̂ 2 dos estimadores insesgados, se dice que ̂ 1 es más eficiente que ̂ si se verifica que Var(ˆ ) Var(ˆ ) 2 1 2 Var(ˆ 1 ) La eficiencia relativa se mide por la ratio: Var(ˆ ) 2 Estadística Teórica: Estimadores 7 La eficiencia de los estimadores está limitada por las características de la distribución de probabilidad de la muestra de la que proceden. Es insesgado Un estimador es eficiente cuando verifica: Posee varianza mínima La cuestión de tener varianza mínima queda resuelta mediante la Cota de Cramér‐Rao. La varianza de un estimador verifica siempre la Cota de Cramér‐Rao: V(ˆ ) CCR . Un estimador será eficiente cuando V(ˆ ) CCR 2 1 b(ˆ ) ˆ y la cota resulta V() CCR 2 ln L(x, ) nE Si el estimador es insesgado b(ˆ ) 0 : V(ˆ ) CCR 1 ln L(x, ) nE 2 2 1 b(ˆ ) ˆ En muestras aleatorias simples: V() CCR 2 ln L(x, ) nE Es preciso destacar que la Cota de Cramér‐Rao (CCR) no tiene por qué tomar siempre un valor muy pequeño (cercano a cero). Un estimador es asintóticamente eficiente sí: lim V(ˆ ) CCR x El denominador de la Cota de Cramér‐Rao es la cantidad de información de Fisher en una muestra: ln L(X , ) I() E 2 ln L(x , ) o bien i() E 2 donde I() n.i() A la función ln L(X , ) se llama soporte o Log‐verosimilitud. Estadística Teórica: Estimadores 8 La cantidad de información de Fisher I() puede simplificarse en una muestra aleatoria simple (m.a.s.), según sea el caso discreto o continuo, obteniendo la expresión: 2 2 ln P(x 1 , x 2 , , x n ; ) ln P(x ; ) Discreto : E n.E 2 2 Continuo : E ln f(x 1 , x 2 , , x n ; ) n.E ln f(x ; ) MÉTODO DE MÁXIMA VEROSIMILITUD (EMV) La estimación por máxima verosimilitud es un método de optimización que supone que la distribución de probabilidad de las observaciones es conocida. Sea (x 1 , ,x n ) una muestra aleatoria (no necesariamente simple) de una población X con función de masa P (o función de densidad f ) donde ( 1 , , n ). El estimador de máxima verosimilitud (probabilidad conjunta) de es el formado por los valores (ˆ 1 , , ˆ n ) que maximizan la función de verosimilitud de la muestra (x 1 , ,x n ) obtenida: P(x 1 , ) P(x n , ) caso discreto L() L(X; ) L(x 1 , ,x n ; ) f (x ) f (x ) caso continuo n 1 En muchas ocasiones, es más práctico encontrar el estimador de máxima verosimilitud es considerar la función soporte o Log‐verosimilitud ln L(X , ) , en lugar de la función de verosimilitud L() , ya que es más fácil de manejar y presenta los mismos máximos y mínimos. Estadística Teórica: Estimadores 9 ln L() Se despeja ˆ (ˆ 1 , , ˆ n ) de la ecuación: 0 y se ˆ obtiene el estimador de máxima verosimilitud E.M.V(ˆ ) SUFICIENCIA Un estimador ̂ es suficiente cuando no da lugar a una pérdida de información. Es decir, cuando la información basada en ̂ es tan buena como la que hiciera uso de toda la muestra. Para identificar estadísticos suficientes se utiliza el criterio de factorización de Fisher‐Neyman, que dice que dada una muestra aleatoria (x 1 , ,x n ) de una población X con función de masa P (o función de densidad f ) un estadístico ̂ es suficiente para si y sólo sí: ˆ Pθ (x 1 , ,x n ) g θ(x 1 , ,x n ), θ . h(x 1 , ,x n ) caso discreto ˆ fθ (x 1 , ,x n ) g θ(x 1 , ,x n ), θ . h(x 1 , ,x n ) caso continuo Para encontrar un estadístico suficiente ̂ hay que factorizar la función de ˆ θ) . h(x , ,x ) verosimilitud de la forma: L() g (θ, 1 n Estadística Teórica: Estimadores 10 MÉTODO DE LOS MOMENTOS El procedimiento consiste en igualar momentos poblacionales respecto al origen r a los correspondientes momentos muestrales respecto al origen a r , formando así tantas ecuaciones como parámetros poblacionales se pretenden estimar: E(X) 1 2 E(X 2 ) r E(X r ) n ˆ 1 a1 x i x i 1 n n ˆ 2 a2 x 2 i i 1 n n ˆ r ar x Estadística Teórica: Estimadores 11 i 1 n r i EJERCICIOS DE ESTIMADORES La variable aleatoria poblacional "renta de las familias" del municipio de Madrid se distribuye siguiendo un modelo N( , ) . Se extraen muestras aleatorias simples de tamaño 4. Como estimadores del parámetro , se proponen los siguientes: ˆ 1 x 1 2x 2 3x 3 6 ˆ 2 x3 4 x2 3 ˆ 3 x Se pide: a) Comprobar si los estimadores son insesgados b) ¿Cuál es el más eficiente? c) Si tuviera que escoger entre ellos, ¿cuál escogería?. Razone su respuesta a partir del Error Cuadrático Medio. Solución: a) Un estimador ̂ es insesgado (o centrado) cuando se verifica E(ˆ ) 1 x 2x 2 3x 3 E(ˆ 1 ) E 1 E x 1 2x 2 3x 3 6 6 1 1 E(x 1 ) 2E(x 2 ) 3E(x 3 ) 6 6 6 x 4 x2 1 1 E(ˆ 2 ) E 1 E x 1 4 x 2 E(x 1 ) 4E(x 2 ) 3 3 3 1 3 3 1 x x2 x3 x 4 E(ˆ 3 ) E 1 E x 1 x 2 x 3 x 4 4 4 1 1 E(x 1 ) E(x 2 ) E(x 3 ) E(x 4 ) 4 4 4 Estadística Teórica: Estimadores 12 Los tres estimadores son insesgados o centrados. b) El estimador más eficiente es el que tenga menor varianza. 1 x 2x 2 3x 3 V ˆ 1 V 1 36 V x 1 2x 2 3x 3 6 1 1 14 V(x1 ) 4 V(x 2 ) 9V(x 3 ) 14 2 2 0,39 2 36 36 36 x 4 x2 1 1 V ˆ 2 V 1 V x 1 4 x 2 V(x 1 ) 16 V(x 2 ) 9 9 3 1 17 17 2 2 1,89 2 9 9 1 x x2 x3 x 4 V ˆ 3 V 1 16 V x 1 x 2 x 3 x 4 4 1 1 4 4 2 2 0,25 2 V(x 1 ) V(x 2 ) V(x 3 ) V(x 4 ) 16 16 16 El estimador ̂ 3 es el más eficiente. c) ECM(ˆ ) E(ˆ ) 2 V(ˆ ) b(ˆ ) 2 sesgo b(ˆ ) E(ˆ ) Al ser los tres estimadores insesgados b(ˆ ) 0 ECM(ˆ ) V(ˆ ) El error cuadrático medio coincide con la varianza, por tanto, se elige el estimador ̂ 3 por presentar menor varianza. Estadística Teórica: Estimadores 13 La variable aleatoria X representa los gastos mensuales de una empresa, cuya función de densidad es f(, x) x 1 con 0 y 0 x 1 . Se realiza una m.a.s. de tamaño 3, y se proponen tres estimadores: ˆ 1 x ˆ 2 x 12 2x 22 3x 32 x 2x 1 4 x 2 ˆ 3 3 6 6 a) Calcule los sesgos b) Si la muestra que se obtiene es (0,7; 0,1; 0,3), calcule las estimaciones puntuales c) ¿Cuáles son las funciones estimadas para las estimaciones anteriores? Solución: a) 1 x x2 x3 1 E x x x (3 ) ˆ 1 x E(ˆ 1 ) E 1 2 3 3 1 3 3 donde x f(x, ) dx 1 x f(x, ) dx 0 1 x x 1 dx 0 1 x dx 0 1 x 1 1 10 2 Sesgo: E(ˆ 1 ) b(ˆ 1 ) E(ˆ 1 ) 1 1 1 x 12 2x 22 3x 23 1 2 2 2 1 (6 ) ) 2E(x ) 3E(x ) E(ˆ 2 ) E E(x 1 2 3 2 2 6 6 6 2 2 2 2 E(x ) 2 1 0 x f(x, ) dx 2 1 x f(x, ) dx 2 0 1 x 2 1 x dx 2 2 0 Estadística Teórica: Estimadores 14 1 0 x 2 x 1 dx x 12 2x 22 3x 23 1 2 2 2 E(ˆ 2 ) E E(x 1 ) 2E(x 2 ) 3E(x 3 ) 2 2 6 6 2 2 2 Sesgo: b(ˆ 2 ) E ˆ 2 2 2 2 1 1 x 2x 1 4 x 2 1 E(ˆ 3 ) E 3 E x 2x 4 x (3 ) 1 2 6 3 6 6 2 x f(x, ) dx 1 0 x f(x, ) dx 1 x x 1 dx 0 1 x dx 0 1 x 1 1 10 2 2 1 ˆ ˆ Sesgo: b(3 ) E(3 ) 2 1 2( 1) b) Las estimaciones puntuales de la muestra (0,7 ; 0,1 ; 0,3): 0,7 0,1 0,3 ˆ 1 0,367 3 2 2 2 0,7 2.0,1 3.0,3 ˆ 2 0,13 6 0,3 2.0,7 4.0,1 ˆ 0 ˆ 3 0,117 no puede ser, puesto que 6 c) Las funciones estimadas para las estimaciones de la muestra: ˆ 1 f(0,367, x) 0,367 x 0,367 1 0,367 x 0 ,633 ˆ 2 f(0,13, x) 0,13 x 0 ,13 1 0,367 x 0 ,87 Estadística Teórica: Estimadores 15 Sea una población con media de la que se extraen m.a.s. de tamaño n. Considere los siguientes estimadores de la media: 1 ˆ 2 n1 ˆ 1 x n x i i1 a) Estudiar la insesgadez, la eficiencia relativa y la consistencia de ambos estimadores b) Elegir uno de los dos en término del error cuadrático medio Solución: a) Insesgadez: 1 ˆ E(1 ) E(x) E n n i1 1 1 xi E n n n i1 1 xi n n E(x i ) i1 1 (n ) n Sesgo: b(ˆ 1 ) E(ˆ 1 ) 0 1 n 1 E(ˆ 2 ) E xi E n 1 i1 n 1 n 1 (n ) n1 n1 n i1 1 xi n1 n E(x ) i i1 0 cuando n n n n b(ˆ 2 ) E(ˆ 2 ) n1 n1 1 n sesgado asintoticamente Eficiencia: Sean dos estimadores insesgados ̂1 y ̂2 de un parámetro desconocido . Se dice ̂1 es más eficiente que ̂2 si se verifica: Var (ˆ 1 ) ˆ ˆ Var(1 ) Var(2 ) . La eficiencia relativa se mide por la ratio Var (ˆ 2 ) 1 V(ˆ 1 ) V(x) V( n n i1 1 x i) 2 n n i1 1 2 2 V(x i ) 2 (n ) n n Estadística Teórica: Estimadores 16 1 V(ˆ 2 ) V n1 n i1 1 xi (n 1) 2 n V(x i ) i1 1 n 2 2 (n ) (n 1) 2 (n 1) 2 Eficiencia relativa: Var(ˆ 1 ) 2 n (n 1) 2 1 Var(ˆ 1 ) Var(ˆ 2 ) 2 2 2 ˆ Var( 2 ) n (n 1) n El estimador ̂ 2 tiene menor varianza, por lo que es más eficiente que ̂1 Consistencia: Un estimador ̂ es consistente cuando lim E(ˆ ) y lim V(ˆ ) 0 n lim E(ˆ 1 ) lim E(x) n n ˆ 1 2 0 lim V(ˆ 1 ) lim n n n n es consistente 1 ˆ lim E( ) lim n 2 n n1 ˆ 2 lim V(ˆ ) lim n 2 0 2 n (n 1) 2 n b) ECM(ˆ ) E(ˆ ) 2 V(ˆ ) b(ˆ ) 2 es consistente sesgo b(ˆ ) E(ˆ ) 2 2 ECM(ˆ 1 ) V(ˆ 1 ) b(ˆ 1 ) 0 n n 2 2 n 2 2 n 1 2 ECM(ˆ 2 ) V(ˆ 2 ) b(ˆ 2 ) (n 1) 2 (n 1) 2 n1 2 2 n 2 2 El estimador ̂1 será elegido sí ECM(ˆ 1 ) ECM(ˆ 2 ) n (n 1) 2 n 2 2 n 2 2 (n 1) 2 (n 1) 2 (n 1) 2 n 2 2 2 n (n 1) 2 (n 1) 2 Estadística Teórica: Estimadores 17 n 2 (n 1) 2 2 n 2 2 2 2 2 n (n 1) 2 (n 1) 2 n(n 1) 2 (n 1) 2 (2n 1) 2 (2n 1) 2 2 2 n(n 1) 2 (n 1) 2 n 2n 1 2 2 ˆ 1 se elige antes que ˆ 2 Si n 2n 1 2 Si 2 ˆ 2 se elige antes que ˆ 1 n Sea (x 1 ,x 2 , ,x n ) una muestra aleatoria simple de una variable aleatoria X con E(X) y Var(X) 2 Calcular el error cuadrático medio para los siguientes estimadores de : ˆ 1 x 1 ˆ 2 3x 1 2x 2 x 3 6 Solución: Insesgadez E(ˆ 1 ) E(x 1 ) b(ˆ 1 ) 0 3x 1 2x 2 x 3 1 ˆ E( ) E 2 6 3E(x 1 ) 2E(x 2 ) E(x 3 ) 6 1 2 1 3 2 6 6 3 1 2 b(ˆ 2 ) E(ˆ 2 ) sesgo 3 3 Respecto al sesgo es mejor el primer estimador ̂1 que es insesgado o centrado. Varianza Var( 1 ) 2 Estadística Teórica: Estimadores 18 3x 2x 2 x 3 1 Var( 2 ) Var 1 Var 3x 1 2x 2 x 3 6 36 1 1 9Var(x 1 ) 4 Var(x 2 ) Var(x 3 ) 9 2 4 2 2 36 36 14 7 2 2 36 18 Respecto a la varianza es mejor el segundo estimador ̂ 2 por ser 7 2 2 18 El mejor estimador será el que presente menor Error Cuadrático Medio 2 ECM(ˆ 1 ) V(ˆ 1 ) b(ˆ 1 ) 2 0 2 7 2 ECM(ˆ 2 ) V(ˆ 2 ) b(ˆ 2 ) 18 2 2 7 2 4 2 2 18 9 3 El primer estimador ̂1 será mejor sí 2 4 x 18 2 7 2 4 2 11 2 4 2 8 2 2 2 18 9 18 9 9 x 11 11 Estadística Teórica: Estimadores 19 La distribución del peso de las manzanas de una determinada cosecha sigue una distribución normal, cuyo peso medio es desconocido y cuya desviación típica es 7 gramos. Se pide: a) Analizar cuál de los estimadores ̂1 , ̂ 2 del peso medio es mejor respecto del sesgo y de la eficiencia, para una muestra aleatoria simple de tamaño cinco. 5 b) Si ˆ 1 x i1 i y ˆ 2 x 1 2x 2 3x 3 4 x 4 x 5 , obtener los pesos 5 medios estimados a partir de la muestra (125, 135, 130, 137, 142). Solución: a) El peso de las manzanas sigue una distribución N( , 7) Se calculan las esperanzas para analizar el sesgo de los estimadores. E(ˆ 1 ) E 5 i 1 1 x i / 5 E 5 5 i 1 1 xi 5 5 i 1 E x i 1 (5 ) 5 E(ˆ 2 ) E(x 1 2x 2 3x 3 4 x 4 x 5 ) E(x 1 ) 2E(x 2 ) 3E(x 3 ) 4E(x 4 ) E(x 5 ) 2 3 4 Los estimadores ̂1 , ̂ 2 son insesgados (centrados). b) Para analizar la eficiencia de los estimadores se obtienen las varianzas: 5 5 1 1 V(ˆ 1 ) V xi / 5 V xi 25 i 1 25 i 1 5 i1 V xi 1 49 (5. 49) 25 5 V(ˆ 2 ) V(x 1 2x 2 3x 3 4 x 4 x 5 ) V(x 1 ) 4 V( x 2 ) 9V( x 3 ) 16 V( x 4 ) V( x 5 ) (49) 4 (49) 9 (49) 16 (49) (49) 31 (49) 1519 Como los dos estimadores son insesgados y V(ˆ 1 ) V(ˆ 2 ) se elige como mejor el estimador ̂1 , el peso medio de la muestra de las cinco manzanas. Estadística Teórica: Estimadores 20 Sea (x1 ,x2 ,x3 ,x4 ,x5 ) una muestra aleatoria simple de una variable aleatoria X con distribución normal con media ( 5) y varianza 2 . Se proponen los siguientes estimadores: 5 ˆ 1 x i ˆ 2 8x 2 3x 5 i1 Determinar cuál es el mejor estimador para . Justificar la respuesta. Solución: Insesgadez E(ˆ 1 ) E 5 i1 x i E x 1 x 2 x 3 x 4 x 5 5( 5) E(ˆ 2 ) E 8x 2 3x 5 8E(x 2 ) 3E(x 5 ) 8( 5) 3( 5) 5( 5) Ambos estimadores son sesgados, con idéntico sesgo: b(ˆ 1 ) b(ˆ 2 ) 5( 5) 4 25 Varianza Var(1 ) Var x i 5Var(x) 5 2 i1 5 Var( 2 ) Var 8x 2 3x 5 82 Var(x 2 ) 32 Var(x 5 ) 64 2 9 2 73 2 Dado que los dos estimadores tienen el mismo sesgo y el primer estimador 1 tiene menor varianza, será el estimador óptimo. Puede observarse que presenta el menor Error Cuadrático Medio: ECM(ˆ 1 ) V(ˆ 1 ) b(ˆ 1 ) 5 2 4 25 2 2 ECM(ˆ 2 ) V(ˆ 2 ) b(ˆ 2 ) 73 2 4 25 2 Estadística Teórica: Estimadores 21 2 El peso en kilos de los jamones vendidos por una empresa sigue una distribución normal con varianza 4 y peso medio desconocido. Se conoce que el peso medio de los jamones vendidos es superior a 5 kg, y se toman m.a.s. de tamaño 4 para estimar . ¿Cuál de los dos estimadores sería el mejor respondiendo a la insesgadez y eficiencia? x x2 x3 ˆ 1 1 4 x x2 ˆ 2 1 2 Solución: La v.a X i 'peso en kg de los jamones' sigue una distribución normal de varianza 2 4 Para estudiar la insesgadez de los estimadores se calculan sus esperanzas: 3 x x2 x3 1 E(ˆ 1 ) E 1 E(x ) E(x ) E(x ) 1 2 3 4 4 4 3 1 El sesgo del estimador ̂1 será: b(ˆ 1 ) E(ˆ 1 ) 4 4 2 x x2 1 E(x ) E(x ) E(ˆ 2 ) E 1 2 2 1 2 2 El estimador ̂2 es insesgado, b(ˆ 2 ) 0 Atendiendo al sesgo se elige ̂2 Para analizar la eficiencia relativa de los dos estimadores se calculan las respectivas varianzas 1 x x2 x3 V(ˆ 1 ) V 1 V(x 1 x 2 x 3 ) 16 4 Observaciones independientes 1 1 12 3 12 V(x 1 ) V(x 2 ) V(X 3 ) V(x ) 4 16 16 16 4 i 1 1 x x2 1 V(ˆ 2 ) V 1 V(x x ) V(x ) V(x ) 8 2 1 2 1 2 4 2 4 4 Estadística Teórica: Estimadores 22 Respecto a la varianza se elige el estimador ̂1 por ser el de menor varianza. Aparecen decisiones contrapuestas, de modo que el estimador se elige en base al error cuadrático medio: ECM Varianza (sesgo) 2 2 2 12 3 ˆ ECM(1 ) 4 4 16 ECM(ˆ 2 ) 2 0 2 Se analiza cuando es mayor el ECM el primer estimador ̂1 : ECM(ˆ 1 ) ECM(ˆ 2 ) 2 12 2 2 20 16 20 4,47 Si es en valor absoluto mayor que 4,47, el error cuadrático medio de ̂1 es mayor, con lo que se elige el estimador ̂2 . Se conoce que el peso medio de los jamones es superior a 5 kg, no queda duda que el estimador a elegir (con menor error cuadrático medio) es ̂2 Supongamos que la distribución de ingresos de una cierta población es una variable aleatoria con media desconocida y varianza 2 también desconocida. Si queremos estimar el ingreso medio de la población mediante una m.a.s. de tamaño n, respecto de la insesgadez y de la eficiencia. ¿Cuál de los dos estimadores elegiríamos?. ¿Son consistentes? n ˆ 1 x n i i1 n1 ˆ 2 x i i1 n Solución: La v.a x i 'ingresos de cierta población' sigue una distribución normal N( , ) Para analizar el sesgo de los estimadores, se calcula la esperanza: Estadística Teórica: Estimadores 23 n n xi 1 1 E(ˆ 1 ) E E xi i 1 (n 1) n 1 i 1 n 1 1 n (n ) n1 n1 E(x ) El sesgo del estimador ̂1 será: b(ˆ 1 ) E(ˆ 1 ) n x 1 i E(ˆ 2 ) E n i 1 n n 1 E xi i 1 n n E(x i ) i1 n i i1 n 1 n1 n1 1 (n ) n El estimador ̂ 2 , que es la media muestral, es insesgado (centrado) y el estimador que se elige. La eficiencia de los estimadores se analiza a través de su varianza: n x n 1 1 i ˆ V(1 ) V V x i 2 2 i 1 n 1 (n 1) i 1 (n 1) n 2 1 2 (n ) (n 1) 2 (n 1) 2 n x 1 n 1 i 2 V V(ˆ 2 ) V xi i 1 n n i 1 n n i1 n V(x ) i i1 2 1 2 V(x i ) 2 (n ) n n El estimador más eficiente será el de menor varianza. Comparando las varianzas de los estimadores: n 2 2 V(ˆ 1 ) puesto que (n 1)2 n2 V(ˆ 2 ) 2 n (n 1) El estimador ̂ 2 , que es la media muestral, es el mejor tanto al sesgo como a la eficiencia. Los dos estimadores son consistentes: Estadística Teórica: Estimadores 24 n 2 0 E(ˆ 1 ) y lim V(ˆ 1 ) lim nlim n n (n 1) 2 2 lim E(ˆ ) y lim V(ˆ ) lim 0 2 2 n n n n Nota: El estimador de máxima verosimilitud (probabilidad conjunta) de es el formado por los valores (ˆ 1 , , ˆ n ) que maximizan la función de verosimilitud de la muestra (x 1 , ,x n ) obtenida: L() L(X; ) L(x 1 , ,x n ; ) P(x 1 , ) P(x n , ) caso discreto En muchas ocasiones, es más práctico encontrar el estimador de máxima verosimilitud al considerar la función Soporte o Log‐verosimilitud ln L(X , ) , en lugar de la función de verosimilitud L() , ya que es más fácil de manejar y presenta los mismos máximos y mínimos. ln L() 0 y se obtiene Se despeja ˆ (ˆ 1 , , ˆ n ) de la ecuación: ˆ el estimador de máxima verosimilitud E.M.V(ˆ ) Un atleta olímpico de salto de altura se enfrenta a un listón de 2,3 metros. Su entrenador desea estudiar el comportamiento del saltador. Sabe que el número de saltos fallidos por hora es una variable aleatoria distribuida como una Poisson de parámetro . a) Calcular el estimador máximo verosímil del parámetro . b) Analizar sus propiedades. Solución: a) Sea la v.a. X = 'número de saltos fallidos por hora' x E(x) e En la distribución de Poisson: P(X x) x! V(x) La función de verosimilitud L(X, ) en una muestra aleatoria simple de tamaño n: Estadística Teórica: Estimadores 25 n xi n L( ) L(X , ) x1 xn i1 P(x i , ) e e n x1 ! xn ! x! i1 e n i i1 n xi i1 i1 L(X , ) n e n ln L(X , ) ln n e n xi ! x i! i 1 i1 n xi n ln ( xi i1 n x !) ln(e ) ln ( n n i ) i1 n ln L(X , ) n x ln ln(x !) n i i1 i i1 n x ln ln(x !) n i i i1 i1 Para obtener el estimador de máxima verosimilitud EMV(ˆ ) , se deriva la expresión anterior respecto del parámetro para obtener, sustituyendo por ̂ n lnL(X , ) n 0 ˆ i1 xi 1 n 0 ˆ ˆ xi i1 n x El estimador de máxima verosimilitud (estimador que ofrece mayor credibilidad) viene dado por la media muestral EMV(ˆ ) x b) Propiedades de Insesgadez, Consistencia y Eficiencia Insesgadez El estimador ̂ es insesgado (centrado) sí E(ˆ ) n xi i1 1 n 1 E(ˆ ) E E( x i ) n n n i 1 n i1 E(x i ) 1 (n ) n Estadística Teórica: Estimadores 26 n xi i1 1 V(ˆ ) V(x) V 2 n n n V(x i ) i1 1 (n ) 2 n n Consistencia Cuando no es posible emplear estimadores de máxima verosimilitud, el requisito mínimo deseable para un estimador es que sea consistente. El estimador ̂ es consistente cuando lim E(ˆ ) n lim E(ˆ ) lim n n y y lim V(ˆ ) 0 n 0 n n lim V(ˆ ) lim n El estimador ̂ es consistente Para que un estimador sea eficiente tiene que ser centrado y de varianza mínima. La varianza mínima se analiza en virtud de la acotación de Cramer‐Rao: 2 1 b(ˆ ) V(ˆ ) CCR 2 ln P(x 1 , x 2 , , x n ; ) E La cantidad de información de Fisher I( ) puede simplificarse en una muestra aleatoria simple (m.a.s.), obteniendo la expresión: 2 ln P(x 1 , x 2 , , x n ; ) ln P(x ; ) I( ) E n.E 2 b(ˆ ) 0 1 b(ˆ ) 1 ˆ ) CCR V(ˆ ) CCR V( 2 2 ln P(x ; ) ln P(x ; ) n.E n.E El estimador es eficiente cuando V(ˆ ) CCR Eficiencia x e Siendo, P(X x) x! Estadística Teórica: Estimadores 27 x lnP(x , ) ln e xln ln(x!) x! lnP(x , ) x x 1 2 lnP(x , ) 1 1 1 x 2 2 E E E(x ) E(x x) V(x) 2 2 2 1 2 2 En consecuencia, V(ˆ ) 1 1 n n El menor valor de la varianza del estimador será n Se sabe que V(ˆ ) V(x) , lo que muestra V(ˆ ) CCR , el estimador n empleado es eficiente. Sea la distribución N( , ) , con la media y varianza desconocidas. Calcular los estimadores máximo‐verosímiles de y 2 Solución: Función de verosimilitud: L(X; , 2 ) (x ) 1 1 2 e 2 2 2 2 (x ) 1 2 2 e 2 2 2 2 (x ) 1 n 2 e 2 2 2 n (xi ) 2 1 n 2 n 2 2 e i1 2 2 (2 ) ( ) Función soporte o Log‐verosimilitud: Estadística Teórica: Estimadores 28 2 (xi ) 2 1 i 2 1 2 2 ln L(X; , ) ln e n n 2 2 2 (2 ) ( ) n n (x ) 2 i n n i1 ln(2 ) ln( 2 ) 2 2 2 2 n (x ) 2 i n n i1 ln L(X; , 2 ) ln(2 ) ln( 2 ) 2 2 2 2 Para obtener los estimadores de máxima verosimilitud de ̂ y ̂ 2 se deriva la expresión anterior respecto de los parámetros, sustituyendo por ̂ e 2 por ̂ 2 , e igualando a cero: n ln L(X; , 2 ) ˆ (x ˆ ) n i i1 2 0 ˆ x i1 n i x n ln L(X; , ) n 2 ˆ 2 ˆ 2 2 (x ) n 2 i i1 ˆ 3 n (x i x) i1 En conclusión, ˆ x y ˆ 2 n (x ) 2 i 0 ˆ 2 i1 n 2 2x 2 ln L(X; ) n La condición de máximo se verifica, pues: 0 2 2 ˆ Los estimadores máximo‐verosímiles de y 2 son la media y la varianza muestrales. Estadística Teórica: Estimadores 29 En una distribución N( , ) , se estima la media poblacional mediante la media de una muestra aleatoria simple (x 1 ,x 2 , ,x n ) . El 2 estimador es insesgado y su varianza V(x) . n Demostrar que la media muestral es un estimador eficiente. Solución: La varianza de un estimador verifica siempre la Cota de Cramer‐Rao: V(ˆ ) CCR . Un estimador es eficiente cuando V(ˆ ) CCR Para obtener la cota de Cramer‐Rao se parte de la función de densidad poblacional: 1 CCR 2 lnf(x, ) nE Función de densidad poblacional: f(x, ) 1 e 2 (x )2 2 2 Tomando logaritmos neperianos, se tiene: (x ) 1 2 lnf(x, ) ln e 2 2 2 1 (x )2 ln ln2 2 2 2 Derivando respecto a : 2 2 lnf(x, ) 1 x lnf(x, ) (x ) 2 2(x ) 2 4 2 La esperanza matemática: (x )2 2 1 lnf(x, ) E E 4 4 2 2 Sustituyendo el valor de la esperanza matemática en la expresión de la cota para estimadores insesgados: Estadística Teórica: Estimadores 30 1 2 CCR 2 1 n lnf(x, ) n 2 nE 1 La varianza del estimador coincide con la cota de Cramer‐Rao, V(x) CCR , concluyendo que la media muestral es un estimador eficiente de la media poblacional en la distribución normal. Calcular el estimador máximo verosímil del parámetro 'a' de las funciones: a) f(x ,a) a2 e ax siendo x 0 en muestras aleatorias simples de tamaño n b) f(x,a) ae ax para x 0 , a 0 en muestras aleatorias simples de tamaño 2 Solución: a) f(x ,a) a2 e ax f(x ,a) a2 e ax donde x 0 en m.a.s. de tamaño n Función de verosimilitud: L(X , a) L(x 1 , x 2 , , x n ; a) (a e 2 ax1 2 ).(a e ax 2 ) (a e 2 axn ) a e 2n a n xi i1 Función soporte o Log‐verosimilitud: ln L(X , a) ln (a e 2n a n xi i1 ) 2n lna a n x i i1 ˆ , se deriva la Para obtener el estimador de máxima verosimilitud EMV(a) expresión anterior respecto del parámetro para obtener, sustituyendo a por â e igualando a cero: ln L(X , a) 2n n 2n 2 2 aˆ xi 0 aˆ n a a i 1 a aˆ x x a aˆ xi i 1 b) Sea f(x,a) ae ax para x 0 , a 0 en m.a.s. de tamaño 2 Función de verosimilitud: Estadística Teórica: Estimadores 31 L(X , a) L(x 1 , x 2 ; a) (ae ax1 ).(ae ax2 ) a2 e a(x1 x2 ) Función soporte o Log‐verosimilitud: ln L(X , a) ln a2 e a(x1 x2 ) 2 lna a(x 1 x 2 ) Derivando respecto de a, igualando a cero y sustituyendo a por â : ln L(X , a) 2 2 1 (x 1 x 2 ) 0 aˆ a a x1 x 2 x a aˆ a aˆ En una distribución N( , ) se estima la media poblacional en una muestra aleatoria simple de tamaño n (x 1 ,x 2 , ,x n ) por medio de la función muestral: n ˆ ix i i1 n Estúdiese la eficiencia del estimador. Solución: Un estimador es eficiente cuando V(ˆ ) CCR Para hallar la cota de Cramer‐Rao se necesita saber en primer lugar si el estimador es insesgado o no, se calcula para ello la esperanza matemática: n ix i i1 1 E(ˆ ) E n n 1 n n i1 i E(x i ) n E(ix ) i i1 1 E(x1 ) 2E(x 2 ) 3E(x3 ) nE(xn ) n 1 2 3 n ) 1 2 3 n n n Estadística Teórica: Estimadores 32 (n 1) n (n 1) 2 2 n E(ˆ ) b(ˆ ) sesgo b(ˆ ) E(ˆ ) n1 n1 2 2 Varianza del estimador: n ix i i 1 1 V(ˆ ) V n n2 n 1 V(ix i ) 2 n i1 n i V(x ) 2 i i1 1 2 1 V(x 1 ) 22 V(x 2 ) 32 V(x 3 ) n2 V(x n ) 2 n 1 2 2 2 2 2 2 2 2 2 2 2 1 2 3 n 2 1 22 32 n2 n n 2 (n 1)(2n 1) 2 n (n 1)(2n 1) 2 V(ˆ ) 6 6n n 1 b(ˆ ) 2 Cota de Cramer‐Rao CCR lnL(x, ) nE 2 2 n1 (n 1) 1 b(ˆ ) 1 2 4 2 2 La Información de Fisher I() n I0 () de la muestra: 2 lnL(X, ) lnL(x, ) I0 () E nE 2 se obtiene a partir de la función de densidad poblacional 1 f(x, ) e 2 (x ) 2 2 2 Tomando logaritmos neperianos, se tiene: Estadística Teórica: Estimadores 33 (x ) 1 2 lnf(x, ) ln e 2 2 2 1 (x ) 2 ln ln2 2 2 2 Derivando respecto a : 2 2 lnf(x, ) 1 x lnf(x, ) (x ) 2(x ) 2 4 2 2 (x )2 2 1 lnf(x, ) La esperanza matemática: E E 4 2 4 2 Atendiendo a la aditividad de esta medida: I() n I0 () n 2 (n 1)2 1 b(ˆ ) (n 1)2 2 2 (n 1)(2n 1) 4 CCR V(ˆ ) 2 n 4n 6n lnL(x, ) n E 2 2 Al ser la varianza del estimador mayor que la cota de Cramer‐Rao: 2 (n 1)(2n 1) (n 1)2 2 V(ˆ ) CCR 6n 4n El estimador no es eficiente, siempre que n 1 2 Para n 1 : V(ˆ ) CCR el estimador es eficiente. n Estadística Teórica: Estimadores 34 Para que un estimador sea eficiente tiene que ser centrado y de varianza mínima. La varianza mínima se analiza en virtud de la acotación de Cramer‐Rao (conocida también como desigualdad de la información). En el caso continuo: V( ˆ ) CCR 1 I() 1 ln L(x ; ) E 2 1 ln f(x ; ) n E 2 La información de Fisher I() es una cota inferior para la varianza de un estimador insesgado del parámetro. Un estimador es eficiente cuando V( ˆ ) CCR I( )1 Cuando se extiende la condición de regularidad a la segunda derivada en un parámetro bidimensional ( , ) , se puede utilizar una forma alternativa de la información de Fisher para obtener una nueva desigualdad de Cramer‐Rao: V( ˆ ) CCR 1 I() 1 2 ln L(x ; ) E 2 2 1 2 ln f(x) n E 2 2 Un estimador es eficiente cuando V( ˆ , ˆ ) CCR I( , )1 La matriz de información de Fisher I( , ) , matriz de segundas derivadas (Jacobiano), viene dada por la expresión: 2 2 ln L( , ) ln L( , ) I( , ) E 2 2 ln L( , ) ln L( , ) Estadística Teórica: Estimadores 35 A partir de una muestra aleatoria simple X de tamaño n, determinar la matriz de información de Fisher de una población con distribución N( , ) , respecto a los dos parámetros y . Solución: Función de densidad poblacional: f(x) 1 2 2 e (x )2 2 2 Función de verosimilitud: L( , ) L(X; , ) (x ) 2 1 e 2 2 2 2 (x ) 2 1 e 2 2 2 2 (x ) 2 1 e 2 2 2 2 n (xi ) 2 1 n 2 (2 ) n 2 i1 2 2 e Función soporte o Log‐verosimilitud: (xi ) 2 i1 n 2 1 n n 1 2 2 ln2 ln 2 (x i ) 2 ln L( , ) ln e n n 2 2 2 i 1 2 2 (2 ) n Para determinar la información de Fisher se deriva la expresión anterior respecto de los parámetros y : n n 1 n 2 ln L( , ) ln2 ln 2 (x i ) 2 2 2 2 i 1 ln L( , ) 1 n 2 (x i ) i1 n ln L( , ) n (x ) 2 i i1 3 Estadística Teórica: Estimadores 36 1 Cálculo de las segundas derivadas x , ˆ 2 n (x i x)2 i1 n 2 ln L(X; , ) 1 n 1 2 2 (x i ) i 1 (x , ˆ 2 ) (x , ˆ 2 ) (x , ˆ 2 ) n ˆ 2 2 ln L(X; , ) 2 ln L(X; , ) 1 n 2 (x i ) i 1 (x , ˆ 2 ) (x , ˆ 2 ) (x , ˆ 2 ) n 2 (x i ) i1 3 0 (x , ˆ 2 ) 2 ln L(X; , ) (x , ˆ 2 ) n n (x ) i i1 3 2 (x , ˆ 2 ) n 2 n n n 2 3 2 (x i ) 6 2 i1 (x , ˆ 2 ) 3 (x i ) 2 i1 4 2n n 3n ˆ 2 2 4 2 ˆ ˆ ˆ Matriz de Información de Fisher I( , ) : 2 2 ln L( , ) ln L( , ) I( , ) E 2 2 ln L( , ) ln L( , ) n ˆ 2 0 n 0 2 ˆ 2n 2 0 ˆ 0 2n ˆ 2 Estadística Teórica: Estimadores 37 (x , ˆ ) 2 Al ser x i un elemento de una muestra aleatoria simple de una población normal N( , ) , se tiene que E(x i ) 0 y E(x i )2 2 Se puede obtener la distribución de (ˆ , ˆ ) f(x) 1 2 2 e (x )2 2 2 Función soporte: ln f(x) ln ln ln (x 2 ) 1 1 e 2 e ln 2 2 2 2 (x )2 1 (x )2 2 2 ln 2 2 2 2 2 (x )2 2 2 ln 2 1 (x )2 2 ln 2 2 Para determinar la información de Fisher se deriva la expresión anterior respecto de los parámetros y : ln f(x) ln 1 (x )2 2 ln 2 2 (x ) ln f(x) 2 1 (x )2 2 1 (x )2 ln f(x) 4 2 3 Cálculo de las segundas derivadas: 2 1 f(x) 2 2 2 2(x ) 2 f(x) f(x) (x ) 4 3 Estadística Teórica: Estimadores 38 2 2 1 1 3(x ) 2 2 3 f(x) 2 (x ) 6 2 4 Matriz de Información de Fisher I( , ) : 2 2 f(x) f(x) I0 ( , ) E 2 2 f(x) f(x) 1 2 E 2(x ) 3 1 2 0 2(x ) 2(x ) 1 2 3 3 E 2 3(x ) 1 3(x ) 2 2(x ) 1 2 4 3 2 4 1 2 1 3 2 0 2 4 0 0 2 2 Como x un elemento de una muestra aleatoria simple de una población normal N( , ) , se tiene que E(x ) 0 y E(x )2 2 1 2 La matriz de información de Fisher: I0 ( , ) 0 Atendiendo a la aditividad de esta medida: 1 2 I( , ) n I0 ( , ) n 0 n 0 2 2 0 2 0 2n 2 Estadística Teórica: Estimadores 39 0 2 2 1 2 0 0 2 4 2 2 2 2 1 I0 ( , ) 2 0 4 2 0 1 0 2 0 2 2 Por el Teorema Central del Límite la distribución asintótica de (ˆ , ˆ )t es: 2 ˆ 0 n N 0 , I0 ( , )1 N , ˆ 0 0 0 2 2 Una aplicación directa se encuentra en el Valor en Riesgo o Value at Risk (VaR), medida ampliamente utilizada en una cartera de inversiones de activos financieros. En una cartera de inversiones, asumiendo mercados normales y que no se produce negociación en la cartera, el VaR se define como un valor límite tal que la probabilidad de que una pérdida a precios de mercados en la cartera sobre un horizonte temporal dado exceda ese valor sea el nivel de probabilidad dado. Parámetros comunes para el VaR son probabilidades de 1% y 5% y horizontes temporales de un día y de dos semanas, aunque también se utilizan otras combinaciones. PRÁCTICA: Una empresa que cotiza en Bolsa considera como pérdidas todos los rendimientos inferiores a 3 euros por acción, es decir, los beneficios siguen una distribución N 3 , . Las pérdidas máximas esperadas para un nivel de significación son VaR 3 z . ˆ 3 z ˆ La distribución del estimador VaR ˆ 3 z ˆ 1 z ˆ 3 VaR ˆ La distribución asintótica de (ˆ , ˆ ) : t VaR N 0 , n VaR Estadística Teórica: Estimadores 40 2 z 2 2 2 MÉTODO DE LOS MOMENTOS: Procedimiento consistente en igualar momentos poblacionales respecto al origen r a los correspondientes momentos muestrales respecto al origen ar , formando así tantas ecuaciones como parámetros poblacionales se pretenden estimar: n ˆ 1 a1 1 E(X) x i1 n ˆ 2 a2 2 E(X ) 2 n x 2i i x i1 n n ˆ r ar r E(X r ) x r i i1 n Sea una población definida por: P(X 1) 1 , P(X 0) , 2 2 1 , donde 0 1 , 0 1 . Estimar los parámetros y 2 por el método de los momentos, estudiando si son insesgados. P(X 1) Solución: Puesto que hay que estimar dos parámetros y hay que calcular los dos primeros momentos. momentos poblacionales x i P(X x i ) 1 E(X) i 1 1 (0) (1) (1) 2 2 2 2 2 E(X 2 ) x 2i P(X x i ) i 2 1 2 2 1 (1) 2 (0) (1) 2 2 2 2 Estadística Teórica: Estimadores 41 momentos muestrales xi x 2i a1 x i n a2 i n a x 2x 1 1 2 2 a a2 2a2 2 2 2 2 2x 2a 2 2 ˆ 1 a2 x ˆ 1 a2 x Insesgadez E(ˆ ) E(1 a2 x) 2 1 E(a2 ) E(x) 1 2 1 2 E(ˆ ) E(1 a2 x) 1 E(a2 ) E(x) 2 1 2 1 2 2 Los estimadores y son insesgados. Estadística Teórica: Estimadores 42 2 Un estimador ̂ es suficiente cuando no da lugar a una pérdida de información. Es decir, cuando la información basada en ̂ es tan buena como la que hiciera uso de toda la muestra. Para identificar estadísticos suficientes se utiliza el Teorema de Factorización, que establece que dada una muestra aleatoria (x 1 , ,x n ) de una población X con función de densidad f (caso continuo) un estadístico ̂ es suficiente para sí y sólo sí: f (x 1 , ,x n ) g ˆ (x 1 , ,x n ), . h(x 1 , ,x n ) Para encontrar un estadístico suficiente ̂ hay que factorizar la función de verosimilitud de la forma: L() g(ˆ , ) . h(x 1 , ,x n ) Una muestra aleatoria (x 1 , ,x n ) de la población tiene como función x 1 si x (0,1) de densidad f (x) >0 0 en el resto a) Hallar un estadístico suficiente b) Estimador de máxima verosimilitud de c) Estimador de por el método de los momentos Solución: a) Para encontrar un estadístico suficiente ̂ hay que factorizar la función de verosimilitud de la forma: L() g(ˆ , ) . h(x 1 , ,x n ) Función de verosimilitud: L() f (x 1 ) f (x 2 ) f (x n ) ( x 1 1 ) ( x 2 1 ) ( x n 1 ) n (x 1 x n ) 1 Por tanto, ˆ x 1 , ,x n es un estadístico suficiente. b) L() n (x 1 , ,x n ) 1 Función soporte o Log‐verosimilitud: Estadística Teórica: Estimadores 43 n n ln L() ln n (x 1 , ,x n ) 1 ln n ln x i 1 ln n ln(x i 1 ) i 1 i1 lnL() n lnL() n ln 1 ln(x i ) i1 n ˆ n ln(x i ) n n ln(x ) 0 i i1 i1 c) Se plantea la ecuación E X x x E(X) 1 0 x f (x)dx x ( 1) ˆ 1 x x 1 dx 0 1 0 1 x 1 x dx 1 0 1 x 1 x Una muestra aleatoria (x 1 , ,x n ) de la población tiene como función de densidad e x f (x) 0 si x 0 en el resto a) Hallar un estimador por el método de los momentos de b) Estudiar si el estimador encontrado en el apartado anterior es insesgado para estimar el parámetro Solución: a) Se plantea la ecuación: E X x integración por partes x E X x f (x)dx x e x dx 1 ˆ x 1 x x e dx x( e x ) e x dx xe x e x du u u dv v v Estadística Teórica: Estimadores 44 1 x (1 x) e x e x e xe x dx e 1 x x 1 e b) Un estimador es insesgado o centrado cuando su valor probable coincide con el valor del parámetro a estimar. Es decir, E ˆ E ˆ E(x 1) E(x ) 1 ( 1) 1 Una muestra aleatoria (x 1 , ,x n ) de la población tiene como función θ2 x e θ x si x 0 de densidad fθ (x) en el resto 0 Hallar el estimador de máxima verosimilitud de Solución: La función de verosimilitud L() θx L(θ) fθ (x 1 ) fθ (x 2 ) fθ (x n ) θ2 x 1 e 1 θ2 x e θ x 2 2 θ2 x e θ x n n n (x 1 x n ) e 2n ( x1 x 2 xn ) L() 2n (x1 xn ) e xi i1 n ln L() (2n) ln ln x n i i1 x i i1 n lnL() (2n) ln lnx n i i1 lnL() 2n n i1 xi i1 n xi ln L() ln 2n (x1 xn ) e i 1 n (x 1 x n ) e 2n x i 0 ˆ x i i1 2n n x i i1 Estadística Teórica: Estimadores 45 El coseno X del ángulo con el que se emiten los electrones en un proceso radioactivo es una variable aleatoria con función de densidad (1 x) 2 1 x 1 , 1 1 f (x) en el resto 0 Se considera una muestra aleatoria (X1 , ,Xn ) de la variable aleatoria a) Obtener el estimador por el método de los momentos b) Calcular la varianza de este estimador y demostrar que es consistente Solución: a) Se plantea la ecuación E X x 1 x 2 x 3 1 x ˆ 3 x x E X x dx 2 6 1 3 1 2 1 b) V(ˆ ) V(3 x) 9V(x) 9 2 V(X) E(X ) E(X) 2 V(X) 9 V(X) n n 2 1 x x dx 2 3 1 2 1 1 x 3 x 4 3 2 6 8 9 1 3 2 9 9 3 2 3 2 ˆ de donde, V() V(X) n n 9 n Consistencia o robustez del estimador ˆ lim E(ˆ ) lim E(3 x) lim 3E(x) 3E(X) 3 n n n 3 3 2 ˆ lim V() lim V(3 x) lim 0 n n n n Queda probado que el estimador ̂ es consistente Estadística Teórica: Estimadores 46 En un estacionamiento el número de veces que se abre la barrera en un intervalo de 10 minutos, para que pasen vehículos en un sector de seguridad, se considera una variable aleatoria con distribución de Poisson de parámetro desconocido. a) En una muestra aleatoria de 8 intervalos de 10 minutos cada uno, elegidos de forma independiente, se registra para cada intervalo el valor que toma la variable en estudio. 3 5 8 7 4 5 6 2 Encontrar la estimación máximo verosímil de b) Sea (x 1 , ,x n ) una muestra aleatoria de tamaño n que sigue una distribución de Poisson. Si ˆ 1 n i1 x 3x n xi ˆ , 2 1 son estimadores. 4 n Determinar el mejor estimador del parámetro Solución: a) X = "número de veces que se abre la barrera en un intervalo de 10 minutos", X P( ) x e P(X, ) x! 0 x 0, 1, 2, ... otro caso Función de verosimilitud: n n L( ) L(X , ) i1 xi i1 P(x i , ) e e n x1 ! xn ! x1 xn x! i i1 xi n i 1 xi n i1 lnL(X , ) ln n e ln( ) ln x ! i i1 n n n i1 n x ln ln(x !) n i i1 i i1 Estadística Teórica: Estimadores 47 x i ! ln(e n ) e n n n x ln ln(x !) n lnL(X , ) i i i1 i 1 Para obtener el estimador de máxima verosimilitud EMV(ˆ ) , se deriva la expresión anterior respecto del parámetro para obtener, sustituyendo por ̂ n n lnL(X , ) 0 ˆ xi i1 1 n 0 ˆ ˆ xi i1 n x El estimador de máxima verosimilitud viene dado por la media muestral EMV(ˆ ) x Utilizando la muestra aleatoria de ocho intervalos de 10 minutos, se obtiene el estimador máximo verosímil: 3587 4562 ˆ 5 8 En consecuencia, en una muestra aleatoria de ocho intervalos de 10 minutos cada uno, elegidos de forma independiente, la estimación máxima verosímil corresponde a que la barrera se abre 5 veces. b) Se analizan si los estimadores son o no insesgados, esto es, si la esperanza del estimador coincide con el parámetro a estimar. E(ˆ 1 ) E n i1 xi 1 n n n E(x i ) i1 n n 3 x 3x n 1 E(ˆ 2 ) E 1 E(x 1 ) 3E(x 2 ) 4 4 4 Ambos estimadores son insesgados. Varianza de cada estimador: V(ˆ 1 ) V n i1 xi 1 n n2 n i1 V(x i ) n n2 n Estadística Teórica: Estimadores 48 9 10 5 x 3x n 1 V(ˆ 2 ) V 1 V(x 1 ) 9V(x 2 ) 4 16 16 16 8 La efectividad de los estimadores depende del tamaño de la muestra: Si la muestra es igual a 1 (n 1) el estimador más eficiente es ̂ 2 Si la muestra es mayor que 1 (n 1) el estimador más eficiente es ̂ 1 Sea (x 1 , ,x n ) una muestra aleatoria de tamaño n, distribuida según f(x, ) con desconocido, donde X representa el tiempo máximo necesario para determinar un proceso en segundos: ( 1)x f(X, ) 0 0 x 1 ; 1 otro caso a) Determinar el estimador máximo verosímil de b) Determinar la estimación máximo verosímil de en una muestra aleatoria simple constituida por los datos: 0,7 0,9 0,6 0,8 0,9 0,7 0,9 0,8 Estimar la probabilidad del tiempo máximo necesario para terminar un proceso, que no exceda de 0,25 segundos ni supere los 0,75 segundos. 2 1 c) Determinar el estimador máximo verosímil de: (a) 1 (b) 1 Solución: n a) Función de verosimilitud L() L(X , ) f(x , ) i i0 L(x 1 , x 2 , , x n ; ) ( 1)x ( 1)x 1 ( 1)x 2 n ( 1) n n x i0 Función soporte o Log‐verosimilitud: ln L(x 1 , x 2 , , x n ; ) ln ( 1)n n i0 ln L(x 1 , x 2 , , x n ; ) n ln( 1) x ln( 1)n ln i n lnx i i0 Estadística Teórica: Estimadores 49 n i0 x i i Para obtener el estimador de máxima verosimilitud EMV(ˆ ) , se deriva la expresión anterior respecto del parámetro para obtener, sustituyendo por ̂ ln L(x 1 , x 2 , , x n ; ) ˆ EMV() n n 1 n lnx n n n lnx i 0 lnx i ˆ ˆ 1 1 i0 i0 ˆ i i0 b) El estimador máximo verosímil de con los datos de la muestra: ˆ 8 1 ln0,7 ln0,9 ln0,6 ln0,8 ln0,9 ln0,7 ln0,9 ln0,8 4,027 1 3,027 El estimador máximo verosímil EMV() ˆ 3,027 De otra parte, P(0,25 X 0,75) 0,75 f(X, ˆ )dx 0,25 x ˆ 1 0,75 0,25 ˆ 1 0 ,75 x ˆ (ˆ 1)x dx (ˆ 1) ˆ 0,25 ( 1) 0 ,25 0,75 0,75 4,027 ‐ 0,25 4,047 0,31 La probabilidad del tiempo máximo necesario para terminar el proceso (entre 0,25 y 0,75 segundos) es 0,31 c) Estimador máximo verosímil de 1 y 2 1 1 EMV 1 EMV 1 ˆ 1 3,027 1 4,027 2 1 2 EMV 1 2 ˆ 1 2 x 3,027 1 EMV 2,493 3,027 1 1 EMV 1 ˆ 1 Estadística Teórica: Estimadores 50 En la distribución B(m, p) se considera como estimador del x , siendo x la media muestral en m muestras aleatorias simples de tamaño n. Hallar la eficiencia del estimador. parámetro p el estadístico p̂ Solución: Un estimador es eficiente cuando su varianza coincide con la Cota de ˆ CCR Cramer‐Rao V(p) CCR 1 ln P(x ; p) n.E 2 ln P(x ; p) I() n.E 2 Información de Fisher mp x ˆ E p Insesgadez: E(p) m m El estimador es insesgado o centrado Para determinar la CCR se considera la función de cuantía de la m distribución binomial: P(x, p) p x (1 p)m x x Función soporte o Log‐verosimilitud: m lnP(x, p) ln x lnp (m x) ln(1 p) x lnP(x, p) x (m x) (1 p)x p(m x) x mp p p 1p p(1 p) p(1 p) 2 2 2 lnP(x, p) x mp E(x mp) E E p(1 p) p2 (1 p)2 p En una distribución binomial: E(X) mp , V(X) E(X mp)2 mp(1 p) con lo que, Estadística Teórica: Estimadores 51 2 2 2 m lnP(x, p) x mp E(x mp) m p (1 p) E E p(1 p) p p2 (1 p)2 p 2 (1 p) 2 p(1 p) CCR 1 ln P(x ; p) n.E 2 p(1 p) 1 m nm n p(1 p) De otra parte, la varianza del estimador: x 1 1 mp(1 p) p(1 p) ˆ V 2 V(x) 2 V(p) m m m n mn Como la varianza del estimador coincide con la cota de Cramer‐Rao el x estadístico p̂ es eficiente. m Una urna contiene bolas blancas y negras. Sea p la probabilidad de extraer una bola blanca cuando se realiza una extracción al azar. Asociado a este experimento aleatorio se encuentra la variable aleatoria X que puede tomar los valores: X = 1 si la bola extraída es blanca X = 0 si la bola extraída es negra Se selecciona una muestra aleatoria con reemplazamiento de tamaño 3 (x 1 , x 2 ,x 3 ) , siendo x i la variable aleatoria a la extracción i‐ésima, y se supone que ha resultado la siguiente relación (B, N, B). Como el parámetro p es desconocido se pretende saber, entre los valores, p 0,65 y p 0,73 qué valor hace más probable la aparición de dicha extracción. Solución: La distribución de probabilidad será una B(1; p): P(X x) p x (1 p) 1 x Si la muestra (B, N, B) es independiente, siendo P(B) p P(N) 1 p P(B, N, B) P(B N B) P(B).P(N).P(B) p.(1 p).p p 2 . (1 p) Estadística Teórica: Estimadores 52 p 0,65 : P(B,N,B) 0,65 2 .0,35 0,1479 entonces p 0,73 : P(B,N,B) 0,73 2 .0,27 0,1439 Resulta más probable (p = 0,65), siendo más verosímil. Se considera la m.a.s. (x 1 , x 2 ,x 3 ) , siendo las variables aleatorias x i independientes, tomando los valores 0, 1, con distribución B(1, p), la distribución de probabilidad asociada será: P(x 1 , p) P(X x 1 ) p x1 (1 p) 1 x1 P(x 2 , p) P(X x 2 ) p x2 (1 p) 1 x2 x i 1, 0 seabola blanca o negra P(x 3 , p) P(X x 3 ) p x3 (1 p) 1 x3 Función de verosimilitud 3 L(p) P(x i , p) p x1 (1 p) 1 x1 . p x2 (1 p) 1 x2 . p x3 (1 p) 1 x3 i1 p x1x2x3 (1 p) 3 (x 1 x 2 x 3 ) En la muestra (B, N, B) el valor que toma la función de verosimilitud será: L(p) p 1 0 1 (1 p) 3 (1 0 1) p 2 . (1 p) Estadística Teórica: Estimadores 53 Estadística Teórica: Estimadores 54