AnalisisMultivariado.. - Contacto: 55-52-17-49-12
Anuncio
MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 MÉTODOS ESTADÍSTICOS MULTIVARIADOS Elaboró: Dr. Primitivo Reyes Aguilar Dic. 2006 Pág. 1 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 CONTENIDO 1. Coeficiente de Cronbach 2. Métodos de análisis multivariado 3. ANOVA de K direcciones 4. Análisis multivariado de Varianza (MANOVA) 5. Análisis de Covarianza 6. Análisis Discriminante 7. Análisis de Conglomerados (Clusters) 8. Análisis Factorial 9. Análisis de Regresión Múltiple Pág. 2 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 1. COEFICIENTE DE CRONBACH Pág. 3 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 1. CÁLCULO DEL COEFICIENTE DE CONFIABILIDAD (FIABILIDAD) ALFA-CRONBACH Existen tres procedimientos para determinar el coeficiente “” o alfa : 1. Sobre la base de la varianza de los ítems, con la aplicación de la siguiente fórmula: En donde N representa el número de ítems de la escala, “s2 (Yi)” es igual a la sumatoria de las varianzas de los ítems y “s2x” equivale a la varianza de toda la escala. 2. Sobre la base de la matriz de correlación de los ítems, el procedimiento sería: a) Se aplica la escala. b) Se obtienen los resultados. c) Se calculan los coeficientes de correlación r de Pearson entre todos los ítems (todos contra todos de par en par). d) Se elabora la matriz de correlación con los coeficientes obtenidos. Por ejemplo: Pág. 4 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Los coeficientes que se mencionan como “ya fue calculado”, se ubican en la parte superior de las líneas horizontales (guiones). Es decir, cada coeficiente se incluye una sola vez y se excluyen los coeficientes que vinculan al ítem o puntuación consigo misma (1 con 1, 2 con 2, 3 con 3 y 4 con 4). Pág. 5 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 3. Mediante otra fórmula que se basa en la correlación promedio Pág. 6 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 2. MÉTODOS DE ANÁLISIS MULTIVARIADO Pág. 7 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 2. LOS MÉTODOS DE ANÁLISIS MULTIVARIADO Los métodos de análisis multivariado son aquellos en que se analiza la relación entre diversas variables independientes y al menos una dependiente. Son métodos más complejos que requieren del uso de computadoras para efectuar los cálculos necesarios Entre las técnicas más comunes se encuentran (1) Análisis de componentes principales y factores comunes, (2) regresión y correlación múltiple, (3) análisis discriminante múltiple, (4) análisis multivariado de varianza y covarianza, (5) análisis conjunto, (6) correlación canónica, (7) análisis de clusters, (8) escala multidimensional. Otras técnicas nuevas incluyen (9) análisis de correspondencia, (10) modelos de probabilidad lineal tales como el logit y probit, y (11) modelos de ecuación simultaneas / estructurales. A continuación se describen brevemente éstas técnicas. Análisis de componentes principales y de factores comunes Es un método estadístico que puede usarse para analizar las interrelaciones entre un gran número de variables y explicar esas variables en términos de sus dimensiones subyacentes comunes. El objetivo es hallar la forma de sintetizar la información contenida en un número de variables originales, dentro de un Pág. 8 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 conjunto más pequeño de variates (factores) con mínima pérdida de información. Regresión múltiple En un método de análisis adecuado cuando el problema de investigación involucra una variable dependiente única que se presume se relaciona a dos o más variables independientes medibles. El objetivo es predecir el cambio en la variable dependiente de respuesta con cambios en las variables independientes, normalmente con el método de mínimos cuadrados. Por ejemplo se pueden predecir los montos gastados en cenas a partir de ingresos de las familias (variable dependiente), su tamaño, y la edad del padre (variables independientes). Análisis discriminante múltiple (MDA) Se aplica cuando la variable dependiente es dicotómica (vgr. hombre – mujer) o multitómica (vgr. Alto – medio – bajo) y por tanto no medible. Como en la regresión las variables independientes deben ser medibles. Se aplica cuando la muestra total se puede dividir en grupos con base en una variable no medible caracterizando varias clases conocidas. Su objetivo es comprender las diferencias entre grupos y predecir la probabilidad de que una entidad (objeto individual) pertenezca a una clase o grupo particular con base en varias variables independientes medibles o métricas. Por ejemplo el análisis discriminante se puede utilizar para distinguir entre innovadores y no innovadores de acuerdo a su perfil demográfico y psicográfico. Análisis multivariado de varianza y covarianza (MANOVA) Es un método estadístico para explorar simultáneamente la relación entre varias variables categóricas independientes (referidas como tratamientos) y dos o más variables dependientes medibles o métricas. Es una extensión del ANOVA univariado. El análisis multivariado de covarianza (MANCOVA) se Pág. 9 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 puede usar en conjunto con el MANOVA para remover (después del experimento) el efecto de cualquier variable métrica independiente no controlada (conocida como covariada) en la variable independiente. Análisis conjunto Se aplica a nuevos productos para evaluar la importancia de los atributos del nuevo producto así como los niveles de cada atributo, mientras que el consumidor evalúa solo unos pocos perfiles del producto como combinaciones de los niveles de producto. Por ejemplo asumir un producto con tres atributos (precio, calidad y color), cada uno en tres niveles posibles (vgr. Rojo, amarillo y azul). En vez de tener que evalur las 27 combinaciones posibles (3x3x3), se evalúa un subconjunto de 9 o más combinaciones con base en su atractivo para el consumidor, de manera que el investigador no solo conozca la importancia de cada atributo, sino además la importancia de cada nivel (atractivo del rojo vs amarillo vs azul). Correlación canónica El análisis de correlación puede ser visto como una extensión lógica de la regresión múltiple. Donde se trata de correlacionar simultáneamente varias variables dependientes medibles o métricas y varias variables independientes medibles. El principio es establecer una combinación lineal de cada conjunto de variables (dependientes e independientes) para maximizar la correlación entre los dos conjuntos (obteniendo ponderacións adecuados para las variables). Análisis de conglomerados (Clusters) Es una técnica analítica para desarrollar sugrupos significativos de individuos u o objetos. Específicamente, el objetivo es clasificar una muestra de entidades (individuos u objetos) en un número más pequeño de grupos más pequeños con base en las similitudes entre entidades. A diferencia del análisis discriminante, los grupos no están definidos, más bien se usa para identificarlos. Pág. 10 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Normalmente se realiza en tres pasos. El primero es la medición de alguna forma de similitud o asociación entre las entidades para identificar cuantos grupos realmente existen en la muestra. El segundo paso es el proceso en sí de conglomerados, donde las entidades se particionan en grupos (conglomerados o clusters). El paso final es perfilar las personas o variables para determinar su composición. Muchas veces esto último se realiza con el análisis discriminante. Escala multidimensional El objetivo es transformar los juicios del consumidor de similitud o preferencias (vgr. Preferencia por tiendas o marcas) en distancias representadas en un espacio multidimensional. Si los objetos A y B se juzgan por el consumidor como similares, comparados con cualquier otro par de objetos, la técnica posiciona los objetos A y B de manera que la distancia entre ellos en un espacio multidimensional es más pequeño que la distancia entre cualquier otro par de objetos. Al final se muestra un mapa perceptual con la posición relativa de los objetos. Análisis de correspondencia Facilita tanto la reducción dimensional de objetos en un conjunto de atributos y el mapa perceptual de objetos respecto a estos atributos. En su forma más elemental es una tabla de contingencia o tabulación cruzada de dos variables categóricas. Transforma los datos no métricos a un nivel medible y realiza una reducción dimensional (similar al análisis de factores) y un mapa perceptual (similar al análisis multidimensional). Por ejemplo, las preferencias de marcas de los consumidores pueden ser tabuladas contra variables demográficas (vgr. Género, categorías de ingresos, ocupación) indicando cuanta gente prefiere cada una de las marcas que caen en cada categoría de las variables demográficas. Por medio del análisis de correspondencia, la asociación o “correspondencia” de marcas y las características distintivas de aquellos que prefieren las marcas se muestran en Pág. 11 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 un mapa tridimensional o bidimensional tanto de marcas como de las características que distinguen a aquellos que prefieren cada marca. Modelos de probabilidad lineal (Análisis Logit) Son una combinación de regresión múltiple y análisis discriminante. Es similar al análisis de regresión múltiple excepto que la variable dependiente es categórica no métrica como en el análisis discriminante. Modelos de ecuaciones estructurales A veces se refiere como el nombre del software LISREL, es una técnica que permite separar las relaciones del conjunto de variables dependientes. En su forma más sencilla proporciona el modelo más adecuado y la técnica de estimación más eficiente para una serie de ecuaciones de regresión múltiple, evaluadas simultáneamente. Se caracteriza por dos componentes básicos: (1) el modelo estructural y (2) el modelo de medición. El modelo estructural es la “vía” que relaciona variables dependientes e independientes. El modelo de medición permite al investigador a usar varias variables (indicadores) para una variable dependiente e independiente. Pág. 12 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Los datos para HATCO son los siguientes: Variables / Tipo Percepciones / Medibles (Métricas) X1 Tiempo de entrega - entrega del producto con la orden confirmada X2 Nivel de precios - nivel de precio percibido ponderacióndo por proveedores X3 Flexibilidad de precios - flexibilidad para negociar precios X4 Imagen de la empresa - general X5 Servicio en general - nivel necesario para mantener relaciones X6 Imagen de la fuerza de ventas - general X7 Calidad del producto – calidad percibida en desempeño o rendimiento Resultados de compras / Medibles (Métricas) X9 Nivel de utilización - que porcentaje de producto es surtido por Hatco X10 Nivel de satisfacción – que tan satisfecho esta el cliente con Hatco Características del comprador / No Medibles (No Métricas) X8 Tamaño de la empresa - 1- Grande 0 - pequeño X11 Especificación de compra - 1-Evalúa por el valor total y 0- especificación X12 Estructura de abastecimiento – 1- centralizado 0 - descentralizado X13 Tipo de industria X14 Tipo de situación de compra – 1- nueva 2- modificada 0- tradicional - 1- industria A Pág. 13 0 – otras industrias MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 3. ANOVA DE K DIRECCIONES Pág. 14 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 3. ANOVA (análisis de varianza de k direcciones ) El ANOVA es similar a la regresión en el sentido de que se utiliza para investigar y modelar la relación entre una variable de respuesta y una o más variables independientes. Sin embargo, el ANOVA difiere de la regresión en dos aspectos: las variables independientes son cualitativas (categóricas), y no hay supuestos acerca de la naturaleza de la relación (o sea que el modelo no incluye coeficientes para variables). En efecto el ANOVA extiende la prueba de dos muestras con prueba t para probar la igualdad de dos poblaciones a una hipótesis más general al comparar más de dos medias, versus que no sean iguales. Definición: Es una prueba estadística para evaluar el efecto de dos o más variables independientes sobre una variable dependiente. Responde a esquemas como el que se muestra en la figura: Constituye una extensión del análisis de varianza unidireccional, solamente que incluye más de una variable independiente. Evalúa los efectos por separado de cada variable independiente y los efectos conjuntos de dos o más variables independientes. Pág. 15 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Variables: Dos o más variables independientes y una dependiente. Nivel de medición de las variables: La variable dependiente (criterio) debe estar medida en un nivel por intervalos o razón, y las variables independientes (factores) pueden estar en cualquier nivel de medición, pero expresadas de manera categórica. Interpretación y ejemplo Hi: La similitud en valores, la atracción física y el grado de retroalimentación positiva son variables que inciden en la satisfacción sobre la relación en parejas de novios. Contexto: Muestra de parejas de adultos jóvenes (23-29 años), pertenecientes a estratos económicos altos (n=400). El ANOVA efectuado mediante un paquete estadístico computacional como SPSS produce los siguientes elementos básicos: • Fuente de la variación (source of variation). Es el factor que origina variación en la dependiente. Si una fuente no origina variación en la dependiente, no tiene efectos. • Efectos principales (main effects). Es el efecto de cada variable independiente por separado; no está contaminado del efecto de otras variables iindependientes ni de error. Suele proporcionarse la suma de todos los efectos principales. • Interacciones de dos direcciones (2-way interactions). Representa el efecto conjunto de dos variables independientes, aislado de los demás posibles efectos de las variables independientes (individuales o en conjuntos). Suele proporcionarse la suma de los efectos de todas estas interacciones. Pág. 16 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 • Interacciones de tres direcciones (3-way interactions). Constituye el efecto conjunto de tres variables independientes, aislado de otros efectos. Suele proporcionarse la suma de los efectos de todas estas interacciones. • Puede haber efecto de K-direcciones, esto dependie del número de variables independientes. En nuestro ejemplo, tenemos los resultados siguientes: TABLA ANOVA VARIABLE DEPENDIENTE: SATISFACCIÓN EN LA RELACIÓN Fuente variación Estadístico F Significancia de Fc = P Efectos principales (main effects 22.51 .001** SIMILITUD ATRACCIÓN RETROALIM SIMILITUD ATRACCIÓN SIMILITUD RETROALIM ATRACCION RETROALIM SIN – RETROLATRACCION 31.18 21.02 11.84 0.001** 0.001** 0.004** -4.32 0.04* 2.18 0.11 1.56 0.190 8.01 0.02* NOTA: de Suma de Grados de Cuadrados cuadrados libertad medios Normalmente interesa saber si las razones “F” resultaron o no significativas; por tanto, sólo se incluyen estos valores. Se recomienda concentrarse en dichos valores y evitar confusiones. Desde luego, el investigador experimentado acostumbra estudiar todos los valores. **— Razón “F” significativa al nivel del 0.01 (p < 0.01) *—Razón “F” significativa al nivel del 0.05 (p < 0.05) Pág. 17 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Como podemos ver en la tabla, la similitud, la atracción y la retroalimentación tienen un efecto significativo sobre la satisfacción en la relación. Respecto a los efectos de dos variables independientes conjuntas, sólo la similitud y la atracción tienen un efecto, hay un efecto conjunto de las tres variables independientes. La hipótesis de investigación se acepta y la nula se rechaza. Asimismo, se recuerda al lector que en el capítulo 5 del presente disco: Otros diseños experimentales (en el apartado sobre diseños factoriales) se explica la noción de interacción entre variables independientes. Cabe agregar que el ANOVA es un método estadístico propio para los diseños experimentales factoriales. Ejemplo: Un experimento se realizó para probar cuanto tiempo toma usar un modelo nuevo y un modelo anterior de calculadora. Seis ingenieros trabajando en un problema estadístico y uno de ingeniería se les toma el tiempo para resolver el problema. Los ingenieros se consideran como bloques en el diseño experimental. Hay dos factores: Tipo de problema y modelo de calculadora – cada uno con dos niveles, se hacen experimentos donde esos niveles de los factores se cruzan. Los datos se muestran a continuación: SolveTime 3.1 7.5 2.5 5.1 3.8 8.1 2.8 5.3 3 7.6 2 4.9 3.4 7.8 2.7 Engineer Jones Jones Jones Jones Williams Williams Williams Williams Adams Adams Adams Adams Dixon Dixon Dixon ProbType Stat Stat Eng Eng Stat Stat Eng Eng Stat Stat Eng Eng Stat Stat Eng Calculator New Old New Old New Old New Old New Old New Old New Old New Pág. 18 MÉTODOS ESTADÍSTICOS MULTIVARIADOS 5.5 3.3 6.9 2.5 5.4 3.6 7.8 2.4 4.8 Dixon Erickson Erickson Erickson Erickson Maynes Maynes Maynes Maynes Eng Stat Stat Eng Eng Stat Stat Eng Eng P. REYES / DIC. 2006 Old New Old New Old New Old New Old Las instrucciones de Minitab son las siguientes: 1 Abrir la worksheet EXH_AOV.MTW. 2 Stat > ANOVA > Balanced ANOVA. 3 Responses, poner SolveTime. 4 Model, poner Engineer ProbType | Calculator. 5 En Random Factors, poner Engineer. 6 Click Results. En Display means corresponding to the terms, poner ProbType | Calculator. Click OK cada cuadro de diálogo. Los resultados obtenidos son los siguientes: ANOVA: SolveTime versus Engineer, ProbType, Calculator Factor Engineer ProbType Calculator Type random fixed fixed Levels 6 2 2 Values Adams, Dixon, Erickson, Jones, Maynes, Williams Eng, Stat New, Old Analysis of Variance for SolveTime Source Engineer ProbType Calculator ProbType*Calculator Error Total S = 0.259487 DF 5 1 1 1 15 23 SS 1.053 16.667 72.107 3.682 1.010 94.518 R-Sq = 98.93% MS 0.211 16.667 72.107 3.682 0.067 F 3.13 247.52 1070.89 54.68 R-Sq(adj) = 98.36% Means ProbType Eng Stat N 12 12 SolveTime 3.8250 5.4917 Pág. 19 P 0.039 0.000 0.000 0.000 MÉTODOS ESTADÍSTICOS MULTIVARIADOS Calculator New Old ProbType Eng Eng Stat Stat N 12 12 P. REYES / DIC. 2006 SolveTime 2.9250 6.3917 Calculator New Old New Old N 6 6 6 6 SolveTime 2.4833 5.1667 3.3667 7.6167 Interpretación de los resultados: Se muestran los factores (fijos y aleatorios), niveles y valores. Después se muestra la tabla de ANOVA, donde se indica de acuerdo al valor P que hay una interacción significativa entre el tipo de problema y el modelo de calculadora, lo que implica que la reducción en tiempo de proceso de la calculadora depende del tipo de problema. En la lista de promedios se observa un menor tiempo entre la calculadora nueva y la anterior. Pág. 20 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 4. ANÁLISIS MULTIVARIADO DE VARIANZA (MANOVA) Pág. 21 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 4. ANÁLISIS MULTIVARIADO DE VARIANZA (MANOVA) Es un modelo para analizar la relación entre una o más variables independientes y dos o más variables dependientes. Es decir, es útil para estructuras causales del tipo: La técnica posee varios usos, entre los que destacan: - Evaluar diferencias entre grupos a través de múltiples variables dependientes (medidas por intervalos o razón). La(s) variable(s) independiente(s) es(son) categórica(s) (no métricas). Tiene el poder de evaluar no solamente las diferencias totales, sino diferencias entre las combinaciones de las dependientes. En este sentido representa una extensión del análisis de varianza (ANOVA) para cubrir casos donde hay más de una variable dependiente y/o cuando las variables dependientes simplemente no pueden ser combinadas. En otras palabras, reconoce si los cambios en la(s) variable(s) independiente(s) tienen un efecto significativo en las dependientes. Señala qué grupos difieren en una variable o en el conjunto de variables dependientes. Pág. 22 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 - Identificar las interacciones entre las variables independientes y la asociación entre las dependientes. Las tres clases principales del MANOVA son: 1) Hotelling's T. Es parecida a la prueba t (dos grupos) pero con más dependientes: una variable independiente dicotómica y varias dependientes. 2) MANOVA unidireccional. Análogo al ANOVA de una sola vía, pero con más dependientes: una variable independiente multicategórica y varias dependientes. 3) MANOVA factorial. Similar al ANOVA factorial, solamente que con dos o más dependientes: varias independientes categóricas y varias dependientes. Los modelos del MANOVA tienen en común que forman combinaciones lineales de las dependientes que discriminan mejor entre los grupos en un experimento o una situación no experimental. Es una prueba de significancia de las diferencias en los grupos en un espacio multidimensional donde cada dimensión está definida por combinaciones lineales del conjunto de variables dependientes. Una pregunta que suele hacer el estudiante al revisar el MANOVA es ¿por qué no hacemos ANOVAS separados, uno para cada dependiente? La respuesta: las dependientes están correlacionadas muy frecuentemente, por lo cual los resultados de varios ANOVA pueden ser redundantes y difíciles de integrar. He aquí una síntesis de la explicación de Wiersma (1999) sobre este tipo de análisis: Al incluir dos o más variables dependientes simultáneamente no se consideran las diferencias entre las medias en cada variable, sino las diferencias en variables canónicas. El interés no sólo es saber si los grupos definidos por las variables independientes difieren en las variables canónicas, sino conocer la naturaleza de éstas. Una variable canónica es una variable artificial generada a Pág. 23 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 partir de los datos. Representa constructos y se compone de variables reales, las cuales deben ser descritas en términos de variables dependientes. Lo anterior se efectúa por medio de las ponderacións de los coeficientes de correlación entre una variable dependiente y una variable canónica. Si una ponderación entre la variable canónica y la dependiente es positiva y elevada, significa que altos valores en la dependiente se asocian con altos valores en la canónica. Por ejemplo, si una variable dependiente consiste en puntuaciones a una prueba sobre innovación, y dichas puntuaciones se correlacionan en forma considerable con una variable canónica, inferimos que la variable canónica representa un constructo que involucra esencialmente a la innovación. En los cálculos que se hacen en el MANOVA, se generan variables canónicas hasta que se encuentra que no hay una diferencia estadística significativa entre las categorías o los grupos de las variables independientes; o bien, hasta que se agotan los grados de libertad de las variables independientes (lo que ocurra primero). El número de variables canónicas no puede exceder el número de variables dependientes, pero es común que el número de dependientes sea mayor que el de variables canónicas estadísticamente significativas o los grados de libertad. La hipótesis general de investigación en el MANOVA postula que las medias de los grupos o las categorías de la(s) variable(s) independiente(s) difieren entre sí en las variables canónicas. La hipótesis nula postula que dichas medias serán iguales. Se calculan diversas estadísticas para evaluar ambas hipótesis, entre las que destacan: F (total, toma en cuenta el modelo completo), la prueba Hotelling's TSquare, T2 (cuando hay dos grupos formados por las variables independientes), Wilks' lambda, U (cuando hay más de dos grupos formados por las variables independientes), y Pillai-Bartlett (cuando hay coeficientes canónicos); y si resultan significativas en un nivel de confianza, se acepta la hipótesis de investigación de diferencia de medias. Esto indica que hay, por lo menos, una variable canónica significativa (pero puede haber varias). Si diversas variables canónicas son significativas, esto muestra que se presentan Pág. 24 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 diferencias en las variables canónicas en cuestión, entre los grupos o categorías de las independientes. Los paquetes estadísticos que contiene el MANOVA suelen posicionar a los grupos de las variables independientes por puntuaciones discriminantes; éstas son calculadas con una función discriminante, que es una ecuación de regresión para un compuesto de variables dependientes. A cada grupo se le asigna una puntuación discriminante en cada variable canónica. Las puntuaciones discriminantes de una variable independiente pueden ser cero o tener un valor positivo o negativo. Una puntuación discriminante positiva y elevada para un grupo, indica que éste se coloca por encima de los demás en la respectiva variable canónica. Y deben considerarse las ponderacións, las cuales son positivas o negativas. Las puntuaciones discriminantes son utilizadas para interpretar las separaciones de los grupos en las variables canónicas, en tanto que las ponderacións se usan para evaluar y ligar los resultados de las variables dependientes (Wiersma, 1999). Un ejemplo de las ponderacións de los coeficientes de correlación dependientes y las variables canónicas así como discriminantes se muestran en las tablas siguientes: Pág. 25 entre las variables las puntuaciones MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Como observamos en la última tabla, se obtuvieron tres constructos subyacentes en las puntuaciones recolectadas de la muestra: motivación intrínseca, atribución de causalidad externa y desempeño laboral. Vemos en la tabla que los grupos (niveles en la empresa) están separados en las tres variables canónicas (los grupos difieren), particularmente en la primera variable canónica (motivación intrínseca) y los obreros ocupan la posición más baja. Las variables dependientes enmarcadas en un recuadro en la primera variable Pág. 26 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 canónica se ponderaciónn en ella; en consecuencia, los ejecutivos tienen las puntuaciones más altas en motivación intrínseca medida por la escala mencionada, en atribuciones internas y en sentimientos de éxito en el trabajo. Así se interpretan todas las variables canónicas y dependientes. En el MANOVA se incluyen razones F y análisis de varianza. Algunos paquetes estadísticos agregan una prueba denominada correlación canónica, que es muy similar al MANOVA. Ésta es la máxima correlación que llega a obtenerse entre los conjuntos de puntuaciones y las relaciones entre las variables independientes, entre las variables dependientes y entre los conjuntos de ambas (dependientes e independientes) (Kerlinger, 1979). Las variables en el MANOVA y la correlación canónica asumen que las variables dependientes están medidas en un nivel de intervalos o razón. Tal correlación se interpreta como otras; pero el contexto de interpretación varía de acuerdo con el número de variables involucradas. Pág. 27 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Ejemplo con Minitab Se realiza un estudio para determinar las condiciones óptimas para extruir película plástica. Se miden tres respuestas – Tear, gloss y opacity – cinco veces en cada combinación de dos factores – tasa de extrusión y cantidad de aditivo – cada grupo se pone en niveles bajos y altos. Se utiliza el MANOVA balanceado para probar la igualdad de las medias. DATOS Tear 6.5 6.2 5.8 6.5 6.5 6.9 7.2 6.9 6.1 6.3 6.7 6.6 7.2 7.1 6.8 7.1 7 7.2 7.5 7.6 Gloss 9.5 9.9 9.6 9.6 9.2 9.1 10 9.9 9.5 9.4 9.1 9.3 8.3 8.4 8.5 9.2 8.8 9.7 10.1 9.2 Opacity 4.4 6.4 3 4.1 0.8 5.7 2 3.9 1.9 5.7 2.8 4.1 3.8 1.6 3.4 8.4 5.2 6.9 2.7 1.9 Extrusion 1 1 1 1 1 1 1 1 1 1 2 2 2 2 2 2 2 2 2 2 Additive 1 1 1 1 1 2 2 2 2 2 1 1 1 1 1 2 2 2 2 2 Instrucciones de Minitab 1 Abrir el archivo EXH_MVAR.MTW. 2 Seleccionar Stat > ANOVA > Balanced MANOVA. 3 En Responses, poner Tear Gloss Opacity. 4 En Model, poner Extrusion | Additive. Pág. 28 MÉTODOS ESTADÍSTICOS MULTIVARIADOS 5 P. REYES / DIC. 2006 Click Results. En Display of Results, seleccionar Matrices (hypothesis, error, partial correlations) y Eigen analysis. 6 Click OK en cada cuadro de diálogo. Los resultados se muestran a continuación: Results for: Exh_mvar.MTW ANOVA: Tear, Gloss, Opacity versus Extrusion, Additive MANOVA for Extrusion s = 1 m = 0.5 n = 6.0 Test Criterion DF Statistic F Num Denom P Wilks' 0.38186 7.554 3 14 0.003 Lawley-Hotelling 1.61877 7.554 3 14 0.003 Pillai's 0.61814 7.554 3 14 0.003 Roy's 1.61877 SSCP Matrix for Extrusion Tear Gloss Opacity Tear Gloss Opacity 1.740 -1.505 0.8555 -1.505 1.301 -0.7395 0.855 -0.739 0.4205 SSCP Matrix for Error Tear Gloss Opacity Tear 1.764 0.0200 -3.070 Gloss 0.020 2.6280 -0.552 -3.070 -0.5520 64.924 Opacity Partial Correlations for the Error SSCP Matrix Tear Gloss Opacity Pág. 29 MÉTODOS ESTADÍSTICOS MULTIVARIADOS Tear 1.00000 0.00929 -0.28687 Gloss 0.00929 1.00000 -0.04226 -0.28687 -0.04226 1.00000 Opacity P. REYES / DIC. 2006 EIGEN Analysis for Extrusion Eigenvalue 1.619 0.00000 Proportion 1.000 0.00000 0.00000 Cumulative 1.000 1.00000 1.00000 Eigenvector Tear Gloss Opacity 0.00000 1 2 3 0.6541 0.4315 0.0604 -0.3385 0.5163 0.0012 0.0359 0.0302 -0.1209 MANOVA for Additive s = 1 m = 0.5 n = 6.0 Test Criterion DF Statistic F Num Denom P Wilks' 0.52303 4.256 3 14 0.025 Lawley-Hotelling 0.91192 4.256 3 14 0.025 Pillai's 0.47697 4.256 3 14 0.025 Roy's 0.91192 SSCP Matrix for Additive Tear Gloss Opacity Tear 0.7605 0.6825 1.931 Gloss 0.6825 0.6125 1.732 Opacity 1.9305 1.7325 4.901 EIGEN Analysis for Additive Eigenvalue 0.9119 0.00000 0.00000 Proportion 1.0000 0.00000 0.00000 Cumulative 1.0000 1.00000 1.00000 Pág. 30 MÉTODOS ESTADÍSTICOS MULTIVARIADOS Eigenvector 1 2 3 Tear -0.6330 0.4480 -0.1276 Gloss -0.3214 -0.4992 -0.1694 Opacity -0.0684 0.0000 0.1102 P. REYES / DIC. 2006 MANOVA for Extrusion*Additive s = 1 m = 0.5 n = 6.0 Test Criterion DF Statistic F Num Denom P Wilks' 0.77711 1.339 3 14 0.302 Lawley-Hotelling 0.28683 1.339 3 14 0.302 Pillai's 0.22289 1.339 3 14 0.302 Roy's 0.28683 SSCP Matrix for Extrusion*Additive Tear Gloss Opacity Tear 0.000500 0.01650 0.04450 Gloss 0.016500 0.54450 1.46850 Opacity 0.044500 1.46850 3.96050 EIGEN Analysis for Extrusion*Additive Eigenvalue 0.2868 0.00000 0.00000 Proportion 1.0000 0.00000 0.00000 Cumulative 1.0000 1.00000 1.00000 Eigenvector 1 2 3 Tear -0.1364 0.1806 0.7527 Gloss -0.5376 -0.3028 -0.0228 Opacity -0.0683 0.1102 -0.0000 Por default se muestra la tabla para las cuatro pruebas multivariadas (Wliks, Lawley, Hotelling, Pillai y Roy) para cada uno de los términos en el modelo. Los valores s, m y n se utilizan para los cálculos de los estadísticos de prueba Fc, el cual es exacto si s = 1 o 2 de otra forma es aproximado. Pág. 31 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Examinando los valores P de las pruebas para Extrusión y Aditivo se observa que son significativas para un nivel de 0.05, no así la interacción. Las matrices SSCP se usan para evaluar la contribución a la variabilidad de manera similar a la suma de cuadrados en la ANOVA univariada. La matriz SSCP para Extrusion es la suma de cuadrados de la hipótesis y matriz de productos cruzados H para las tres respuestas con el término de modelo Extrusión. Los elementos diagonales de esta matriz, 1.740, 1.301 y 0.405 son las sumas de cuadrados univariados para el término del modelo Extrusión cuando las variables de respuesta son Tear, Gloss y Opacity respectivamente. Los elementos fuera de la diagonal son los productos cruzados. La matriz SSCP para el error es la suma de cuadrados de los errores y productos cruzados E. Los elementos diagonales de la matriz 1.764, 2.6280, y 64.924 son las sumas de cuadrados de los errores para las variables de respuesta Teat, Gloss y Opacity, respectivamente. Los elementos fuera de la diagonal de esta matriz son los productos cruzados. La matriz de correlaciones parciales para el error SSCP, se usa para evaluar que tanto se relacionan las variables de respuesta. Las correlaciones parciales entre Tear y Gloss son pequeñas con 0.00929 y entre Gloss y Opacity 0.04226. Y la correlación parcial entre Tear y Opacity es de -0.28687 tampoco es grande. Como la estructura de las correlaciones es débil, se pueden realizar análisis univariados de ANOVA para cada una de las respuestas. Se puede utilizar el análisis de valores característicos o Eigenvalores, para evaluar como difieren los promedios de las respuestas entre los niveles de los diferentes términos del modelo. El análisis de Eigenvalores es E-1 H donde E es la matriz SCCP del error y H es la matriz SCCP de las variables de respuesta. Estos son los eigenvalores utilizados para calcular las cuatro pruebas de MANOVA. Poner la mayor importancia en los eigenvectores que corresponden a valores altos de eigenvalores. En el ejemplo, el segundo y tercer eigenvalores son pequeños, no signiicativos. Para ambos factores, Extrusion y Additive, los Pág. 32 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 primeros eigenvalores contienen información similar. Para Extrusion is 0.6541, -0.3385, 0.0359 and for Additive it is -0.6630, -0.3214, -0.0684. El mayor valor absoluto dentro de esos eigenvalores corresponde a la respuesta Tear, el segundo a Gloss y el valor para Opacity es pequeño. Esto implica que Tear tiene la mayor diferencia entre los dos niveles de los factores ya sea Extrusion o Additive, el Gloss tiene las siguientes mayores diferencias y op.citp. tiene solo pequeñas diferencias. Para un análisis más general utilizar General MANOVA con diseños balanceados y no balanceados, incluso si se tienen covariados. 1 Seleccionar Stat > ANOVA > General MANOVA. 2 En Responses, seleccionar hasta 50 columnas numéricas conteniendo las variables de respuesta. 3 En Model, introducir los términos del modelo que se quiera ajustar. 4. Click OK. Pág. 33 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 5. ANÁLISIS DE COVARIANZA Pág. 34 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 5. ANÁLISIS DE COVARIANZA Definición: Es un método estadístico que analiza la relación entre una variable dependiente y dos o más independientes, con el que se elimina o controla el efecto de al menos una de estas independientes. Similar al ANOVA, excepto que permite controlar la influencia de una variable independiente, la cual con frecuencia es una característica antecedente que puede variar entre los grupos (Mertens, 2005) o influir los resultados y afectar la claridad de las interpretaciones. Perspectivas o usos: Wildt y Ahtola (1978, pp. 8-9) destacan tres perspectivas para el análisis de covarianza: A. Perspectiva experimental. Se aplica a aquellas situaciones en que el interés del investigador se centra en las diferencias observadas en la variable dependiente, por medio de las categorías de la variable independiente (o variables independientes). Pero el experimentador asume que hay otras variables independientes cuantitativas que contaminan la relación y cuya influencia debe ser controlada. Pág. 35 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Y el investigador únicamente se interesa por conocer la relación entre las variables independientes categóricas y la variable dependiente. Desea al mismo tiempo remover y controlar el efecto de las variables independientes cuantitativas no categóricas (continuas). Es decir, desea tener un esquema como el de la figura El objetivo es “purificar la relación entre las independientes categóricas y la Variable dependiente, mediante el control del efecto de las independientes no categóricas o continuas”. Ejemplos de variables independientes categóricas serían: género (masculino, femenino), inteligencia (alta, media, baja), ingreso (menos de un salario mínimo, dos a cuatro salarios mínimos, cinco a 10 salarios mínimos, 11 o más salarios mínimos). Los niveles de medición nominal y ordinal son categóricos en sí mismos, mientras que los niveles de intervalos y razón deben transformarse en categorías más discretas. Estos últimos son en sí: cuantitativos, continuos y de categorías múltiples. Por ejemplo, el ingreso en su “estado natural” (ponderacións, dólares, euros, etc.) varía de la categoría cero hasta la categoría (K)k, ya que puede haber millones de categorías. Pág. 36 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Variable categórica — unas cuantas categorías o un rango medio. Variable continua — muchas categorías (a veces una infinidad). A dichas variables independientes cuantitativas continuas, cuya influencia se controla, se les denomina “covariables”. Una covariable se incluye en el análisis para remover su efecto sobre la variable dependiente, e incrementar el conocimiento de la relación entre las variables independientes categóricas de interés y la dependiente, lo cual aumenta la precisión del análisis. En esta perspectiva, el análisis de covarianza puede ser concebido primero como un ajuste en la variable dependiente respecto a diferencias en la covariable o las covariables y, posteriormente, como una evaluación de la relación entre las variables independientes categóricas y los valores ajustados de la variable dependiente (Wildt y Ahtola, 1978). En términos de Creswell (2005): El procedimiento “ajusta” las puntuaciones en la dependiente para dar cuenta por la covarianza (por decirlo en términos sencillos: “hace equivalentes a los grupos en la(s) covariable(s)” y controla influencias potenciales que pueden afectar a la variable dependiente). B. Perspectiva de interés por la covariable. Esta perspectiva se ejemplifica con aquellas instancias en las cuales el interés principal se centra en analizar la relación entre la variable dependiente y la covariable (variable cuantitativa continua) o las covariables. Aquí el enfoque es distinto; la influencia que se remueve es la de las variables independientes categóricas. Primero se controla el efecto (en este caso contaminante) de estas variables y después se analiza el efecto “purificado” de las covariables. C. Perspectiva de regresión. En esta tercera perspectiva, tanto las variables independientes categóricas como las covariables resultan de interés para el investigador, quien puede desear examinar el efecto de cada variable Pág. 37 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 independiente (covariables y no covariables, todas) y después ajustar o corregir los efectos de las demás variables independientes. En cualquier caso, el análisis de covarianza elimina influencias no deseadas sobre la variable dependiente. Se puede utilizar en contextos experimentales y no experimentales. La mayoría de las veces la función del ANCOVA es “remover” la varianza compartida entre una o más covariables y la dependiente, de este modo, se valora en su justa dimensión la relación causal entre la(s) variable(s) independiente(s) de interés y la dependiente (Creswell, 2005). Veámoslo conceptualmente pero de forma gráfica con un ejemplo simple: Ejemplo: Estudio: Al investigador le interesa analizar el efecto en el aprendizaje de la computación, por medio un nuevo método para su enseñanza a niños. La hipótesis es: El nuevo método de enseñanza de la computación (MA-RH) provocará un mayor aprendizaje en los niños que un método tradicional. Entonces, implementa el siguiente experimento: A un grupo de infantes los expone al nuevo método de enseñanza de computación (MA-RHS); a otro grupo no lo expone al nuevo método, éste aprende con el método tradicional; finalmente, a un tercer grupo, de control, no recibe ningún tipo de enseñanza en computación. La variable independiente es el tipo de método con tres categorías o niveles (método nuevo, método tradicional y ausencia de método), la dependiente es el aprendizaje en computación (medida por una prueba estandarizada a nivel de intervalos). Se tiene un esquema como el de la figura. Pág. 38 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Con el experimento el investigador desea conocer la varianza en común entre método y aprendizaje (cuantificarla), la relación XY (pura). Si los niños son asignados al azar a los grupos del experimento y tiene grupos de tamaño aceptable, por el diseño mismo, remueve la influencia de las covariables que pudieran afectar. Pero si no es factible hacerlo y tiene un diseño cuasiexperimental (grupos intactos), debe remover tal influencia con el análisis de covarianza (eliminar al mínimo posible la varianza del aprendizaje no explicada), para evitar que las covariables impidan ver con claridad la relación XY. Por ejemplo, el nivel educativo tecnológico de los padres puede influir (hace variar al aprendizaje) y este efecto debe ser controlado, al introducirlo como covariable. Pág. 39 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Lo que el investigador desea también se puede expresar gráficamente así: Wildt y Ahtola (1978, p. 13) definen algunos usos del análisis de covarianza: 1. Incrementar la precisión en experimentos con asignación al azar. Pág. 40 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 2. Eliminar influencias extrañas o contaminantes que pueden resultar cuando las pruebas o los individuos no son asignados al azar a las diferentes condiciones experimentales (grupos de un experimento). 3. Eliminar efectos de variables que confundan o distorsionen la interpretación de resultados en estudios no experimentales. Nivel de medición de las variables: La variable dependiente siempre está medida por intervalos o razón y las variables independientes pueden estar medidas en cualquier nivel. Interpretación: Depende de cada caso específico, ya que el análisis de covarianza efectuado mediante un programa estadístico computacional, produce un cuadro de resultados muy parecido al del análisis de varianza. Los elementos más comunes pueden obssevarse en la tabla ANOVA. La razón F es, igual que en el análisis de varianza, una razón de varianzas. El razonamiento estadístico es el mismo y F se interpreta igual, incluso se utiliza el mismo cuadro de la distribución F. Solamente que las inferencias y conclusiones se hacen al considerar que las medias de la variable dependiente, a través de las categorías de las variables independientes, se han ajustado, de este modo eliminan el efecto de la covariable o covariables. Ejemplo: Diseño de investigación que utiliza el análisis de covarianza Hi: Los trabajadores que reciban retroalimentación verbal sobre el desempeño de parte de su supervisor mantendrán un nivel mayor de productividad que los trabajadores que reciban retroalimentación sobre el desempeño por escrito, más aún que los trabajadores que no reciban ningún tipo de retroalimentación. __ __ Hi: X1 > X2 > __ X3 (verbal) (por escrito) (ausencia) Pág. 41 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 El investigador plantea un diseño experimental para intentar probar su hipótesis. Sin embargo, no puede asignar aleatoriamente a los trabajadores a los tres grupos del experimento. El diseño sería con grupos intactos (cuasiexperimental) y se esquematizaría así: Asimismo, el investigador presupone que hay un factor que puede contaminar los resultados (actuar como fuente de invalidación interna): la motivación. Diferencias iniciales en motivación pueden invalidar el estudio. Como la asignación al azar está ausente, no se sabe si los resultados se ven influidos por dicho factor. Entonces, el experimentador decide eliminar o controlar el efecto de la motivación sobre la productividad para conocer los efectos de la variable independiente: tipo de retroalimentación. La motivación se convierte en covariable. El esquema es el que se muestra en la figura Pág. 42 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Cabe destacar que, para introducir una covariable en el análisis, de preferencia debe medirse antes del inicio del experimento. El análisis de covarianza “quita” a la variabilidad de la dependiente lo que se debe a la covariable. Ajusta la varianza de la variable dependiente en las categorías de la independiente, al basarse en la covariable. En el ejemplo, ajusta la varianza de la productividad debida a la motivación, en las categorías experimentales (tratamientos o grupos). El ajuste se realiza sobre la base de la correlación entre la covariable y la dependiente. Esto se muestra esquemáticamente en la tabla. Una vez realizado el análisis de covarianza, se evalúa si F es o no significativa. Cuando F resulta significativa se acepta la hipótesis de investigación. Si el resultado fuera: G1 = 35 G2 = 36 La correlación entre la calificación en motivación y las puntuaciones en productividad es la base para el ajuste. G3 = 38 Gl entre = K – 1 = 3 – 1 = 2 Gl intra = N – K = 107 F = 1.70 Comparamos con el valor de la tabla respectiva: en el nivel de 0.05 es igual a 3.07, y nuestra razón F a 1.70 es menor a este valor. Por lo tanto, rechazamos la hipótesis de investigación y aceptamos la hipótesis nula. Esto se contrasta y profundiza con las medias ajustadas de los grupos que proporcione el análisis de covarianza (no las medias obtenidas en el experimento por cada grupo, sino las ajustadas con base en la covariable). Pág. 43 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Recordemos que SPSS nos proporciona automáticamente la significancia de F. Ejemplo: Determinar si hay diferencia en la resistencia de una fibra monofilamento producida por tres máquinas diferentes. El diámetro de la fibra parece tener influencia en la resistencia como se muestra abajo (covariado de Y). Datos de resistencia - Y es la respuesta, X es el covariado. Y 36 41 39 42 49 40 48 39 45 44 35 37 42 34 32 X 20 25 24 25 32 22 28 22 30 28 21 23 26 21 15 Maq 1 1 1 1 1 2 2 2 2 2 3 3 3 3 3 La relación entre X y Y es significativa como se observa en la siguiente gráfica: En Minitab: 1. Stat > Regresión > Fitted line plot 2. Introducir Y y X, seleccionar Linear 3. OK Pág. 44 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Fitted Line Plot Y = 14.14 + 1.080 X 50 S R-Sq R-Sq(adj) 1.78174 88.1% 87.2% Y 45 40 35 30 15.0 17.5 20.0 22.5 25.0 27.5 30.0 32.5 X Para el ANOVA con Covariados, las instrucciones de Minitab son las siguientes: 1. Stat > ANOVA > General Linear Model 2. Introducir en Response Y, en Model X y Maquina 3. En Covariates X 4. En Results en Display Least Square Means corresponding to the terms Maq 5. En Graphs seleccionar Normal plot for residuals 6. OK Los resultados se muestran a continuación: General Linear Model: Y versus Maq Factor Maq Type fixed Levels 3 Values 1, 2, 3 Analysis of Variance for Y, using Adjusted SS for Tests Source X Maq Error Total DF 1 2 11 14 S = 1.59505 Seq SS 305.13 13.28 27.99 346.40 Adj SS 178.01 13.28 27.99 R-Sq = 91.92% Adj MS 178.01 6.64 2.54 F 69.97 2.61 P 0.000 0.118 R-Sq(adj) = 89.72% Pág. 45 MÉTODOS ESTADÍSTICOS MULTIVARIADOS Term Constant X Coef 17.177 0.9540 SE Coef 2.783 0.1140 T 6.17 8.36 P. REYES / DIC. 2006 P 0.000 0.000 Unusual Observations for Y Obs 7 Y 48.0000 Fit 45.1080 SE Fit 0.7489 Residual 2.8920 St Resid 2.05 R R denotes an observation with a large standardized residual. Means for Covariates Covariate X Mean 24.13 StDev 4.324 Least Squares Means for Y Maq 1 2 3 Mean 40.38 41.42 38.80 SE Mean 0.7236 0.7444 0.7879 Conclusión: Se observa que no hay diferencia en las máquinas una vez que eliminamos la variabilidad introducida por el diámetro de la fibra, en caso de no haber tomado en cuenta la covarianza del diámetro en la resistencia, se hubiese concluido al revés, que si hay diferencia en las máquinas, como se muestra a continuación: Con Minitab: 1. Stat > ANOVA > One way 2. Response Y Factor Maquina 3. OK Los resultados son los siguientes: One-way ANOVA: Y versus Maq Source Maq Error Total DF 2 12 14 S = 4.143 SS 140.4 206.0 346.4 MS 70.2 17.2 R-Sq = 40.53% F 4.09 P 0.044 R-Sq(adj) = 30.62% Individual 95% CIs For Mean Based on Pooled Pág. 46 MÉTODOS ESTADÍSTICOS MULTIVARIADOS Level 1 2 3 N 5 5 5 Mean 41.400 43.200 36.000 StDev 4.827 3.701 3.808 P. REYES / DIC. 2006 StDev +---------+---------+---------+--------(---------*----------) (---------*---------) (---------*---------) +---------+---------+---------+--------32.0 36.0 40.0 44.0 Pooled StDev = 4.143 Conclusión: Como P value es menor a 0.05 aparentemente si hay diferencia entre máquinas. Pág. 47 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 6. ANÁLISIS DISCRIMINANTE MÚLTIPLE Y REGRESIÓN LOGÍSTICA Pág. 48 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 6. ANÁLISIS DISCRIMINANTE MÚLTIPLE Y REGRESIÓN LOGÍSTICA El análisis discriminante, se aplica cuando las variables independientes son medidas por intervalos o razón, y la dependiente es categórica. Tal análisis sirve para predecir la pertenencia de un caso a una de las categorías de la variable dependiente, sobre la base de varias independientes (dos o más). Se utiliza una ecuación de regresión llamada función discriminante. Por ejemplo, si queremos predecir el voto obtenido por dos partidos contendientes (variable dependiente nominal con dos categorías) sobre la base de cuatro variables independientes, aplicaremos el análisis discriminante, para resolver una ecuación de regresión; así se obtienen las predicciones individuales. En el ejemplo, hay dos categorías (votar por A o votar por B); por tanto, los valores a predecir son 0 y 1 (A y B, respectivamente). Si el sujeto obtiene una puntuación más cercana a cero, se predice que pertenece al grupo que votará por A; si logra una puntuación más cercana a 1, se predice que pertenece al grupo que votará por B. Además, se consigue una medida del grado de discriminación del modelo. Usar el Análisis Discrimínate para clasificar observaciones en dos grupos (Análisis discriminante) o más grupos (Análisis discriminante múltiple – MDA) si se tiene una muestra con grupos conocidos. Se puede utilizar también para investigar como contribuyen las variables a la separación de grupos. La regresión logística o Logit Analysis se limita a dos grupos. Para el caso de clasificar las observaciones nuevas en una de dos categorías, la regresión logística puede ser superior al análisis discriminante. Se pueden hacer análisis discriminantes lineales y cuadráticos. Los lineales asumen que todos los grupos tienen la misma matriz de covarianza, los cuadráticos no hacen este supuesto y no son bien comprendidos. Pág. 49 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Ejemplo: Para regular la pesca de salmón, se desea identificar si el pescado es originario de Alaska o de Canadá. Cincuenta peces de cada lugar de origen fueron capturados y pesados cuando vivían en agua dulce y cuando vivieron en agua salada. El objetivo es el de poder identificar si los nuevos pescados vienen de criaderos en Alaska o Canadá. Los datos se muestran a continuación: SalmonOrigin Freshwater Alaska 108 Alaska 131 Alaska 105 Alaska 86 Alaska 99 Alaska 87 Alaska 94 Alaska 117 Alaska 79 Alaska 99 Alaska 114 Alaska 123 Alaska 123 Alaska 109 Alaska 112 Alaska 104 Alaska 111 Alaska 126 Alaska 105 Alaska 119 Alaska 114 Alaska 100 Alaska 84 Alaska 102 Alaska 101 Alaska 85 Alaska 109 Alaska 106 Alaska 82 Alaska 118 Alaska 105 Alaska 121 Alaska 85 Alaska 83 Alaska 53 Alaska 95 Alaska 76 Alaska 95 Alaska 87 Alaska 70 Marine 368 355 469 506 402 423 440 489 432 403 428 372 372 420 394 407 422 423 434 474 396 470 399 429 469 444 397 442 431 381 388 403 451 453 427 411 442 426 402 397 SalmonOrigin Freshwater Canada 129 Canada 148 Canada 179 Canada 152 Canada 166 Canada 124 Canada 156 Canada 131 Canada 140 Canada 144 Canada 149 Canada 108 Canada 135 Canada 170 Canada 152 Canada 153 Canada 152 Canada 136 Canada 122 Canada 148 Canada 90 Canada 145 Canada 123 Canada 145 Canada 115 Canada 134 Canada 117 Canada 126 Canada 118 Canada 120 Canada 153 Canada 150 Canada 154 Canada 155 Canada 109 Canada 117 Canada 128 Canada 144 Canada 163 Canada 145 Pág. 50 Marine 420 371 407 381 377 389 419 345 362 345 393 330 355 386 301 397 301 438 306 383 385 337 364 376 354 383 355 345 379 369 403 354 390 349 325 344 400 403 370 355 MÉTODOS ESTADÍSTICOS MULTIVARIADOS Alaska Alaska Alaska Alaska Alaska Alaska Alaska Alaska Alaska Alaska 84 91 74 101 80 95 92 99 94 87 511 469 451 474 398 433 404 481 491 480 P. REYES / DIC. 2006 Canada Canada Canada Canada Canada Canada Canada Canada Canada Canada 133 128 123 144 140 150 124 125 153 108 375 383 349 373 388 339 341 346 352 339 Las intrucciones de Minitab son las siguientes: 1 Abrir la worksheet EXH_MVAR.MTW. 2 Stat > Multivariate > Discriminant Analysis. 3 En Groups, poner SalmonOrigin. 4 En Predictors, poner Freshwater Marine. Click OK. Los resultados obtenidos se muestran a continuación: Discriminant Analysis: SalmonOrigin versus Freshwater, Marine Linear Method for Response: SalmonOrigin Predictors: Freshwater, Marine Group Count Alaska 50 Canada 50 Summary of classification True Group Alaska Canada 44 1 6 49 50 50 44 49 0.880 0.980 Put into Group Alaska Canada Total N N correct Proportion N = 100 N Correct = 93 Proportion Correct = 0.930 Squared Distance Between Groups Alaska Canada Alaska 0.00000 8.29187 Canada 8.29187 0.00000 Linear Discriminant Function for Groups Alaska Canada Constant -100.68 -95.14 Freshwater 0.37 0.50 Marine 0.38 0.33 Summary of Misclassified Observations Observation True Group Pred Group Group Pág. 51 Squared Distance Probability MÉTODOS ESTADÍSTICOS MULTIVARIADOS 1** Alaska Canada 2** Alaska Canada 12** Alaska Canada 13** Alaska Canada 30** Alaska Canada 32** Alaska Canada 71** Canada Alaska Alaska Canada Alaska Canada Alaska Canada Alaska Canada Alaska Canada Alaska Canada Alaska Canada P. REYES / DIC. 2006 3.544 2.960 8.1131 0.2729 4.7470 0.7270 4.7470 0.7270 3.230 1.429 2.271 1.985 2.045 7.849 0.428 0.572 0.019 0.981 0.118 0.882 0.118 0.882 0.289 0.711 0.464 0.536 0.948 0.052 Interpretando los resultados El Análisis Discriminante identificó correctamente 93 de los 100 peces, a pesar de que la probabilidad de clasificar correctamente un pez de Alaska fue menor (44/50 o 88%) que la probabilidad de clasificar correctamente un pez de Canadá (49/50 o 98%). Para identificar el origen de un pez recientemente capturado depende de cual valor discriminante sea mayor. Se puede correr el análisis discriminante de nuevo y predecir a que grupo pertenecen las nuevas observaciones. El resumen de las observaciones mal clasificadas muestra la distancia al cuadrado desde el punto mal clasificado a los centroides del grupo (vectores medios) y las probabilidades posteriores. Las observaciones son asignadas al grupo con la mayor probabilidad posterior. Si en Options introducimos en Predict membership for: 100 130, la clasificación aparece como: Prediction for Test Observations Observation 1 Pred Group Canada From Group Alaska Canada Squared Distance Probability 78.448 55.194 0.000 1.000 Pág. 52 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 El análisis discriminante involucra establecer una “Variable (Variate)”, combinación lineal de dos o más variables independientes que discriminarán mejor entre grupos definidos a priori. Se logra al poner los pesos de la “variable” para cada variable de modo de maximizar la varianza entre grupos respecto a la varianza dentro de los grupos. La ecuación de la función discriminante toma la forma de: Z jk a W 1X1k W 2X 2k ....W nX nk Donde: Zjk = Valor Z discriminante de la función discriminante J para el objeto K. a = Intersección en eje Y Wi = Peso discriminante para la variable independiente i. Xik = Variable independiente i para el objeto k. La media de un grupo se denomina Centroide, que indica la localización típica de cualquier individuo dentro de un grupo en particular y una comparación de las centroides de los grupos muestra que tan alejados se encuentran en relación a la dimensión considerada. A B A B Representación univariada de los valores Z de la función discriminante Las áreas sombreadas son la probabilidad de clasificar erróneamente los objetos entre A y B Ejemplo con HATCO: Paso 1: Objetivos del análisis discriminante Identificar las percepciones de HATCO que difieren significativamente entre empresas que utilizan los métodos de compra: valor total de compra incluyendo productos y servicios comprados y compra especificada donde se indican las características deseadas del producto y del servicio. Pág. 53 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Paso 2. Diseño de la investigación para el análisis discriminante La variable dependiente es categórica con dos grupos, las variables independientes son X1 a X7 y X11 con los métodos de compra de las empresas. Las muestra es de 100 observaciones que supera el mínimo de muestras a variables de 5 a 1, siendo de 10. Se toma una muestra de 40 observaciones para validar el modelo y se utilizan 60 observaciones para la estimación. Paso 3. Supuestos de la función discriminante En la formación de la Variate debe haber normalidad, linealidad, y multicolinealidad y la estimación de la función discriminante (matrices de varianza y covarianza similares). Una prueba de igualdad de covarianza o matrices de dispersión es la prueba M de Box. Paso 4. Estimación del modelo discriminante y evaluación de ajuste Instrucciones en Minitab: 1. Stat > Multivariate > Discriminant Analysis. 2. En Groups, poner X11. 3 En Predictors, poner X1 – X7. 4. Click OK. Los resultados se muestran a continuación: Discriminant Analysis: X11 versus X1, X2, X3, X4, X5, X6, X7 Linear Method for Response: X11 Predictors: X1, X2, X3, X4, X5, X6, X7 Group 0 1 Count 25 35 Summary of classification True Group Put into Group 0 1 0 24 2 1 1 33 Pág. 54 MÉTODOS ESTADÍSTICOS MULTIVARIADOS Total N N correct Proportion N = 60 P. REYES / DIC. 2006 25 35 24 33 0.960 0.943 N Correct = 57 Proportion Correct = 0.950 Squared Distance Between Groups 0 1 0 0.0000 10.9857 1 10.9857 0.0000 Linear Discriminant Function for Groups 0 1 Constant -55.092 -67.574 X1 12.813 16.539 X2 12.313 14.638 X3 7.780 10.158 X4 3.320 3.639 X5 -21.933 -26.874 X6 -2.326 -2.159 X7 4.389 2.657 Summary of Misclassified Observations Observation 13** True Group 0 Pred Group 1 17** 1 0 56** 1 0 Squared Distance 6.238 6.032 7.893 15.673 4.753 8.078 Group 0 1 0 1 0 1 Probability 0.474 0.526 0.980 0.020 0.841 0.159 Por medio de SPSS 1. Analize > Clasify > Discriminant 2. Grouping variable X11 (0:1) Independent variables X1 – X7 3. Statistics Univariate ANOVAs Box’s M 4. OK Los resultados se muestran a continuación Tests of Equality of Group Means X1 Wilks' Lambda .614 F 36.526 X2 .716 X3 X4 df1 1 df2 58 Sig. .000 22.953 1 58 .000 .467 66.302 1 58 .000 .997 .145 1 58 .704 X5 .993 .414 1 58 .523 X6 .991 .522 1 58 .473 X7 .528 51.951 1 58 .000 Como se puede observar son significativos X1, X2, X3 y X7. La función discriminante es la siguiente: Standardized Canonical Discriminant Function Coefficients Function Pág. 55 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 1 X1 1.152 X2 .749 X3 .668 X4 .111 X5 -1.153 X6 .042 X7 -.626 La matriz estructural es la siguiente: Structure Matrix Function 1 X3 .643 X7 -.569 X1 .477 X2 -.379 X6 .057 X5 .051 X4 .030 Pooled within-groups correlations between discriminating variables and standardized canonical discriminant functions Variables ordered by absolute size of correlation within function. Medias de grupos (centroides) de las funciones canónicas discriminantes: Functions at Group Centroids Function X11 .00 1 -1.933 1.00 1.381 Unstandardized canonical discriminant functions evaluated at group means Z=0 N=24 N=33 Zo=-1.933 Z1=1.063 Gráfica de los centroides de grupos Paso 5. Validación del modelo Con los 40 datos restantes se repite la corrida y se observa que los resultados concuerden: Pág. 56 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Tests of Equality of Group Means Wilks' Lambda F df1 df2 Sig. X1 .546 31.628 1 38 .000 X2 .934 2.676 1 38 .110 X3 .789 10.185 1 38 .003 X4 .969 1.205 1 38 .279 X5 .798 9.611 1 38 .004 X6 .997 .105 1 38 .748 X7 .535 33.043 1 38 .000 Log Determinants X11 .00 7 Log Determinant -9.872 7 -6.987 Rank 1.00 Pooled within-groups 7 -6.367 The ranks and natural logarithms of determinants printed are those of the group covariance matrices. Test Results Box's M F 63.963 Approx. 1.776 df1 28 df2 3061.289 Sig. .007 Tests null hypothesis of equal population covariance matrices. Standardized Canonical Discriminant Function Coefficients Function 1 X1 1.932 X2 1.525 X3 .294 X4 -.621 X5 -1.698 X6 .934 X7 -.783 Structure Matrix Function X7 1 -.644 X1 .630 X3 .358 X5 .347 X2 -.183 X4 -.123 X6 -.036 Pág. 57 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Pooled within-groups correlations between discriminating variables and standardized canonical discriminant functions Variables ordered by absolute size of correlation within function. Functions at Group Centroids Function X11 .00 1 -1.822 1.00 1.093 Unstandardized canonical discriminant functions evaluated at group means Prior Probabilities for Groups X11 .00 1.00 Total Cases Used in Analysis Unweig hted Weighted 15 15.000 25 25.000 40 40.000 Prior .500 .500 1.000 Canonical Discriminant Function 1 Canonical Discriminant Function 1 X11 = 0 X11 = 1 5 5 4 4 3 3 2 2 1 1 Mean = 1.09 Std. Dev. = 1.142 N = 25 0 -2 -1 0 1 2 3 Mean = -1.82 Std. Dev. = 0.692 N = 15 0 -3.0 4 -2.5 -2.0 -1.5 -1.0 Classification Results(a) Predicted Group Membership Original Count X11 .00 .00 1.00 Total 15 0 3 22 25 100.0 .0 100.0 12.0 88.0 a 92.5% of original grouped cases correctly classified. 100.0 1.00 % .00 1.00 Pág. 58 15 -0.5 0.0 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Regresión Logística Una de las ventajas de la regresión logística versus el análisis discriminante es que es menos afectada por las diferencias en varianzas / covarianzas entre los grupos, que es una premisa del análisis discriminante. Otra ventaja es que la regresión logística puede manejar variables independientes categóricas fácilmente, mientras que en el análisis discriminante el uso de variables de apoyo crea problemas con la igualdad de varianza / covarianza. Finalmente la regresión logística es similar a la regresión múltiple en términos de su interpretación e interpretación incluyendo los residuos. Ejemplo: You are a researcher who is interested in understanding the effect of smoking and weight upon resting pulse rate. Because you have categorized the response-pulse rateinto low and high, a binary logistic regression analysis is appropriate to investigate the effects of smoking and weight upon pulse rate. Se tiene interés en comprender el efecto de fumar y el peso sobre el pulso (alto y bajo). Los datos utilizados son los siguientes: RestingPulse Smokes Weight RestingPulse Smokes Weight RestingPulse Smokes Weight Low Low Low Low Low Low High Low Low Low High Low High Low Low Low Low Low Low Low Low No No Yes Yes No No No No No No Yes No Yes No No No Yes Yes Yes No No 140 145 160 190 155 165 150 190 195 138 160 155 153 145 170 175 175 170 180 135 170 Low Low Low Low Low Low Low Low High Low Low Low Low Low Low Low High Low High Low High No Yes Yes No No No Yes No Yes No No No Yes Yes Yes No No No Yes Yes No Pág. 59 215 150 145 155 155 150 155 150 180 160 135 160 130 155 150 148 155 150 140 190 145 Low Low Low Low Low High Low High High Low Low High Low Low Low Low Low Low Low High Low No No No No No No Yes No Yes No No No No No No No No No No Yes No 115 102 115 150 110 116 108 95 125 133 110 150 108 155 180 122 120 118 125 135 125 MÉTODOS ESTADÍSTICOS MULTIVARIADOS Low Low Low High Low Low High High Low High No No Yes No No Yes No Yes No No 157 130 185 140 120 130 138 121 125 116 High Low Low Low High Low Low High Low Low P. REYES / DIC. 2006 Yes Yes No No No No No No No No 150 164 140 142 136 123 155 130 120 130 High High Low Low Low Low Low Low High No Yes Yes No No No Yes No Yes Las instrucciones de Minitab para el ejemplo son: 1. Open worksheet EXH_REGR.MTW. 2. Seleccionar Stat > Regression > Binary Logistic Regression. 3. En Response, poner RestingPulse. En Model, poner Smokes Weight. En Factors (optional), poner Smokes. 4. Click Graphs. Seleccionar Delta chi-square vs probability and Delta chisquare vs leverage. Click OK. 5. Click Results. Seleccionar In addition, list of factor level values, tests for terms with more than 1 degree of freedom, and 2 additional goodness-of-fit tests. Click OK en cada cuadro de diálogo. Los resultados se muestran a continuación: Results for: Exh_regr.MTW Binary Logistic Regression: RestingPulse versus Smokes, Weight Link Function: Logit Observaciones que caen dentro de cada categoría Response Information RestingP Variable Low High Total 70 22 92 Value (Event) Count -> Evento de referencia Factor Information Factor Levels Values Smokes 2 No Yes Logistic Regression Table Predictor Constant Smokes Coef -1.987 SE Coef 1.679 Z P -1.18 0.237 Pág. 60 Odds Ratio 95% CI Lower Upper 118 150 112 125 190 155 170 145 131 MÉTODOS ESTADÍSTICOS MULTIVARIADOS Yes Weight -1.1930 0.02502 0.5530 0.01226 P. REYES / DIC. 2006 -2.16 0.031 2.04 0.041 0.30 1.03 0.10 1.00 0.90 1.05 Por ser su P value menor a 0.05 son significativos Smoke y Weight El coeficiente de -1.93 para Smoke representa el cambio estimado en el log de P(low pulse)/P(high pulse) cuando el sujeto fuma comparado a cuando no fuma, con el covariado Weigh (peso) mantenido constante. El coeficiente de 0.0250 para Weight (peso) es el cambio estimado en el log de P(low pulse)/P(high pulse) con una unidad (lb.) de incremento en peso con el factor Fumar constante. A pesar de que hay evidencia de el parámetro de peso Weight no es cero, la tasa de exceso es muy cercana a uno (1.03), indicando que un incremento de peso de una libra tiene un efecto menor en la tasa de pulso en reposo de la persona. Una diferencia más significativa se puede encontrar si se comparan sujetos con una diferencia de peso mayor, por ejemplo 10 libras, la tasa cambia a 1.28 (1.03 + 0.025*10), indicando que el puso de un sujeto con pulso bajo se incrementa 1.28 veces con cada 10 libras de incremento de peso. Para Smokes, el coeficiente negativo de -1.93 y la tasa de exceso de 0.30 indica que los sujetos que fuman tienden a tener una mayor tasa de pulso en reposo (resting pulse rate) que los sujetos que no fuman. Dados sujetos con el mismo peso, la tasa de exceso puede ser interpretada como el exceso de fumadores en la misma muestra teineido un pulso bajo (low pulse) de 30% de los no fumadores teniendo un pulso bajo (low pulse). Log-Likelihood = -46.820 Test that all slopes are zero: G = 7.574, DF = 2, P-Value = 0.023 El estadístico G prueba la hipótesis nula de que los coeficientes asociados con los predoctores son iguales a cero versus que esos coeficientes no todos son cero. En es ejemplo con G = 7.574 y P value = 0.023, indican que hay suficiente evidencia que al menos uno de los coeficientes es diferente de cero. Goodness-of-Fit Tests Method Chi-Square Pearson 40.848 Deviance 51.201 Hosmer-Lemeshow 4.745 Brown: General Alternative 0.905 Symmetric Alternative 0.463 DF 47 47 8 P 0.724 0.312 0.784 2 1 0.636 0.496 Estas pruebas de bondad de ajuste con P values de 0.312 a 0.724 indican que no hay evidencia suficiente que indique que el modelo no ajuste a los datos adecuadamente, considerando un nivel de significancia de 0.05. Table of Observed and Expected Frequencies: (See Hosmer-Lemeshow Test for the Pearson Chi-Square Statistic) Value Low 1 2 3 4 5 Group 6 Pág. 61 7 8 9 10 Total MÉTODOS ESTADÍSTICOS MULTIVARIADOS Obs Exp High Obs Exp Total P. REYES / DIC. 2006 4 4.4 6 6.4 6 6.3 8 6.6 8 6.9 6 7.2 8 8.3 12 12.9 10 9.1 2 1.9 70 5 4.6 4 3.6 3 2.7 1 2.4 1 2.1 3 1.8 2 1.7 3 2.1 0 0.9 0 0.1 22 9 9 9 9 2 92 9 10 10 15 10 Esta tabla permit ever que tan bien ajusta el modelo a los datos, comparando las frecuencias observadas y las frecuencias esperadas, siendo similares indica que no hay evidencia suficiente de que los datos no ajusten bien al modelo, soportado por las pruebas de bondad de ajuste para un nivel de significancia de 0.05. Measures of Association: (Between the Response Variable and Predicted Probabilities) Pairs Concordant Discordant Ties Total Number 1045 461 34 1540 Percent 67.9% 29.9% 2.2% 100.0% Summary Measures Somers' D Goodman-Kruskal Gamma Kendall's Tau-a 0.38 0.39 0.14 Esta tabla muestra 1540 pares (70 individuos con un low pulse y 22 con high pulse resultando en 70*22 = 1540) con valores de respuesta diferentes. Con base en el modelo un par es concordante si el individuo con una tasa de pulso baja (low pulse rate) tiene una más alta probabilidad de tener pulso bajo, discrepante de si sucede lo contrario, y empate si las probabilidades son iguales. En este ejemplo el 67.9% de los pares son concordantes y 29% son discrepantes. Se pueden usar estos valores como una medición comparativa de predicción, por ejemplo para comparar ajustes con diferentes conjuntos de predictores o con funciones diferentes de enlace. Se muestran resumenes de pares concordantes y discrepantes de Somers, Goodman-Kriskal Gamma, y Tau de Kendall. Las métricas se encuentran entre 0 y 1 donde los valores mayores indican que el modelo tiene una mejor habilidad predictiva. En este ejemplo el rango va de 0.14 a 0.39 que implica una baja capacidad predictiva. Pág. 62 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Delta Chi-Square versus Probability Delta Chi-Square 5 4 3 2 1 0 0.4 0.5 0.6 0.7 0.8 0.9 1.0 Probability Delta Chi-Square versus Leverage Delta Chi-Square 5 4 3 2 1 0 0.01 0.06 0.11 0.16 Leverage Las gráficas del ejemplo de Chi cuadrada versus probabilidad y versus apalancamiento muestran que hay dos puntos que se desvían más allá del límite sugerido de 3.84, indicando situaciones anormales que deben ser investigadas. Con la opción Editor > Brush se puede observar que corresponden a los valores de datos 31 y 66, correspondientes a individuos con un pulso alto, que no fuman, y que tienen pesos menores al promedio (116 y 136 libras). Pág. 63 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Ejemplo con datos de Hatco El ejemplo siguiente utiliza las mismas variables que el análisis discriminante anterior para estimar el modelo. Utilizando los datos de HATCO, la muestra de 100 clientes se divide en dos grupos, uno de 60 para análisis y otro de 40 para validación. La regresión logística es más robusta ante el supuesto de igualdad de varianza covarianza. Para el ejemplo se utilizan las 7 variables X1 a X7 teniendo como respuesta a X11. Pág. 64 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 7. Análisis de Conglomerados Pág. 65 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 7. ANÁLISIS DE CONGLOMERADOS Se cuenta también con el análisis de conglomerados o clusters (técnica para agrupar los casos o elementos de una muestra en grupos con base en una o más variables). Usar Análisis de componentes principales para ayudar a comprender la estructura de datos y/o a formar un pequeño número de variables no correlacionadas (por ejemplo para evitar multicolinealidad en la regresión). El análisis de conglomerados agrupa individuos u objetos dentro de conglomerados (“Clusters”) de modo que los objetos en el mismo grupo tienen características más similares que las que tienen versus otros grupos. El “Cluster Variate” es características utilizadas el conjunto para de comparar variables objetos representando en el análisis las de conglomerados. Es decir determina el “carácter de los objetos”. Es la única técnica multivariada que no estima la “variate” empíricamente sino que se especifica por el investigador. “Variate” es la combinación lineal de variables formadas en la técnica multivariada al determinar empíricamente ponderaciones aplicadas al conjunto de variables especificadas por el investigador. El análisis de conglomerados también se ha denominado Análisis Q, Construcción de tipología, Análisis de clasificación, y taxonomía numérica. Esto debido al uso de estas técnicas en diversas áreas como la sicología, biología, sociología, economía, ingeniería, y los negocios. El análisis de conglomerados es parecido al análisis factorial en su propósito de evaluar la estructura. Pero el análisis de conglomerados difiere del análisis factorial en que agrupa objetos, mientras que el análisis factorial se enfoca principalmente a agrupar variables. El análisis de conglomerados puede hacer reducciones de datos colectados de cuestionarios en una población, a información relacionada con pequeños Pág. 66 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 subgrupos específicos. No tiene bases estadísticas sobre las que se puedan realizar inferencias estadísticas de una muestra a una población, su uso es principalmente como técnica exploratoria. Las soluciones no son únicas y se pueden obtener diversas soluciones variando uno o más elementos del procedimiento. ¿Cómo funciona el análisis de conglomerados? Se ilustra con un ejemplo con datos divariados. Suponer que un estudio de mercado trata de determinar segmentos de mercado en base a los patrones de lealtad de marcas (V1) y tiendas (V2), medidas del 0 al 10 en 7 personas (A-G). Variables V1 V2 A 3 2 B 4 5 C 4 7 D 2 7 E 6 6 F 7 7 G 6 4 Scatterplot of V2 vs V1 7 D C F E 6 B V2 5 G 4 3 A 2 2 3 4 5 6 7 V1 Para acomodar en grupos se necesita contestar: ¿Cómo se mide la similaridad?, se puede hacer por correlación o proximidad en un espacio de dos dimensiones. ¿Cómo se forman los conglomerados? ¿Cuántos grupos se formarán? Pág. 67 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Ejemplo 1: Para medir la similitud se evalúa con la distancia euclidiana (línea recta) entre cada par de observaciones (ver Tabla), entendiendo que las distancias pequeñas indican similaridad, E y F son las más similares (1.414) y la A y F las más diferentes (6.403). Observ. A B C D E F G Formamos A B C D E F 3.162 5.099 5.099 5.000 6.403 3.606 2.000 2.828 2.236 3.606 2.236 2.000 2.236 3.000 3.606 4.123 5.000 5.000 1.414 2.000 3.162 conglomerados ahora con un Procedimiento G jerárquico moviéndose paso a paso para formar un rango completo de soluciones. También se denomina Método Aglomerativo dado que los conglomerados se forman con la combinación de conglomerados existentes. Distancia Mínima entre observaciones Paso Solución por conglomerados Par observado Miembros en el conglomerado 1 Sol. inicial 1.414 E-F A, B,C,D,E,F,G A, B,C,D,E-F,G Núm. De Congl. 7 6 2 2.000 E-G A, B,C,D,E-F-G 5 2.192 3 2.000 C-D A, B,C-D,E-F-G 4 2.144 4 2.000 B-C A, B-C-D,E-F-G 3 2.234 5 2.236 B-E A,B-C-D-E-F-G 2 2.896 6 3.162 A=B A-B-C-D-E-F-G 1 3.420 Utilizando Minitab: Stat > Multivariate Análisis > Cluster Observations Distance Measured Euclidean Seleccionar Show Dendogram OK Pág. 68 Dist. Prom. Dentro Cong. 0 1.414 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Proceso de jerarquía de conglomerados Similarity 50.61 67.08 83.54 100.00 A B C D Observations E F G Cluster Analysis of Observations: V1, V2 Euclidean Distance, Single Linkage Amalgamation Steps Step 1 2 3 4 5 6 Number of clusters 6 5 4 3 2 1 Similarity level 77.9137 68.7652 68.7652 68.7652 65.0785 50.6135 Distance level 1.41421 2.00000 2.00000 2.00000 2.23607 3.16228 Clusters joined 5 6 5 7 3 4 2 3 2 5 1 2 New cluster 5 5 3 2 2 1 Number of obs. in new cluster 2 3 2 3 6 7 Final Partition Number of clusters: 1 Cluster1 Number of observations 7 Within cluster sum of squares 41.4286 Average distance from centroid 2.23187 Maximum distance from centroid 3.77154 Ejemplo 2: Se registran las siguientes características para 14 censos: Población total (Pop), mediana de años escolares (School), empleo total (Employ),empleo en servicios de salud (Health), y valor mediano del valor de la casa (Home). Los datos se muestran a continuación: Pop 5.935 1.523 2.599 4.009 4.687 School 14.2 13.1 12.7 15.2 14.7 Employ 2.265 0.597 1.237 1.649 2.312 Health 2.27 0.75 1.11 0.81 2.5 Pág. 69 Home 2.91 2.62 1.72 3.02 2.22 MÉTODOS ESTADÍSTICOS MULTIVARIADOS 8.044 2.766 6.538 6.451 3.314 3.777 1.53 2.768 6.585 15.6 13.3 17 12.9 12.2 13 13.8 13.6 14.9 3.641 1.244 2.618 3.147 1.606 2.119 0.798 1.336 2.763 P. REYES / DIC. 2006 4.51 1.03 2.39 5.52 2.18 2.83 0.84 1.75 1.91 2.36 1.97 1.85 2.01 1.82 1.8 4.25 2.64 3.17 Se realiza un análisis de components principales para comprender la estructura de datos subyacente. Se usa la matriz de correlación para estandarizar las mediciones dado que no se mide con la misma escala. Las instrucciones de Minitab son las siguientes: 1 Abrir la worksheet EXH_MVAR.MTW. 2 Stat > Multivariate > Principal Components. 3 En Variables, Pop-Home. 4 En Type of Matrix, seleccionar Correlation. 5 Click Graphs y seleccionar Scree plot. 6 Click OK en cada cuadro de diálogo. Los resultados se muestran a continuación: Principal Component Analysis: Pop, School, Employ, Health, Home Eigenanalysis of the Correlation Matrix Eigenvalue Proportion Cumulative Variable Pop School Employ Health Home 3.0289 0.606 0.606 PC1 -0.558 -0.313 -0.568 -0.487 0.174 1.2911 0.258 0.864 PC2 -0.131 -0.629 -0.004 0.310 -0.701 0.5725 0.114 0.978 PC3 0.008 -0.549 0.117 0.455 0.691 0.0954 0.019 0.998 PC4 0.551 -0.453 0.268 -0.648 0.015 0.0121 0.002 1.000 PC5 -0.606 0.007 0.769 -0.201 0.014 Pág. 70 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Scree Plot of Pop, ..., Home 3.0 Eigenvalue 2.5 2.0 1.5 1.0 0.5 0.0 1 2 3 Component Number 4 5 Interpretando los resultados El primer componente principal tiene varianza (eigenvalor) 3.029 y acumula el 60.6% de la varianza total. Los coeficientes para el PC1 muestran como calcular el nivel del componente principal. PC1 = .558 Pop .313 School .568 Employ .487 Health + .174 Home Notar que la interpretación de los components principales es subjetiva, sin embargo, frecuentemente surgen patrones obvios. Por ejemplo, se podría pensar que el primer componente represente el efecto del tamaño de la población total, el nivel de escolaridad, empleo y servicios de salud, dado que los coeficientes de estos términos tienen el mismo signo y no son cercanos a cero. El segundo componente tiene varianza 1.2911 y acumula el 25.8% de la variabilidad de los datos. Se calcula de los datos originales usando los coeficientes listados en PC2. Este componente podría ser pensado como nivel de contraste de escolaridad y valor de la casa con salud y empleo de alguna manera. Juntos el primero y segundo componentes representan el 86.4% y 97%, respectivamente, de la variabilidad total. Así, la mayoría de la estructura de datos puede ser capturada en dos o tres dimensiones relevantes. Los componentes remanentes solo tienen una menor proporción de probabilidad y Pág. 71 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 no son importantes. La gráfica Scree proporciona una visión gráfica de lo anterior. Ejemplo 3: Con los datos de HATCO se utilizan las siete percepciones de clientes para identificar segmentos de clientes. Paso 1: Objetivos del análisis de conglomerados El objetivo es segmentar objetos (clientes) en grupos con percepciones similares (X1 a X7). Una vez identificados, se pueden aplicar diferentes estrategias para para cada grupo. X1 = Rapidez de entrega X2 = Nivel de precio X3 = Flexibilidad de precio X4 = Imagen del fabricante X5 = Servicio en general X6 = Imagen de la fuerza de ventas X7 = Calidad del producto Paso 2. Diseño del análisis de conglomerados Se identifica si no hay puntos aberrantes en los datos. Se selecciona la medida de similaridad, en este caso la distancia euclidiana al cuadrado. Si se observa multicolinealidad que afecte a las ponderaciones de las variables, entonces se puede utilizar la distancia de Mahalanobis (D2). La estandarización de variables no es importante dado que tienen valores parecidos. Paso 3. Supuestos en el análisis de conglomerados Para el análisis se considera que los datos de la muestra representan a la población de clientes de HATCO. Queda pendiente el efecto de la multicolinealidad en la ponderación implícita de los resultados. Paso 4. Establecer conglomerados y evaluar el ajuste al modelo Con Minitab: 1. Stat > Multivariate > Cluster observations Pág. 72 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 2. Variables or distance matrix X1 – X7 3. Linkage method Ward (minimize la distancia dentro conglomerados) 4. Distance Measure Squared Euclidean 5. Seleccionar Show Dendogram 6. Customize Label Y axis with Distances 7. OK Los resultados se muestran a continuación: Cluster Analysis of Observations: X1, X2, X3, X4, X5, X6, X7 Squared Euclidean Distance, Ward Linkage Amalgamation Steps Step 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 Number of clusters 99 98 97 96 95 94 93 92 91 90 89 88 87 86 85 84 83 82 81 80 79 78 77 76 75 74 73 72 71 70 69 68 67 66 65 64 63 62 61 60 59 58 57 56 55 Similarity level 100.000 99.987 99.987 99.975 99.949 99.924 99.912 99.912 99.912 99.912 99.874 99.874 99.874 99.836 99.798 99.760 99.760 99.760 99.722 99.722 99.722 99.722 99.684 99.646 99.646 99.646 99.646 99.646 99.646 99.520 99.457 99.457 99.330 99.267 99.153 99.115 98.939 98.812 98.686 98.673 98.673 98.656 98.648 98.591 98.332 Distance level 0.000 0.010 0.010 0.020 0.040 0.060 0.070 0.070 0.070 0.070 0.100 0.100 0.100 0.130 0.160 0.190 0.190 0.190 0.220 0.220 0.220 0.220 0.250 0.280 0.280 0.280 0.280 0.280 0.280 0.380 0.430 0.430 0.530 0.580 0.670 0.700 0.840 0.940 1.040 1.050 1.050 1.063 1.070 1.115 1.320 Clusters joined 15 20 5 42 24 27 47 61 19 28 67 90 36 41 51 77 18 92 33 62 25 44 85 87 43 46 38 63 69 81 50 72 56 91 94 98 1 95 16 73 75 99 37 48 11 100 4 89 84 88 23 32 2 83 29 78 3 71 17 64 8 68 12 76 9 74 52 60 10 34 26 59 49 97 7 67 13 21 40 54 82 93 10 30 66 80 36 84 6 70 Pág. 73 New cluster 15 5 24 47 19 67 36 51 18 33 25 85 43 38 69 50 56 94 1 16 75 37 11 4 84 23 2 29 3 17 8 12 9 52 10 26 49 7 13 40 82 10 66 36 6 Number of obs. in new cluster 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 3 2 2 2 3 2 4 2 de los MÉTODOS ESTADÍSTICOS MULTIVARIADOS 46 54 97.902 1.660 45 47 53 97.877 1.680 39 48 52 97.761 1.772 10 49 51 97.321 2.120 13 50 50 96.355 2.885 50 51 49 96.203 3.005 40 52 48 95.986 3.177 14 53 47 95.818 3.310 9 54 46 95.552 3.520 22 55 45 95.325 3.700 65 56 44 94.826 4.095 10 57 43 94.301 4.510 6 58 42 94.054 4.706 10 59 41 93.996 4.751 14 60 40 93.783 4.920 15 61 39 93.745 4.950 16 62 38 93.594 5.070 4 63 37 92.867 5.645 25 64 36 92.341 6.062 25 65 35 91.633 6.622 18 66 34 90.732 7.335 23 67 33 90.566 7.466 9 68 32 89.797 8.075 11 69 31 89.607 8.225 8 70 30 88.621 9.005 1 71 29 88.537 9.072 13 72 28 87.859 9.608 40 73 27 87.621 9.797 4 74 26 86.484 10.697 3 75 25 86.381 10.778 18 76 24 86.216 10.909 7 77 23 85.195 11.717 16 78 22 85.001 11.870 39 79 21 82.841 13.580 3 80 20 82.550 13.810 9 81 19 81.104 14.954 9 82 18 77.848 17.531 2 83 17 76.996 18.205 8 84 16 67.541 25.688 1 85 15 65.781 27.081 2 86 14 61.257 30.661 7 87 13 60.778 31.040 11 88 12 56.202 34.662 6 89 11 49.784 39.741 2 90 10 42.640 45.395 3 91 9 40.362 47.197 1 92 8 36.171 50.514 1 93 7 29.104 56.107 6 94 6 19.593 63.634 5 95 5 17.930 64.950 1 96 4 -15.826 91.665 2 97 3 -96.701 155.669 2 98 2 -135.645 186.489 1 99 1 -839.878 743.820 1 Final Partition Number of clusters: 1 Within Average cluster distance Number of sum of from observations squares centroid Cluster1 100 996.352 3.05166 P. REYES / DIC. 2006 86 96 53 35 69 45 38 58 55 79 31 52 37 66 19 29 75 33 26 50 56 12 85 36 51 22 94 24 10 43 15 47 65 57 14 49 4 17 25 40 9 23 8 39 82 18 16 11 7 13 6 3 5 2 Maximum distance from centroid 5.27503 Pág. 74 45 39 10 13 50 40 14 9 22 65 10 6 10 14 15 16 4 25 25 18 23 9 11 8 1 13 40 4 3 18 7 16 39 3 9 9 2 8 1 2 7 11 6 2 3 1 1 6 5 1 2 2 1 1 2 2 4 3 4 4 3 3 2 2 5 4 7 5 4 4 4 4 6 6 4 5 4 6 4 5 6 6 9 8 7 6 4 10 10 12 8 8 10 14 19 8 12 18 12 18 24 20 21 29 38 50 50 100 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Proceso de jerarquía de conglomerados Distance 406.13 270.75 135.38 0.00 1 9551 77 11 00 858 747 6 113 213 52 2 55 9 744 9 97 1276 581 520 3863 6 68 016 7329 781 892 434 6 50 7269 8 125 44 2659 3362 5 42 7 679 014 1 928 28 375 9923 325 6 91 670 526 0 8 6836 41 8 488 489 242 740 544 5 86 9498 3 996 65 79 3 7110 34 305 3 3748 57 1 764 318 293 1 Observations Proceso de jerarquía de conglomerados Distance 406.13 270.75 135.38 0.00 2 8 3 7 5 9 9 2 3 3 2 5 6 91 6 70 52 60 8 68 36 41 84 88 4 89 24 27 40 54 45 86 9 4 9 8 3 9 9 6 6 5 7 9 Observations Pág. 75 3 71 10 34 30 53 37 48 57 17 64 31 82 93 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Proceso de jerarquía de conglomerados Distance 406.13 270.75 135.38 0.00 1 9 5 5 1 7 7 1 1 0 0 8 5 8 7 4 7 6 1 1 3 2 1 3 5 22 5 5 9 7 4 49 9 7 1 2 7 6 5 8 1 5 2 0 3 8 6 3 6 6 8 0 1 6 7 3 2 9 7 8 18 9 2 43 4 6 50 7 2 6 9 8 1 2 5 4 4 2 6 5 9 3 3 6 2 5 4 2 7 6 7 9 0 14 1 9 28 1 Observations De Minitab con soluciones por grupos de Conglomerados: 1. Stat > Multivariate > Cluster K Means 2. Variables or distance matrix X1 – X7 3. Nmber of clusters 2 o 4 4. OK Solución por dos conglomerados K-means Cluster Analysis: X1, X2, X3, X4, X5, X6, X7 Final Partition Number of clusters: 2 Cluster1 Cluster2 Number of observations 52 48 Within cluster sum of squares 315.799 294.132 Average distance from centroid 2.383 2.368 Maximum distance from centroid 4.285 4.279 Cluster Centroids Variable X1 X2 X3 X4 X5 X6 X7 Cluster1 4.3827 1.5808 8.8615 4.9250 2.9577 2.5250 5.9038 Cluster2 2.5750 3.2125 6.8458 5.5979 2.8708 2.8167 8.1271 Grand centroid 3.5150 2.3640 7.8940 5.2480 2.9160 2.6650 6.9710 Pág. 76 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Distances Between Cluster Centroids Cluster1 Cluster2 Cluster1 0.0000 3.9347 Cluster2 3.9347 0.0000 En esta solución se observa que en el grupo o cluster 1 versus cluster 2, X1 y X3 son mayores. En el caso de las variables X2, X4, X6 y X7 tienen valores más altos en el cluster 2 que en el cluster 1. X5 no muestra diferencia significativa. Por tanto se sugieren dos segmentos, evaluados desde un punto de vista conceptual y práctico. Corriendo con SPSS se tiene: 1. Analyze > Clasify > K Jeans Clusters 2. Variables X1 – X7 3. Number of clusters 2 4. OK ANOVA Cluster Mean Square X1 Error df Mean Square df F 81.563 1 .930 98 X2 66.457 1 .766 X3 101.414 1 .923 X4 11.302 1 X5 .188 1 X6 2.123 X7 123.372 Sig. 87.717 .000 98 86.753 .000 98 109.816 .000 1.178 98 9.596 .003 .568 98 .331 .566 1 .579 98 3.670 .058 1 1.280 98 96.404 .000 The F tests should be used only for descriptive purposes because the clusters have been chosen to maximize the differences among cases in different clusters. The observed significance levels are not corrected for this and thus cannot be interpreted as tests of the hypothesis that the cluster means are equal. Solución por cuatro conglomerados K-means Cluster Analysis: X1, X2, X3, X4, X5, X6, X7 Final Partition Number of clusters: 4 Cluster1 Cluster2 Cluster3 Number of observations 34 29 14 Within cluster sum of squares 155.126 123.693 54.234 Average distance from centroid 2.100 2.012 1.833 Maximum distance from centroid 2.922 3.211 3.051 Pág. 77 MÉTODOS ESTADÍSTICOS MULTIVARIADOS Cluster4 23 109.941 P. REYES / DIC. 2006 2.031 3.947 Cluster Centroids Variable X1 X2 X3 X4 X5 X6 X7 Cluster1 4.1441 1.5794 8.5765 4.4176 2.8353 2.0882 5.3147 Cluster2 2.0241 2.7655 7.0103 5.1621 2.3655 2.5552 8.2690 Cluster3 3.6143 4.1286 5.9500 6.0643 3.8429 3.1643 7.9500 Cluster4 4.4043 1.9435 9.1826 6.0870 3.1652 3.3522 7.1870 Grand centroid 3.5150 2.3640 7.8940 5.2480 2.9160 2.6650 6.9710 Distances Between Cluster Centroids Cluster1 Cluster2 Cluster3 Cluster4 Cluster1 0.0000 4.2514 5.0504 2.9268 Cluster2 4.2514 0.0000 2.9967 3.7896 Cluster3 5.0504 2.9967 0.0000 4.1141 Cluster4 2.9268 3.7896 4.1141 0.0000 El Cluster 3 es mucho más compacto que el cluster 1, como se indica por la suma de cuadrados. En este caso se muestra en forma más clara un grupo de patrones con valores altos y otro con valores bajos. Corriendo con SPSS se tiene: 5. Analyze > Clasify > K Jeans Clusters 6. Variables X1 – X7 7. Number of clusters 4 OK ANOVA Cluster Error X1 Mean Square 37.108 df 3 Mean Square .639 X2 28.530 3 .583 X3 37.115 3 X4 15.527 3 X5 7.487 X6 8.242 df 96 F 58.055 Sig. .000 96 48.960 .000 .839 96 44.224 .000 .835 96 18.598 .000 3 .348 96 21.509 .000 3 .355 96 23.204 .000 X7 53.222 3 .928 96 57.330 .000 The F tests should be used only for descriptive purposes because the clusters have been chosen to maximize the differences among cases in different clusters. The observed significance levels are not corrected for this and thus cannot be interpreted as tests of the hypothesis that the cluster means are equal. Investigando ahora la agrupación de variables se tiene: En Minitab: 1. Stat > Multivariate > Cluster variables Pág. 78 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 2. Variables or distance matrix X1 – X7 3. Linkage method Ward (minimize la distancia dentro de conglomerados) 4. Distance Measure Correlation 5. Seleccionar Show Dendogram 6. Customize Label Y axis with Distances 7. OK Los resultados se muestran a continuación: Cluster Analysis of Variables: X1, X2, X3, X4, X5, X6, X7 Correlation Coefficient Distance, Ward Linkage Amalgamation Steps Step 1 2 3 4 5 6 Number of clusters 6 5 4 3 2 1 Similarity level 89.4112 80.5950 73.4873 57.8288 39.4434 -4.3342 Distance level 0.21178 0.38810 0.53025 0.84342 1.21113 2.08668 Clusters joined 4 6 1 5 2 7 1 3 2 4 1 2 New cluster 4 1 2 1 2 1 Number of obs. in new cluster 2 2 2 3 4 7 Dendrogram with Ward Linkage and Correlation Coefficient Distance Distance 2.09 1.39 0.70 0.00 X1 X5 X3 X2 Variables X7 X4 X6 Se identifican conglomerados en las variables X1 y X5; X2 y X7; X4 y X6, después entre X1, X5, X3 y X2, X7, X4 y X6 y al final un solo conglomerado. Pág. 79 los MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Paso 5. Interpretación de los conglomerados Como resultado de un análisis factorial se tiene: Instrucciones en Minitab: 1. Stat > Multivariate > Factor analysis 2. Variables X1 – X7 Method of Extraction Maximum likelihood 3. Rotation Varimax 4. Graphs Scree Plot Loading Plot for first two factors 5. OK Factor Analysis: X1, X2, X3, X4, X5, X6, X7 Maximum Likelihood Factor Analysis of the Correlation Matrix * NOTE * Heywood case Unrotated Factor Loadings and Communalities Variable X1 X2 X3 X4 X5 X6 X7 Factor1 0.969 -0.181 0.436 0.133 0.752 0.133 -0.424 Factor2 0.177 -0.984 0.400 -0.301 -0.660 -0.214 -0.400 Communality 0.971 1.000 0.350 0.108 1.000 0.063 0.340 Variance % Var 1.9431 0.278 1.8896 0.270 3.8327 0.548 Rotated Factor Loadings and Communalities Varimax Rotation Variable X1 X2 X3 X4 X5 X6 X7 Factor1 -0.894 0.714 -0.587 0.065 -0.235 0.015 0.577 Factor2 0.414 0.700 -0.075 0.323 0.972 0.251 0.082 Communality 0.971 1.000 0.350 0.108 1.000 0.063 0.340 Variance % Var 2.0468 0.292 1.7859 0.255 3.8327 0.548 Factor Score Coefficients Variable X1 X2 X3 X4 Factor1 0.000 1.132 0.000 -0.000 Factor2 -0.000 0.273 -0.000 -0.000 Pág. 80 MÉTODOS ESTADÍSTICOS MULTIVARIADOS X5 X6 X7 -0.815 -0.000 -0.000 P. REYES / DIC. 2006 0.832 -0.000 0.000 Loading Plot of X1, ..., X7 X5 1.0 0.8 Second Factor X2 0.6 X1 0.4 X4 X6 0.2 X7 0.0 X3 -1.0 -0.5 0.0 First Factor 0.5 Para las correlaciones en Minitab: 1. Stat > Basic statistics > Correlations 2. Variables X1 – X7 Show P values 3. OK Correlations: X1, X2, X3, X4, X5, X6, X7 X1 -0.349 0.000 X2 X3 0.476 0.000 -0.472 0.000 X4 0.050 0.618 0.272 0.006 -0.095 0.347 X5 0.612 0.000 0.513 0.000 0.064 0.524 0.299 0.003 X6 0.077 0.446 0.186 0.064 -0.015 0.880 0.788 0.000 0.241 0.016 X7 -0.483 0.000 0.470 0.000 -0.407 0.000 0.200 0.046 -0.055 0.586 X2 X3 X4 X5 X6 0.177 0.078 Cell Contents: Pearson correlation P-Value Al definir los factores que son las dimensiones de las variables que se correlacionan significativamente, se observan dos factores. El primer factor Pág. 81 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 contiene a X1, X2, X3 y X7 y el segundo factor contiene a los aspectos de imagen X4 y X6. En el primer factor X2 y X7 se relacionan inversamente con X1 y X3, es decir que mientras se incrementan unas, las otras bajan. Esto sugiere que altos valores en X1 y X3 implican valores bajos en X2 y X7. O sea que definir conglomerados sólo con base en valores altos o bajos es inapropiado. De la tabla ANOVA para dos conglomerados se observa que solo X5 – Servicio general no es significativa. 10 9 8 7 Cluster 6 1 5 2 4 3 2 1 0 X1 X2 X3 X4 X5 X6 X7 De la gráfica de centros de conglomerados se observa que X4 y X6 tienen valores mayores en el conglomerado 2 que en el 1 y X1, X3 tienen valores mayores en el conglomerado 1 que en el 2 y X2 y X7 son menores. Para el caso de 4 conglomerados, el 1 se divide en 1 y 4 y el 2 se divide en 2 y 3 se tiene: 12 10 8 1 2 6 3 4 4 2 0 X1 X2 X3 X4 Pág. 82 X5 X6 X7 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 En general la aplicación del análisis de conglomerados es un arte más que una ciencia y se deben aplicar criterios objetivos y subjetivos adecuados. Pág. 83 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 8. ANÁLISIS FACTORIAL Pág. 84 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 8. ANÁLISIS FACTORIAL El análisis factorial es un método cuyo propósito principal es definir la estructura subyacente de una matriz de datos. Atiende el problema de analizar la estructura de las interrelaciones (correlaciones) entre un gran número de variables (vgr. Respuestas de cuestionarios) al definir un conjunto de dimensiones subyacentes comunes, conocidas como factores. Con el análisis factorial se identifican las dimensiones separadas de la estructura y después se determina que tanto cada variable es explicada por cada dimensión. Una vez que se determinan las dimensiones y se explican las variables por cada dimensión, se puede hacer un resumen y reducción de datos. El análisis factorial es una técnica de interdependencia en la cual todas las variables son consideradas de manera simultanea, cada una relacionada a las otras, y empleando el concepto de variate, composición lineal de variables. De hecho las variates (factores) se forman para maximizar su explicación de todo el conjunto de variables, no para predecir una variable dependiente(s). Una variate (factor) es una variable dependiente que es función del conjunto total de variables. Se usa el Análisis factorial, de manera similar al análisis de componentes principales, para resumir la estructura de covarianza de los datos en una pocas dimensiones de los mismos. Sin embargo, el énfasis en análisis factorial es la identificación de los “factores subyacentes” que pueden explicar las dimensiones asociadas con la gran variabilidad de los datos. Se pueden tener tres tipos de datos de entrada: Columnas de datos unitarios Una Matriz de correlaciones o covarianzas Columnas conteniendo ponderaciones de factores Con los datos del ejemplo anterior de Componentes principales, realizar un análisis factorial como sigue: Pág. 85 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Nos gustaría investigar que “factores” pueden explicar la mayor parte de la variabilidad. Como primer paso del análisis factorial, se utiliza la extracción de componentes principales y se examinan los eigenvalores en gráfica como ayuda para decidir el número de factores. PROCESO DE DECISIÓN DE ANÁLISIS FACTORIAL Paso 1. Objetivos del Análisis factorial El propósito es encontrar una forma de condensar (resumir) la información contenida en un cierto número de variables originales, en un grupo más pequeño de dimensiones nuevas, compuestas o variates (factores) con un mínimo de pérdida de información. Por ejemplo si hay datos de 100 cuestionarios en 10 características, el análisis factorial se aplica a la matriz de correlación de variables y se denomina Análisis Factorial R, para identificar las dimensiones que están latentes o no son fácilmente observables. El análisis factorial también se puede aplicar a una matriz de correlación de los cuestionarios individuales basados sus características, referido como Análisis Factorial Q, es un método de condensar o combinar un grupo grande de gente en diferentes grupos distintos dentro de una población grande, para esto se utiliza el análisis de conglomerados (clusters). Paso 2. Diseño del análisis factorial Incluye tres decisiones básicas: (1) cálculo de los datos de entrada (una matiz de correlación) para cumplir con los objetivos especificados de agrupar variables o cuestionarios; (2) el diseño del estudio en términos del nñumeor de variables, propiedades de medición de las variables, y el tipo de variables permitidas y (3) el tamaño de muestra necesario (al menos 5 veces el númro de variables analizadas), ambos en términos absolutos y como función de del número de variables en el análisis. Paso 3. Supuestos del análisis factorial Pág. 86 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Es deseable algún grado de multicolinealidad entre variables dado que el objetivo es identificar conjuntos de variables interrelacionadas, no son tan importantes la normalidad, homoestacidad y linealidad a menos que disminuyan significativamente las correlaciones observadas. La matriz de correlación debe indicar valores mayores a 0.3 para aplicar el análisis de correlación. También si las correlaciones parciales entre variables (correlación entre variables cuando el efecto de las otras variables se toma en cuenta) son pequeñas dado que la variable puede explicada por los factores (variates con ponderacións para cada una de las variables). Si las correlaciones parciales son altas, no hay factores subyacentes “verdaderos” y el análisis factorial es inapropiado. La prueba de esfericidad de Bartlett mide la presencia de correlaciones entre las variables, proporciona la probabilidad de que la matriz de correlación tenga correlaciones significativas en algunas de las variables. Otro indicador es el “Measure of Sampling Adequacy (MSA)”, con rango de 0 a 1, donde 0.8 o más es meritorio; 0.07 o más es regular; 0.60 o más es mediocre; 0.50 o más miserable y debajo de 0.50 inaceptable. El supuesto básico en el análisis factorial es que existe una estructura subyacente en el conjunto de variables seleccionadas. Paso 4. Identificando factores y evaluando el ajuste del modelo Una vez que se especifican las variables y se prepara la matriz de correlación, se toman decisiones en relación a (1) el método de extracción de los factores (análisis de factores comunes versus análisis de componentes) y (2) el número de factores seleccionados para representar la estructura subyacente en los datos. Análisis de componentes El análisis de componentes se usa cuando el objetivo es resumir la mayor parte de la información original (varianza) en un mínimo número de factores para Pág. 87 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 propósitos de predicción. Considera la varianza total y determina factores que contienen pequeñas proporciones de varianza única y, en algunos casos, varianza del error. Análisis factorial En contraste el análisis de factores comunes se utiliza para identificar los factores subyacentes o dimensiones que reflejan aquello que las variables comparten en común. En este método se tienen tres tipos de varianzas: (1) común, (2) específica (única), y (3) error. La varianza común se define como la varianza en una variable que es compartida por todas las demás variables. La varianza específica es la varianza asociada solo con una variable específica. La varianza del error es la varianza debida a la incertidumbre en el proceso de recolección de datos, errores de medición, o componente aleatorio en el fenómeno medido. Criterios para el número de factores a extraer El método primero extrae la combinación de variables explicando la mayor cantidad de varianza y después continua con combinaciones que representan menos y menos cantidades de varianza. La selección de factores a extraer equivale a enfocar un microscopio normalmente se hace por prueba y error contrastando los resultados. Criterio de Raíz Latente: su racional es que cualquier factor individual debe contener la varianza de al menos una variable. Como cada variable contribuye con 1 al eigenvalor total o raíz latente. Se seleccionan solo los factores con eigenvalores mayores a uno, cuando se tienen menos de 20 variables, los factores extraídos son pocos. Criterio a Priori: en este método el investigador ya tiene una idea clara de los factores a extraer y así lo indica en la computadora. Pág. 88 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Criterio de porcentaje de varianza: Enfoque basado en lograr un porcentaje acumulado de varianza total extraído por factores sucesivos. Normalmente el proceso para al acumular 95%. Criterio Scree Test: Se usa para identificar el número óptimo de factores que pueden ser extraídos antes de que la cantidad de varianza única empiece a dominar la estructura de varianza común. E i g e n v a l o r 8 1 Número de factores Paso 5. Interpretando los factores Se obtiene la matriz no rotada para estimar el número de factores a extraer. La matriz de factores contiene ponderacións de factores para cada variable en cada factor. El primer factor puede verse como la mejor combinación lineal incluida en los datos, con cada factor con ponderacións significativos y acumula la mayor parte de a varianza; el segundo factor es la segunda mejor combinación lineal de variables, sujeta a que es ortogonal al primer factor, se basa en la porción residual de la varianza una vez removido el primero, así sucesivamente. Los ponderacións de los factores representan la correlación de cada una de las variables y el factor, entre mayores sean, mayor será la representatividad del factor por la variable. Pág. 89 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 La rotación de los factores más simple es una rotación ortogonal, en la cual se mantienen los ejes a 90 grados. Se pueden rotar los ejes sin mantener los 90 grados entre los ejes de referencia. Cuando no hay restricción de ortogonalidad, el procedimiento de rotación se denomina rotación oblicua. +1 Factor II rotado +1 Factor II sin rotar V1 V2 +1 Factor I sin rotar -1 V4 V3 V5 +1 Factor I rotado -1 Fact or II sin rotar Fig. 1 Rotación ortogonal de factores (observar la ponderación o ponderación de factores I y II en la variable V2, es más clara cuando se rotan los factores) En la figura se observan dos conglomerados de variables (V1 y V2) y (V3, V4 y V5), sin embargo con los factores sin rotar no es muy obvia su ponderación o ponderación de los factores I y II. Después de la rotación de los ejes de factores, las variables 3, 4 y 5 tienen una ponderación o ponderación fuerte de factor I, y las variables 1 y2 tienen una ponderación o ponderación fuerte en el factor II. Siendo más obvia la distinción entre conglomerados en dos grupos. Métodos de rotación ortogonal En la práctica el objetivo de todos los métodos de rotación es simplificar las filas y columnas de la matriz de factores para facilitar la interpretación. En una matriz de factores las columnas representan factores, con cada renglón correspondiente a la ponderación de las variables a través de los factores. Al simplificar los renglones, se hacen tantos valores en cada fila tan cercanos a cero como sea posible (i.e. maximizando la ponderación de una variable con un Pág. 90 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 factor único). Simplificando las columnas, se hacen tantos valores en las columnas tan cercanos a cero como sea posible (i.e. hacer el máximo número de ponderacións “altas” como sea posible). Se han desarrollado tres métodos para lo anterior como sigue: Quartimax: para simplificar las filas de la matriz; o sea, que Quartimax se enfoca a rotar los factores iniciales de manera que las variables tengan la mayor ponderación posible de un factor y la mínima de los otros. Aunque este método no ha sido eficiente. Varimax: se centra en simplificar las columnas de la matriz factorial. La máxima simplificación posible se logra cuando solo hay 1’s y 0’s en la columna. Es decir que VARIMAX maximiza la suma de variancias de ponderacións requeridas de la matriz factorial. Este método ha probado ser un método analítico efectivo para obtener una rotación ortogonal de factores. Equimax: Es un compromiso entre las anteriores. Trata de simplificar los renglones y las columnas, no se utiliza frecuentemente. Métodos de rotación oblicua: Estos métodos son similares a las rotaciones ortogonales excepto que permiten factores correlacionados en vez de mantener la independencia de los factores rotados. En general no hay reglas para seleccionar uno de los métodos anteriores. Criterios para la significancia de ponderación de factores en las variables De manera práctica si las ponderacións son de 0.30 se considera que cumplen el nivel mínimo; ponderacións de 0.40 son importantes; 0.50 o mayores son significativas en la práctica. Como la ponderación del factor es la correlación de la variable y el factor, la ponderación al cuadrado es la cantidad representada de la varianza total por el factor. De esta forma con 0.3 se tiene Pág. 91 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 un 10% de explicación y un 0.5 de ponderación denota que un 25% de la varianza es representada por el factor. Evaluando la significancia estadística Con base en un nivel de significancia de 0.05, un nivel de potencia del 80% y errores estándar asumidos se el doble de los coeficientes de correlación convencionales, se tiene la tabla siguiente: Ponderación del factor Tamaño de muestra requerida para tener significancia 0.30 350 0.35 300 0.40 250 0.45 200 0.50 150 0.55 100 0.60 85 0.65 70 0.70 60 Resumiendo las guías para la significancia de los factores son: (1) entre mayor sea el tamaño de muestra, el valor de ponderación significativo se reduce. (2) Entre más variables sean consideradas en el análisis, más pequeña es la ponderación que se considera significativa. (3) Entre más factores haya, mayor es la ponderación en los factores adicionales para que sea considerada significativa. Cada columna de números en la matriz representa un factor por separado. Las columnas de números representan las ponderacións para cada una de las variables. Identificar la más alta ponderación para cada variable. Recordar que Pág. 92 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 para tamaños de muestra similares a 100 se considera significante 0.3. La comunalidad para cada variable representa la cantidad de varianza considerada por la solución factorial para cada variable. Evaluar la comunalidad de las variables, es decir identificar las que tengan más del 50%, ya que las que tengan menos no tienen suficiente explicación. El nombre de los factores se desarrolla de manera intuitiva, con base en las variables con una mayor ponderación se consideran más importantes y tienen una mayor influencia para el nombre seleccionado para representar al factor. Validación del análisis factorial Se trata de evaluar el grado de generalización de los resultados en la población y la influencia potencial de casos individuales en los resultados totales. El alfa de Cronbach es una medida del coeficiente de confiabilidad que evalua la consistencia de toda la escala. Este índice es la relación positiva del número de ítems en la escala, donde 0.7 se considera adecuado. Pág. 93 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Ejemplo con datos de HATCO Prueba de la adecuación del modelo, utilizando Minitab: 1. Stat > Basic statistics > Correlation 2. Variables X1, X2, X3, X4, X6, X7 3. Display p values 4. OK Correlations: X1, X2, X3, X4, X6, X7 X1 -0.349 0.000 X2 X3 0.476 0.000 -0.472 0.000 X4 0.050 0.618 0.272 0.006 -0.095 0.347 X6 0.077 0.446 0.186 0.064 -0.015 0.880 0.788 0.000 X7 -0.483 0.000 0.470 0.000 -0.407 0.000 0.200 0.046 X2 X3 X4 X6 0.177 0.078 Cell Contents: Pearson correlation P-Value De la matriz, 7 de 15 correlaciones son significativas estadísticamente. El valor de MSA de 0.665 cumple con con el criterio para aplicar el análisis factorial. Análisis factorial con Minitab: Las instrucciones de Minitab son las siguientes: 1 Cargar los datos de HATCO. 2 Stat > Multivariate > Factor Analysis. 3 En Variables, X1, X2, X3, X4, X6, X7 4 En Number of factors to extract, 2. 5 En Method of Extraction, seleccionar Principal components 6 En Type of Rotation, seleccionar Varimax. 7 Click Graphs y seleccionar Loading plot for first 2 factors y Scree Plot. Pág. 94 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 8 Click Results y seleccionar Sort loadings. Click OK en cada uno de los cuadros de diálogo. Los resultados se muestran a continuación: Factor Analysis: X1, X2, X3, X4, X6, X7 Principal Component Factor Analysis of the Correlation Matrix Unrotated Factor Loadings and Communalities Variable X1 X2 X3 X4 X6 X7 Factor1 0.618 -0.763 0.695 -0.502 -0.434 -0.761 Factor2 -0.517 0.079 -0.357 -0.793 -0.827 0.170 Communality 0.649 0.588 0.610 0.881 0.873 0.609 Variance % Var 2.4664 0.411 1.7425 0.290 4.2089 0.701 El primer factor contiene la mayor parte de la varianza y es un factor general con alta ponderación en cada variable. Las ponderacións para el segundo factor muestra tres variables que también tiene alta ponderación (X1, X4 y X6). La interpretación es sumamente difícil y sin significado, por lo que se debe considerar la rotación de factores como sigue: Rotated Factor Loadings and Communalities Varimax Rotation Variable X1 X2 X3 X4 X6 X7 Factor1 -0.783 0.718 -0.781 0.097 0.020 0.758 Factor2 0.188 0.268 0.010 0.934 0.934 0.186 Communality 0.649 0.588 0.610 0.881 0.873 0.609 Variance % Var 2.3231 0.387 1.8858 0.314 4.2089 0.701 Las variables X1, X2 y X3 ponderaciónn significativamente al factor 1 y las variables X4 y X6 ponderaciónn significativamente al factor 2. Si se considera como punto de corte las ponderacións con 0.55 o más, el factor 1 tiene cuatro ponderacións significativas y el factor 2 tiene 2. Para el factor 1, se ven dos grupos de variables. Las primeras son el nivel de precios Pág. 95 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 (X2) y la calidad del producto (X7) ambas con signos positivos y varían como conjunto. Las otras dos, tiempo de entrega (X1) y flexibilidad de precios (X3) tienen signos negativos también varían como conjunto. En el factor 1, ambos grupos varían en sentido contrario, tal vez este factor sea el valor básico y representa un compromiso entre percepciones de precio o calidad del producto y percepciones de tiempo de entrega y flexibilidad de precios. En el factor 2, la variable X4 (imagen de fabricación) y X6 (imagen de la fuerza de ventas) tal vez se pueda agrupar en imagen, ambas variables tienen el mismo signo, actuando en la misma dirección. La variable X5 (servicio en general) no se incluyó en al análisis. Se tienen ahora dos factores como combinación lineal de las variables para efectos de realización de estudios: Factor Score Coefficients Variable X1 X2 X3 X4 X6 X7 Factor1 -0.356 0.297 -0.343 -0.020 -0.054 0.320 Factor2 0.154 0.097 0.058 0.498 0.503 0.050 Para verificar la validez del modelo se pueden hacer dos grupos de 50 observaciones y comparar sus matrices rotadas. Data 1 – 50: Rotated Factor Loadings and Communalities Varimax Rotation Variable X1_1 X2_1 X3_1 X4_1 Factor1 -0.827 0.603 -0.686 0.156 Factor2 0.085 0.376 -0.177 0.919 Communality 0.691 0.506 0.502 0.869 Pág. 96 MÉTODOS ESTADÍSTICOS MULTIVARIADOS X6_1 X7_1 Variance % Var 0.136 0.702 0.924 0.201 0.871 0.533 2.0548 0.342 1.9178 0.320 3.9726 0.662 P. REYES / DIC. 2006 Data 51 – 100: Rotated Factor Loadings and Communalities Varimax Rotation Variable X1_2 X2_2 X3_2 X4_2 X6_2 X7_2 Factor1 0.741 -0.785 0.815 -0.041 0.052 -0.824 Factor2 -0.313 -0.190 -0.154 -0.949 -0.923 -0.154 Communality 0.647 0.652 0.688 0.903 0.854 0.703 Variance % Var 2.5127 0.419 1.9338 0.322 4.4466 0.741 Como se ve las dos rotaciones VARIMAX son comparables en términos de ponderacións y comunalidades para las seis percepciones. Así se puede asegurar que los resultados son estables dentro de la muestra. De la gráfica Scree Plot con los Eigenvalores de los factores se tiene: Scree Plot of X1, ..., X7 2.5 Eigenvalue 2.0 1.5 1.0 0.5 0.0 1 2 3 4 Factor Number 5 6 Sólo dos factores serán mantenidos si se toma como referencia el Eigenvalor de 1 o tres si se toma como referencia el criterio Scree. La gráfica de ponderacións por variables se muestra a continuación, identificando tres grupos de variables: Pág. 97 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Loading Plot of X1, ..., X7 X6 X4 0.9 0.8 Second Factor 0.7 0.6 0.5 0.4 0.3 X2 X1 0.2 X7 0.1 X3 0.0 -1.0 -0.5 0.0 First Factor 0.5 En resumen se identifican dos dimensiones Valor básico e Imagen, ahora se pueden hacer planes alrededor de estas dos dimensiones en lugar de considerar todas las variables separadas. Ejemplo con datos del archivo EXH_MVAR Se registran las siguientes características de 14 regiones censadas: población total (Pop), promedio de escolaridad (School), empleo total (Employ), empleo en servcios de salud (Health), y valor promedio de casa (Home). Se desea investigar que “factores” podrían explicar la mayor parte de la variabilidad. Como primer paso del análisis factorial, se usa el método de extracción de componentes principales y se examina la gráfica de eigenvalores (Scree) para apoyarnos en decidir sobre el número de factores. Pop 5.935 1.523 2.599 4.009 4.687 8.044 2.766 6.538 6.451 3.314 3.777 School 14.2 13.1 12.7 15.2 14.7 15.6 13.3 17 12.9 12.2 13 Employ 2.265 0.597 1.237 1.649 2.312 3.641 1.244 2.618 3.147 1.606 2.119 Health 2.27 0.75 1.11 0.81 2.5 4.51 1.03 2.39 5.52 2.18 2.83 Pág. 98 MÉTODOS ESTADÍSTICOS MULTIVARIADOS 1.53 2.768 6.585 13.8 13.6 14.9 0.798 1.336 2.763 P. REYES / DIC. 2006 0.84 1.75 1.91 Las instrucciones de Minitab son las siguientes: 1 Abrir la worksheet EXH_MVAR.MTW. 2 Stat > Multivariate > Factor Analysis. 3 En Variables, poner Pop-Home. 4 Click Graphs y seleccionar Scree plot. Click OK in each dialog box. Los resultados se muestran a continuación: Factor Analysis: Pop, School, Employ, Health, Home Principal Component Factor Analysis of the Correlation Matrix Unrotated Factor Loadings and Communalities Variable Pop School Employ Health Home Factor1 -0.972 -0.545 -0.989 -0.847 0.303 Factor2 -0.149 -0.715 -0.005 0.352 -0.797 Factor3 0.006 -0.415 0.089 0.344 0.523 Factor4 0.170 -0.140 0.083 -0.200 0.005 Factor5 -0.067 0.001 0.085 -0.022 0.002 Communality 1.000 1.000 1.000 1.000 1.000 Variance % Var 3.0289 0.606 1.2911 0.258 0.5725 0.114 0.0954 0.019 0.0121 0.002 5.0000 1.000 Factor3 0.011 -0.726 0.155 0.601 0.914 Factor4 1.782 -1.466 0.868 -2.098 0.049 Factor5 -5.511 0.060 6.988 -1.829 0.129 Factor Score Coefficients Variable Pop School Employ Health Home Factor1 -0.321 -0.180 -0.327 -0.280 0.100 Factor2 -0.116 -0.553 -0.004 0.272 -0.617 Pág. 99 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Scree Plot of Pop, ..., Home 3.0 Eigenvalue 2.5 2.0 1.5 1.0 0.5 0.0 1 2 3 Factor Number 4 5 Interpretación de resultados Cinco factores describen estos datos perfectamente, pero la meta es reducir el número de factores requeridos para explicar la variabilidad de los datos. La proporción de la variabilidad explicada por los dos últimos factores es mínima (0.019 y 0.002 respectivamente) y pueden ser eliminadas sin afectar al resultado. Los primeros dos factores juntos representan 86% de la variabilidad mientras que tres factores representan 98% de la variabilidad. La cuestión es si usar dos o tres factores, se requieren otras corridas para decidir si usar dos o tres factores. Se seleccionan dos factores como el número que representa los datos del censo en base al análisis de componentes principales. Se realiza una extracción de máxima verisimilitud y rotación varimax para interpretar los factores. Las instrucciones de Minitab son las siguientes: 1 Abrir la worksheet EXH_MVAR.MTW. 2 Stat > Multivariate > Factor Analysis. 3 En Variables, Pop-Home. 4 En Number of factors to extract, 2. 5 En Method of Extraction, seleccionar Maximum likelihood. Pág. 100 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 6 En Type of Rotation, seleccionar Varimax. 7 Click Graphs y seleccionar Loading plot for first 2 factors. 8 Click Results y seleccionar Sort loadings. Click OK en cada uno de los cuadros de diálogo. Los resultados se muestran a continuación: Factor Analysis: Pop, School, Employ, Health, Home Maximum Likelihood Factor Analysis of the Correlation Matrix * NOTE * Heywood case Unrotated Factor Loadings and Communalities Variable Pop School Employ Health Home Factor1 0.971 0.494 1.000 0.848 -0.249 Factor2 0.160 0.833 0.000 -0.395 0.375 Communality 0.968 0.938 1.000 0.875 0.202 Variance % Var 2.9678 0.594 1.0159 0.203 3.9837 0.797 Rotated Factor Loadings and Communalities Varimax Rotation Variable Pop School Employ Health Home Factor1 0.718 -0.052 0.831 0.924 -0.415 Factor2 0.673 0.967 0.556 0.143 0.173 Communality 0.968 0.938 1.000 0.875 0.202 Variance % Var 2.2354 0.447 1.7483 0.350 3.9837 0.797 Sorted Rotated Factor Loadings and Communalities Variable Health Employ Pop Home School Factor1 0.924 0.831 0.718 -0.415 -0.052 Factor2 0.143 0.556 0.673 0.173 0.967 Communality 0.875 1.000 0.968 0.202 0.938 Variance % Var 2.2354 0.447 1.7483 0.350 3.9837 0.797 Factor Score Coefficients Variable Pop School Employ Health Home Factor1 -0.165 -0.528 1.150 0.116 -0.018 Factor2 0.246 0.789 0.080 -0.173 0.027 Pág. 101 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Loading Plot of Pop, ..., Home 1.0 School 0.8 Second Factor Pop 0.6 Employ 0.4 0.2 Home Health 0.0 -0.50 -0.25 0.00 0.25 First Factor 0.50 0.75 1.00 Estos resultados indican un caso Heywood (las varianzas menores al límite de convergencia especificado se ponen a cero y sus comunalidades a 1). Se tienen tres tablas de ponderaciones y comunalidades: no rotadas, rotadas, ordenadas y rotadas. Los factores no rotados explican el 79.7 de la variabilidad de los datos y los valores de comunalidad indican que todas las variables sin Home están bien representadas por esos dos factores (comunalidad son 0.202 para Home, 0.875 – 1.0 para otras variables). El porcentaje de la variabilidad total representada por los factores no cambia con la rotación, sino después de rotar, pero después de rotar, estos factores son mas claramente balanceados en el porcentaje de variabilidad que ellos representan, siendo 44.7% y 35%, respectivamente. El ordenamiento es realizado por la ponderación máxima absoluta para cualquier factor. Las variables que tienen la mayor ponderación absoluta en el factor 1 se muestran primero en orden. Después las variables con la ponderación mayor en el factor 2 y así sucesivamente. El factor 1 tiene su ponderación mayor positiva en Health (0.924), Employ (0.831) y Pop (0.718), y -0.415 en Home, mientras que la ponderación en School es baja. El factor 2 tiene una ponderación positiva en School de 0.967 y ponderación de 0.556 y 0.673 en Employ y Pop respectivamente, y una ponderación pequeña en Health y Home. Pág. 102 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Se pueden ver las ponderaciones rotadas gráficamente en la gráfica de ponderaciones (load graph). Ahí se muestra para factor 1 con ponderaciones altas en Pop, Emply, y Health y ponderación negativa en Home. School tiene una ponderación alta positiva para el factor 2 y algo menor para Pop y Employ. De los resultados se puede pensar en que el factor 1 sea un factor relacionado con “Cuidado de la salud – tamaño de la población”. El factor 2 puede ser considerado como un factor relacionado con “educación – tamaño de la población”. En forma adicional Minitab muestra una tabla de coeficientes del factor. Muestran como se calculan los factores. Minitab calcula los valores multiplicando los coeficientes y los datos después de corregirlos centrándolos al restarle sus medias. Pág. 103 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 9. ANÁLISIS DE REGRESIÓN MÚLTIPLE Pág. 104 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 9. ANÁLISIS DE REGRESIÓN MÚLTIPLE Es una técnica estadística que se puede usar para analizar la relación entre una variable dependiente simple (respuesta, criterio) y varias variables independientes cuyos valores son conocidos para predecir la variable dependiente. Los pesos denotan la contribución relativa de las variables independientes a la predicción general y facilitar la interpretación de la influencia de cada variable en la predicción, lo que se complica si hay correlación de las variables independientes. El conjunto de variables independientes con sus pesos forma la Variate de regresión, ecuación de regresión o modelo de regresión, que es una combinación lineal de las variables independientes que mejor predicen la variable dependiente. Los supuestos de un análisis de regresión múltiple son los siguientes: Linealidad del fenómeno medido Varianza constante de los términos de error Independencia de los términos de error Normalidad de la distribución de los términos de error. Términos clave Coeficiente ajustado de determinación (R2 ajustada): Es una métrica modificada del coeficiente de determinación que toma en cuenta el número de variables independientes incluidas en la ecuación de regresión y el tamaño de muestra. A pesar de que la adición de variables independientes hace que se incremente el coeficiente de determinación, el coeficiente de determinación ajustado se reduce si las variables independientes tienen poco poder explicativo y/o si los grados de libertad son muy pequeños. Este estadístico es útil para comparar ecuaciones con diferentes números de variables independientes, con diferentes tamaños de muestra, o ambos. Regresión con todos los posibles subconjuntos: Método de selección de variables en el modelo que considera todas las Pág. 105 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 combinaciones posibles de las variables independientes. Por ejemplo para cuatro variables, se estiman modelos para una, dos, tres y cuatro variables, identificando el modelo con la mayor capacidad predictiva. Eliminación hacia atrás: Método de selección de variables en el modelo que inicia con todas las combinaciones posibles de las variables independientes para ir eliminando las que no tienen una contribución significativa a la predicción. Coeficiente beta: Coeficientes estandarizados de la regresión que permite una comparación directa de su potencia relativa explicatoria de la variable dependiente. Coeficiente de determinación (R2): Mide la proporción de la varianza de la variable dependiente alrededor de su media que es explicada por las variables predictoras independientes. El coeficiente puede variar entre 0 y 1. Entre mayor sea su valor es mejor la predicción de la variable dependiente. Colinealidad: Expresión de la relación entre dos (colinealidad) o entre varias (multicolinealidad) variables independientes. Dos variables independientes tienen colinealidad total si coeficiente de correlación es 1 y no tienen colinealidad si coeficiente de correlación es cero. La multicolinealidad se presenta cuando una variable independiente está muy correlacionada con otras variables independientes. Coeficiente de correlación (r.): Coeficiente que indica la fuerza de la asociación entre dos variables medibles. El signo (+) o (-) indica la dirección de la relación. +1 o -1 indica una correlación perfecta positiva (cuando aumenta una variable, aumenta la otra) o negativa (inversa – cuando aumenta una variable, la otra disminuye) y 0 sin correlación. Grados de libertad: En una regresión simple se estiman dos parámetros, la intersección (b0) y el coeficiente de la regresión para la variable independiente (b1). Por tanto los grados de libertad proporcionan una medida de cómo se restringen los datos para alcanzar un cierto nivel de predicción (n-2). Si el número de grados de libertad es pequeño, la predicción resultante no puede generalizarse, esta será más robusta con un valor alto de grados de libertad. Pág. 106 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Variable ficticia: Es una variable independiente usada para contabilizar el efecto que tienen diferentes niveles de una variable no medible al predecir la variable dependiente. Para contabilizar los L niveles de una variable independiente no medible, se requieren L-1 variables artificiales. En el caso de Hombre – Mujer se requiere una variable X con valores 0 y 1; para tres niveles se requerirán dos variables X1 y X2. Adición hacia delante: Método de selección de variables en el modelo que inicia sin las variables independientes para ir agregándolas con base en su contribución a la predicción. Homoestacidad: Descripción de los datos para los cuales la varianza de los términos de error (e ) aparece constante sobre el rango de valores de la variable independiente. Cuando los términos de error tienen varianza incremental o modulada, se dice que los datos tienen Heteroestacidad. Observación influyente: Es una observación que tiene una influencia desproporcionada en uno o más aspectos de los estimados de la regresión, puede ser basada en valores extremos de las variables independientes y dependiente o ambas. Outlier: Es una observación que tiene una diferencia significativa entre el valor real de la variable dependiente y el valor de predicción. Los casos que son muy diferentes ya sea en sus variables independientes o dependiente. Deben analizarse para poder eliminarlas. Coeficiente de correlación parcial: Valor que mide la fuerza de la relación entre la variable dependiente o criterio y una única variable independiente manteniendo constante los efectos de las otras variables independientes. Es útil para identificar la variable independiente con la mayor capacidad predictiva incremental. Se le asocian los estadísticos parciales de F y t así como su gráfica de regresión parcial. Potencia: Probabilidad de que se tenga una relación significativa si realmente existe. Complementa el nivel de significancia Alfa. Error de predicción: Diferencia entre los valores reales y estimados de la variable dependiente para cada observación en la muestra (residuos). Pág. 107 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Estadístico PRESS: Medida de validación obtenida al eliminar cada observación una a la vez y estimando su valor dependiente con el modelo de regresión estimado con las observaciones remanentes. Variable de Regresión (variate): Combinación lineal de variables independientes ponderadas usadas para predecir la variable dependiente. Error estándar: El valor t de un coeficiente de regresión se obtiene cuando se divide el valor del coeficiente entre el error estándar. Estimación por pasos: Método de seleccionar variables para inclusión en el modelo de regresión que inicia seleccionando el mejor predictor de la variable dependiente. Las variables independientes adicionales se seleccionan con base de su potencia explicatorio incremental que pueden agregar al modelo de regresión (o en base a sus coeficientes de correlación significativos estadísticamente). También se pueden eliminar variables independientes si su potencia predictiva se reduce a niveles no significativos cuando se agrega otra variable independiente al modelo. Residuo estudentizado: Para minimizar el efecto de un outlier simple, se calcula la desviación estándar del residuo para la observación i de los estimados de la regresión omitiendo la observación i-ésima. Tolerancia: Es una medida de colinealidad y multicolinealidad, es: TOLi 1 Ri2 * * Ri2 es el coeficiente de determinación para la variable de predicción i por las otras variables independientes. Conforme disminuye el valor de la tolerancia la variable es mejor estimada por las otras variables independientes (colinealidad). Factor de inflación de varianza (VIF): es un indicador del efecto que las otras variables independientes tienen en el error estándar de un coeficiente de regresión. El factor de inflación de varianza está directamente relacionado al valor de la tolerancia (VIFi = 1 / TOLi). Valores grandes de VIF también indican un alto grado de colinealidad o multicolinealidad entre las variables independientes. Pág. 108 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Fórmulas: La ecuación de regresión simple es: Yˆ b0 b1V1 Donde: bo = Término de intercepción b1 = coeficiente de la regresión. Error de predicción o residuo = diferencia entre valor real y estimado de la variable dependiente. El error estándar del estimado se determina como: SEE SSE n2 Con SSE = Suma de cuadrados del error. n = tamaño de la muestra El intervalo de confianza de predicción se determina como: IC Yˆ t * SEE La suma de cuadrados total es: SST SSR SSE n n n i 1 i 1 i 1 ( yi y)2 ( yi yˆi )2 ( yˆi y)2 y = promedio de todas las observaciones yi = valor de la observación individual i ŷ = valor estimado de la observación i El coeficiente de determinación se calcula como sigue: R2 SSR SST Para el caso de la regresión múltiple se tiene: Yˆ b0 b1V1 b2V2 e Para probar la significancia de la regresión se utiliza el estadístico F: SSR F SSE dfr dfe Cada suma de cuadrados dividida entre sus grados de libertad representa la varianza. Pág. 109 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 DIAGNÓSTICO AVANZADO Índice de condición: Medición de la cantidad de varianza asociada con un Eigenvalor (valor característico) de manera que un índice grande indica un alto grado de colinealidad. Distancia de Cook (Di): Medida resumida de la influencia de una observación simple con base en los cambios totales en todos los demás residuos cuando la observación se excluye del proceso de estimación. Los valores mayores a 1 indican influencia significativa de la observación en la estimación de los coeficientes de la regresión. COVRATIO (razón de covarianza): Mide la influencia de una observación simple en conjunto completo de coeficientes de la regresión. Un valor cercano a 1 indica poca influencia, si (COVRATIO – 1) > 3 p/n (p es el número de variables independientes +1 y n es el tamaño de muestra), la observación se considera que tiene influencia. Residuo excluido (deleted residual): Es el proceso de calcular residuos en los cuales la influencia de cada una de las observaciones se excluye cuando se calcula su residuo. Esto se logra al omitir la i-ésima observación de la ecuación de regresión usada para calcular el valor estimado Y. DFBETA: Mide el cambio en un coeficiente de la regresión cuando una observación se omite del análisis de la regresión, se establece en términos del coeficiente mismo, también se puede tener una versión estandarizada SDBETA, donde sus valores son ajustados por sus errores estándar, se definen cortes en 1 o 2 correspondientes a niveles de confianza de 0.10 y 0.05 respectivamente. DFFIT: Mide el impacto de una observación en el ajuste general del modelo, con una versión estandarizada DFFIT. La mejor regla práctica es calsificar como influenciables cualquier valor SDFFIT > 2 / raiz(p/n). p es el número de variables independientes +1 y n es el tamaño de muestra. Eigenvalor (valor característico): Mide la cantidad de varianza contenida en la matriz de correlación de manera que la suma de los eigenvalores es igual al número de variables. También se conoce como raíz latente o raíz característica. Matriz sombrero: Matriz que contiene valores para cada observación en la diagonal conocida como matriz sombrero, que representan el impacto de la Pág. 110 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 variable dependiente observada en su valor estimado por la regresión. Si todas las observaciones tuvieran la misma influencia, tendrían un valor de p/n. Si una observación no tiene influencia, su valor será -1/n, y cuando un valor domina valdrá (n-1)/n. Los valores que exceden a 2p/n para muestra grandes o 3p/n para muestras pequeñas (n<= 30) son candidatos como observaciones influyentes. Punto palanca (leverage point): Una observación que tiene un impacto sustancial en los resultados de la regresión dadas sus diferencias con otras observaciones en una o más de las variables independientes. La medida más común de estos puntos es el valor sombrero contenido en la matriz sombrero. Distancia de Malahanobis (D2): Medida de la singularidad de una observación simple con base en las diferencias entre los valores de la observación y los valores promedio para todos los otros casos de las variables independientes. La influencia en la regresión por la observación es diferente para una o más variables predictoras, causando un corrimiento en la ecuación de regresión. Outlier (punto aberrante o lejano): Es una observación que tiene una diferencia sustancial entre sus valores observados y estimados en la variable dependiente (un residuo grande) o entre sus variables independientes y y los de otras observaciones. El objetivo de identificarlos es que pueden representar de manera inapropiada el comportamiento de la población. Matriz de descomposición – varianza de los coeficientes de regresión: Método para determinar la contribución relativa de cada uno de los eigenvalores a cada uno de los coeficientes estimados. Si dos o más coeficientes están muy asociados con un eigenvalor simple (índice de condición) indica que está presente un nivel inaceptable de multicolinealidad. Residuo: Medida de la estimación predictiva de una observación simple, calculado como la diferencia del valor observado y el valor estimado de la variable dependiente. Se asume que los residuos tienen media cero y varianza constante. También sirven para identificar outliers y observaciones influenciables. Pág. 111 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Residuos estandarizados: Reescalado de los residuos a una base común dividiendo cada uno de los residuos entre la desviación estándar de los residuos. De esta manera los residuos estandarizados tienen una media de cero y una desviación estándar de uno. Los outliers son identificados como las observaciones que tienen residuos mayores a 1 o 2 para niveles de confianza de 0.10 y 0.05 respectivamente. Residuos estudentizados: Difieren del residuo estandarizado en la forma de calcular la desviación estándar. Para minimizar la influencia de un outlier simple, la desviación estándar utilizada para estandarizar el residuo i-ésimo se calcula de los estimados de la regresión excluyendo la observación iésima. Esto se hace de manera repetitiva para cada una de las observaciones, cada vez se excluye la observación de los cálculos. Evaluado la multicolinealidad Corrida con SPSS – V10 Regression Variables Entered/Removed(b) Model 1 Variables Entered Variables Removed Method X7, X5, X6, X3, X2, X4, X1(a) . Enter a All requested variables entered. b Dependent Variable: X9 Model Summary Model 1 R R Square Adjusted R Square Std. Error of the Estimate .879(a) .772 .755 4.4508 a Predictors: (Constant), X7, X5, X6, X3, X2, X4, X1 ANOVA(b) Model Sum of Squares df Mean Square Regression 6177.812 Residual 1822.444 92 7 Sig. 882.545 44.552 .000(a) 1 Pág. 112 F 19.809 MÉTODOS ESTADÍSTICOS MULTIVARIADOS Total P. REYES / DIC. 2006 8000.256 99 a Predictors: (Constant), X7, X5, X6, X3, X2, X4, X1 b Dependent Variable: X9 Coefficients(a) Unstandardized Coefficients Model -9.255 4.949 X1 1.956 2.045 X2 1.280 X3 Collinearity Statistics t Beta Std. Error B (Constant) Standardized Coefficients Sig. Tolerance VIF -1.870 .065 .287 .957 .341 .027 36.445 2.155 .170 .594 .554 .030 33.176 3.270 .406 .507 8.057 .000 .627 1.596 X4 -3.937E-03 .671 .000 -.006 .995 .347 2.884 X5 4.600 4.012 .384 1.147 .255 .022 45.401 X6 1.230 .954 .106 1.290 .200 .370 2.701 X7 .426 .356 .075 1.198 .234 .629 1.589 1 a Dependent Variable: X9 Collinearity Diagnostics(a) Variance Proportions Dimension Eigenvalue Condition Index Model (Constant) X1 X2 X3 X4 X5 X6 X7 1 7.533 1.000 .00 .00 .00 .00 .00 .00 .00 .00 2 .251 5.474 .00 .00 .01 .01 .00 .00 .00 .01 3 .106 8.426 .00 .01 .01 .00 .01 .00 .04 .04 4 6.548E-02 10.726 .01 .00 .00 .04 .03 .00 .18 .09 5 2.463E-02 17.489 .01 .01 .01 .31 .00 .00 .00 .53 6 1.219E-02 24.861 .03 .00 .00 .07 .75 .00 .67 .05 7 6.259E-03 34.692 .86 .00 .00 .52 .17 .00 .10 .28 8 8.354E-04 94.959 .09 .97 .97 .05 .04 .99 .01 .00 1 a Dependent Variable: X9 Pág. 113 MÉTODOS ESTADÍSTICOS MULTIVARIADOS Faltan conceptos del capítulo 4 y 4ª. Pág. 114 P. REYES / DIC. 2006 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Ejemplo: Familia 1 2 3 4 5 6 7 8 Total Tarjetas 4 6 6 7 8 7 8 10 Tamano 2 2 4 4 5 5 6 6 Ingreso 14 16 14 17 18 21 17 25 Las instrucciones de Minitab para correr el ejemplo son: 1 2 Cargar datos en Minitab. 2 Stat > Regression > Regression. 3 En Response, seleccionar Tarjetas. 4 En Predictors, seleccionar Tamano e Ingreso. 5 Click Graphs. 6 En Residuals for Plots, seleccionar Standardized. 7 En Residual Plots, seleccionar Individual Plots. Seleccionar Histogram of residuals, Normal plot of residuals, y Residuals versus fits. Click OK. 8 Click Options. en Display, seleccionar PRESS y predicted R-square. Click OK en cada uno de los cuadros de diálogo. Los resultados se muestran a continuación: Pág. 115 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Normal Probability Plot of the Residuals (response is Tarjetas) 99 95 90 Percent 80 70 60 50 40 30 20 10 5 1 -3 -2 -1 0 1 Standardized Residual 2 3 Regression Analysis: Tarjetas versus Tamano, Ingreso The regression equation is Tarjetas = 0.48 + 0.632 Tamano + 0.216 Ingreso Predictor Constant Tamano Ingreso Coef 0.482 0.6322 0.2158 S = 0.780990 SE Coef 1.461 0.2523 0.1080 R-Sq = 86.1% PRESS = 8.02177 T 0.33 2.51 2.00 P 0.755 0.054 0.102 R-Sq(adj) = 80.6% R-Sq(pred) = 63.54% Analysis of Variance Source Regression Residual Error Total Source Tamano Ingreso DF 1 1 DF 2 5 7 SS 18.9503 3.0497 22.0000 MS 9.4751 0.6099 F 15.53 P 0.007 Seq SS 16.5143 2.4360 Interpretación de resultados Salida de sesión El valor P en la tabla de ANOVA (0.000) muestra que el modelo estmado por el procedimiento de regresión es significativo a un alfa de 0.05, indicando que al menos un coeficiente es diferente de cero. Pág. 116 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Los valores P de los coeficientes estimados para tamano es de 0.054 indicando que es significativo a un nivel alfa de 0.054. Sugiriendo que el modelo de regresión simple es adecuado. El valor de R cuadrado indica que los predoctores explican el 87.4% de la varianza en Tarjetas. La R cuadrada ajustada es 85.9%, que representa la contribución del número de predictores en el modelo. Ambos valores indican que el ajuste es adecuado. El valor pronosticdo R cuadrado es 78.96%, dado que es parecido a R cuadrado y r cuadrado ajustado, el modelo no parece estar sobreajustado y tiene una buena habilidad de predicción Las observaciones 4 y 22 se identifican como no usuales dado que el valor estandarizado de los residuos es mayor a 2. Indicando puntos aberantes o outliers. Salida gráfica El histograma de los residuos muestra un patrón consistente con la distribución normal. El histograma es más efectivo para grupos de más de 50 observaciones. La gráfica de probabilidad normal es más fácil de interpretar con pequeñas muestras. En la gráfica normal también sobresalen los outliers 4 y 22. La gráfica de residuos contra valores de predicción muestra que los residuos son más pequeños conforme conforme los valores ajustados se incrementan, indicando que no tienen varianza constante. Pág. 117 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Ejemplo con datos de Hatco Hacer un estudio de correlación entre las variables independientes: 1 Cargar datos en Minitab. 2 Stat > Basic statistics > Correlation 3 Variables X1 – X7 X9 indicar Show P value 4 OK Los resultados son los siguientes: Correlations: X1, X2, X3, X4, X5, X6, X7, X9 X1 -0.349 0.000 X2 X3 0.476 0.000 -0.472 0.000 X4 0.050 0.618 0.272 0.006 -0.095 0.347 X5 0.612 0.000 0.513 0.000 0.064 0.524 0.299 0.003 X6 0.077 0.446 0.186 0.064 -0.015 0.880 0.788 0.000 0.241 0.016 X7 -0.483 0.000 0.470 0.000 -0.407 0.000 0.200 0.046 -0.055 0.586 0.177 0.078 X9 0.676 0.000 0.083 0.412 0.556 0.000 0.225 0.024 0.701 0.000 0.257 0.010 X2 X3 X4 X5 X6 X7 -0.192 0.055 Cell Contents: Pearson correlation P-Value La variable X5 (servicio en general) está más correlacionado con la respuesta X9 con r = 0.701. X1 también está correlacionada con la respuesta sin embargo tiene correlación con X5 por lo que el uso de ambas es cuestionable. Las instrucciones de Minitab para correr el ejemplo son: 1 Cargar datos en Minitab. 2 Stat > Regression > Regression. 3 En Response, seleccionar X9 (utilización del producto). Pág. 118 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 4 En Predictors, seleccionar X1 – X7. 5 Click Graphs. 6 En Residuals for Plots, seleccionar Standardized. 7 En Residual Plots, seleccionar Individual Plots. Seleccionar Histogram of residuals, Normal plot of residuals, y Residuals versus fits. Click OK. Regression Analysis: X9 versus X1, X2, X3, X4, X5, X6, X7 The regression equation is X9 = - 9.25 + 1.96 X1 + 1.28 X2 + 3.27 X3 - 0.004 X4 + 4.60 X5 + 1.23 X6 + 0.426 X7 Predictor Constant X1 X2 X3 X4 X5 X6 X7 Coef -9.255 1.956 1.280 3.2702 -0.0039 4.600 1.2305 0.4261 S = 4.45075 SE Coef 4.949 2.045 2.155 0.4059 0.6714 4.012 0.9537 0.3557 R-Sq = 77.2% T -1.87 0.96 0.59 8.06 -0.01 1.15 1.29 1.20 PRESS = 2144.13 P 0.065 0.341 0.554 0.000 0.995 0.255 0.200 0.234 R-Sq(adj) = 75.5% R-Sq(pred) = 73.20% Analysis of Variance Source Regression Residual Error Total Source X1 X2 X3 X4 X5 X6 X7 DF 1 1 1 1 1 1 1 DF 7 92 99 SS 6177.81 1822.44 8000.26 MS 882.54 19.81 F 44.55 P 0.000 Seq SS 3659.76 927.88 1424.10 80.48 18.20 38.97 28.43 Unusual Observations Obs 7 11 14 22 55 100 X1 4.60 2.40 3.70 3.40 3.80 2.50 X9 46.000 32.000 38.000 35.000 39.000 33.000 Fit 58.734 41.365 47.833 34.870 33.433 43.721 SE Fit 1.379 1.014 1.098 2.711 2.712 1.049 Residual -12.734 -9.365 -9.833 0.130 5.567 -10.721 St Resid -3.01R -2.16R -2.28R 0.04 X 1.58 X -2.48R R denotes an observation with a large standardized residual. X denotes an observation whose X value gives it large influence. Pág. 119 MÉTODOS ESTADÍSTICOS MULTIVARIADOS P. REYES / DIC. 2006 Normplot of Residuals for X9 Normal Probability Plot of the Residuals (response is X9) 99.9 99 Percent 95 90 80 70 60 50 40 30 20 10 5 1 0.1 -3 -2 -1 0 1 Standardized Residual 2 3 Residuals Versus the Fitted Values (response is X9) 2 Standardized Residual 1 0 -1 -2 -3 20 30 40 Fitted Value 50 Pág. 120 60