Capítulo 6 Resultados 96. ¿El programa recolecta regularmente información veraz y oportuna sobre sus indicadores de Propósito y Fin? Sí. Para los indicadores a nivel de Fin “impacto en la calidad de vida (medida a través de salud, infraestructura de la vivienda, economía y demografía)” y “Porcentaje de variación de enfermedades parasitarias en niños de entre 0 y 5 años” se emplea como medio de verificación la evaluación de impactos. La información del SIDI que sirve como insumo para determinar la muestra de beneficiarios y solicitantes elegibles de la evaluación de impactos y otras evaluaciones del Programa1. En la medida en que dicho sistema y más específicamente el padrón de beneficiarios y solicitantes se actualiza constantemente se considera que la oportunidad de la información es adecuada. Como se ha mencionado en preguntas anteriores la información es veraz con respecto a la reportada en las CIS. Sin embargo, no se observan mecanismos efectivos para garantizar que la información reportada en la CIS sea, a su vez, veraz. Los indicadores a nivel de Propósito requieren para ser calculados, información provista por CONAVI, CONEVAL, INEGI y el propio SIDI. La información proviene de fuentes oficiales y puede por tanto preverse que se recolectará de manera veraz y oportuna. Sin embargo, es importante mencionar que como se ha expuesto en la pregunta 50 no se considera que la información antes mencionada constituya la fuente idónea para la medición de los indicadores en la medida en que no es posible aislar el rezago habitacional que se presenta en la población en situación de pobreza patrimonial del rezago total a nivel nacional. En ese sentido se considera que las mediciones del impacto y cobertura del Programa con respecto a su población objetivo, definida únicamente como población en situación de pobreza patrimonial que presenta rezago en vivienda, podrían estar subestimadas a causa de las definiciones de población objetivo amplias con las que se ha operado y medido el desempeño de “Tu Casa”. 1 La última medición de impactos con que se cuenta incluye información del periodo 2003- 2005 y se prevé el levantamiento con una periodicidad quinquenal que se considera adecuada. 108 97. ¿El programa ha llevado a cabo evaluaciones externas con metodologías rigurosas que le permitan medir el impacto del programa en la población objetivo (evaluaciones que permitan medir los avances en términos de su Propósito y Fin)? Sí. Para el desarrollo del presente trabajo, el programa “Tu Casa” reportó una evaluación de impacto de índole externo realizada durante los años 2005 y 2006 por parte de la Universidad de California en Berkeley con el apoyo del Instituto Nacional de Salud Pública en el trabajo de campo. En esta evaluación se empleó una metodología que consideraba un contrafactual y un grupo de comparación y se empleó una muestra determinada mediante técnicas estadísticas para identificar los efectos del Programa. La primera parte de la evaluación se dirigió a estudiar el impacto promedio del Programa, en las modalidades de “Mejoramos Tu Casa” y “Crecemos Tu Casa”, sobre las siguientes características socioeconómicas: la salud de los miembros del hogar, las inversiones realizadas, la estructura familiar y los niveles de ingreso. Para ello, en el caso de “Mejoremos Tu Casa” se determinó una muestra aleatoria de personas en el estado de Chihuahua y se empleó, como grupo de control a todos aquellos hogares que solicitaron el beneficio durante el año 2005 y que a la fecha del levantamiento no habían recibido el apoyo. Como grupo de tratamiento a los hogares que solicitaron y recibieron los beneficios del Programa durante el año 2003. La segunda parte de la evaluación se llevó a cabo en el año 2006 y se orientó a estudiar el impacto promedio del Programa, en la modalidad de “Iniciamos Tu Casa”, sobre las características socioeconómicas de los hogares beneficiados. Igual que en la primera parte, interesó examinar el impacto del Programa en la salud de los miembros del hogar, las inversiones realizadas, la estructura familiar y los niveles de ingreso. Para ello, se determinó una muestra aleatoria con aproximadamente 8,000 hogares en diez estados de la República. Se empleó como grupo de control, a aquellos hogares que solicitaron entrar al Programa en 2005 pero que todavía no habían recibido la vivienda y se compararon con un grupo tratamiento compuesto por los beneficiarios del año 2003. 109 98. Con base en las evaluaciones externas, ¿cuáles han sido los principales impactos del programa?* La evaluación de impactos del Programa que abarca el periodo 2003-2005 arroja los siguientes resultados relacionados con los indicadores definidos a nivel de Fin y Propósito para los que se realizó el análisis: En el caso del componente de Mejoramiento y Ampliación de Vivienda, si bien no se observan impactos significativos en la salud de niños de 0 a 5 años de los hogares beneficiarios, de acuerdo con la encuesta de satisfacción de beneficiarios sí se logra impactar en la calidad de la vivienda y de la vida de aquellos beneficiarios que efectivamente las habitan. De las variables analizadas para medir el impacto en la calidad de vida, se encuentra que la única que arroja resultados positivos y significativos es la relacionada con la calidad de la infraestructura de la vivienda. Esto implica que variables como la oferta laboral, patrones migratorios, salud y asistencia a la escuela de los niños, salud de los adultos, salud mental de las madres, presencia de pestes en la vivienda, y valor de la vivienda no mostraron un impacto positivo en la calidad de vida de los beneficiarios. En el caso del componente “Iniciamos Tu Casa” se reporta un impacto positivo en la calidad del hogar y la inversión en el mismo. Sin embargo se presentan impactos negativos dignos de mencionarse ya que “… los beneficiarios declaran vivir en comunidades considerablemente peores en términos de infraestructura y acceso a servicios de salud, seguridad, y educación. Asimismo, se observan considerables pérdidas en términos del entorno social e higiene de los hogares beneficiarios. Además, niños de 0 a 5 años y adolescentes de 15 a 25 años en hogares tratamiento, reportan peores condiciones de salud y mayor cantidad de comportamientos riesgosos (fumar, beber alcohol, etc.). Por último, las madres de niños y los adultos beneficiarios reportan un mayor nivel de depresión y estrés, menor actividad laboral, menores ingresos laborales y ahorros, y más días laborales perdidos por enfermedad.”2 2 Evaluación de Resultados de Impacto del Programa “Tu Casa” modalidad Iniciamos “Tu Casa”. 110 99. ¿El diseño y la operación del programa permiten realizar una evaluación de impacto rigurosa? Si no es así, explicar y proponer los ajustes necesarios para que sean compatibles. Sí. En la medida en que el diseño y operación del Programa permiten generar bases de datos sobre solicitantes y beneficiarios con base en las cuales se pueden construir indicadores y muestras para conformar grupos de tratamiento y control se considera que permiten realizar evaluaciones de impactos. En el caso de la evaluación de impactos realizada durante los años 2005 y 2006, esto se consiguió obteniendo una muestra aleatoria de la población beneficiada del año 2003 y comparándola con un grupo de control compuesto por una muestra de personas con las mismas características que habían resultado elegibles por “Tu Casa” y que todavía no recibían el apoyo durante el ejercicio 2005. Estos criterios permitieron establecer un escenario hipotético en el que se trató de mostrar la diferencia entre los niveles de bienestar con y sin el Programa en poblaciones equivalentes. Con esto se evitó la presencia de sesgos en los resultados y se aseguró la generación de indicadores similares y comparables entre ambos subconjuntos. Con esas mismas experiencias de evaluación se comprobó que la operación del Programa sí permite el levantamiento de información para el cálculo de los indicadores propuestos y contempla una estructura que permite el seguimiento de las evaluaciones realizadas. En este sentido, la infraestructura organizativa y de gestión de la SEDESOL y de Fonhapo, tanto en lo concerniente a los sistemas de información como a los procedimientos administrativos, hace posible la obtención y manejo de los datos necesarios para realizar este tipo de evaluaciones y su posterior seguimiento. Existe, sin embargo, un área de oportunidad a partir del desarrollo de la MML del año 2007 relacionada con el desarrollo de un plan de evaluación a mediano y largo plazo para el Programa que implique el establecimiento de líneas base adecuadas y la instrumentación de metodologías que permitan la obtención futura de información relacionada con los grupos de tratamiento y control. El diseño de las evaluaciones de impactos debe además, ir acompañado de un análisis sobre su viabilidad, costo y grado de claridad y validez de los resultados esperados. 111 100. Con base en la información obtenida de los distintos instrumentos, ¿el programa ha demostrado adecuado progreso en alcanzar su Propósito y Fin? Especificar los principales resultados. No. Como se ha indicado en las preguntas 36, 54 y 98 el Programa no ha establecido metas que permitan determinar, con relación a un plan específico, si el progreso observado en alcanzar su Propósito y Fin es adecuado. Sin embargo, considerando los resultados de la evaluación de impactos, se encuentra que se ha avanzado en el cumplimiento del objetivo a nivel de Fin en materia de mejoramiento de calidad de vida, aunque únicamente se encuentran impactos positivos en materia de calidad de infraestructura de la vivienda y los resultados en variables relacionadas con la salud tanto de niños como de adultos y economía de los beneficiarios son de nulos a negativos. Por otro lado, en la medida en que alrededor de un 40% de los hogares beneficiarios son potencialmente no elegibles dado que su nivel de ingresos rebasa los 3 salarios mínimos que delimitan a la población en situación de pobreza patrimonial, se considera que el Programa no ha avanzado de acuerdo con las posibilidades dadas por su presupuesto (es decir, por el número de apoyos que efectivamente ha otorgado) en el mejoramiento de la calidad de vida y condiciones habitacionales de la población en situación de pobreza patrimonial. Si a lo anterior se añade el hecho de que de la muestra de beneficiarios levantada en el marco de la evaluación 2006, cerca del 50% no habitaban o habían abandonado la vivienda, entonces el impacto tanto a nivel de Fin como de Propósito es aún más reducido, presentándose incluso efectos de regresividad en la calidad de vida dado que se incurrió en un gasto para la adquisición de la vivienda, con lo que se redujo el ingreso disponible de los hogares sin una contraparte positiva en términos de mejoramiento de las condiciones habitacionales. 112