Evaluación externa del “Programa 3x1 para migrantes 2007” Informe Final RESULTADOS Este apartado busca evaluar si el programa cuenta con instrumentos que le permitan medir si ha cumplido con sus objetivos a nivel Propósito y Fin. Aquí se busca analizar si existe evidencia documentada de que el programa ha logrado mejorar o resolver el problema para el cual fue creado. 96. ¿El programa recolecta regularmente información veraz y oportuna sobre sus indicadores de Propósito y Fin? No. El Fin del Programa es “contribuir al mejoramiento de la calidad de vida de la población en condiciones de pobreza, marginación o rezago social que habita en localidades con alta migración, con la participación de la diáspora mexicana”. Y el Propósito es: “incrementar la cobertura y calidad de la infraestructura social básica y productiva en localidades con alta concentración de población en condiciones de pobreza, marginación, rezago o alta migración, a partir de las iniciativas de inversión de los migrantes que viven en el extranjero.” Los indicadores de Propósito se refieren a la mejoría en indicadores de rezago social de las localidades intervenidas, por un lado, mientras que el indicador de Fin es la proporción de localidades que mejoraron sus indicadores de marginación respecto del total de localidades intervenidas. Hay dos problemas con estos indicadores, uno de oportunidad y otro de validez. En primer lugar, los índices de rezago o marginación son recabados por INEGI y CONAPO cada cinco años, lo que dificulta evaluar oportunamente los avances anuales tanto de Propósito como de Fin. En segundo lugar, dada la pequeña escala del Programa sujeta a autoselección de migrantes, las mejorías observadas en dichos indicadores no son directa y exclusivamente atribuibles a la intervención del Programa. Por ejemplo, si las características de las localidades que explican la autoselección están correlacionadas con el avance o retroceso de los indicadores de marginación, se estará atribuyendo al Programa un impacto que no le corresponde a su intervención per se sino a la dinámica propia de dichas localidades. En concreto: los indicadores de marginación de una localidad pueden verse mejorados por los flujos de remesas a hogares (o alguna otra variable), los cuales están fuertemente correlacionados con la intervención del Programa. Cabe destacar que para 2008 ya se considera un indicador de Propósito de frecuencia anual y de mayor validez: el porcentaje de recursos canalizados a localidades de alta y muy alta marginación. 24 de marzo de 2008 101 Evaluación externa del “Programa 3x1 para migrantes 2007” Informe Final 97. ¿El programa ha llevado a cabo evaluaciones externas con metodologías rigurosas que le permitan medir el impacto del programa en la población objetivo (evaluaciones que permitan medir los avances en términos de su Propósito y Fin)? No. El Programa ha realizado evaluaciones externas anualmente desde su creación en 2002, en cumplimiento a lo establecido en la normatividad aplicable. Sin embargo, no se ha realizado una evaluación de impacto rigurosa, es decir, con métodos experimentales y/o cuasi-experimentales que permitan hacer inferencias contrafactuales sobre la incidencia neta (impacto real) del Programa. Los indicadores de desempeño han estado limitados por la frecuencia quinquenal de los indicadores de marginación y por la selección no aleatoria de localidades beneficiadas por el Programa, lo cual impide la posibilidad de hacer inferencias sólidas sobre el impacto real de los apoyos. Las evaluaciones más recientes se han concentrado en analizar la operación, cobertura y focalización del Programa, así como la percepción de beneficiarios. En concreto, la evaluación 2003 hizo un análisis costo-beneficio y estudió los resultados del Programa pero a partir del cumplimiento de objetivos distintos a los expresados formalmente en el Propósito y Fin actualmente estipulados en la matriz de indicadores. Tal como están estipulados actualmente tanto el Propósito como el Fin, y sus indicadores correspondientes, no es posible realizar una estimación del impacto del Programa que sea rigurosa. Dejando de lado una evaluación a partir de un diseño experimental, es decir, con intervención aleatoria en localidades comparables entre sí, una evaluación no experimental de impacto debería considerar lo siguientes elementos. Primero, los determinantes del proceso de auto-selección de localidades por parte de los migrantes, ya que este impacta por sí mismo la evolución de los indicadores de rezago de las localidades. En segundo lugar, el efecto de la intervención del Programa en la provisión de bienes públicos y acciones por parte de otros actores gubernamentales. Es decir, debe estudiarse cuidadosamente si los gobiernos municipales aprovechan los recursos del Programa como complemento o adición a sus programas de inversión o si éstos simplemente sustituyen o desplazan el esfuerzo de dichos gobiernos hacia otros fines socialmente menos productivos. En tercer lugar, se debe hacer una evaluación costo-beneficio de una muestra representativa de proyectos, para determinar si la rentabilidad social de éstos justifica la proporción de recursos públicos destinada al Programa por los diferentes niveles de gobierno. 24 de marzo de 2008 102 Evaluación externa del “Programa 3x1 para migrantes 2007” Informe Final 98. Con base en las evaluaciones externas, ¿cuáles han sido los principales impactos del programa?* A pesar de la falta de una evaluación de impacto rigurosa, no puede afirmarse que los impactos del Programa sean nulos o negativos. Sin duda, la promoción de obras y acciones de infraestructura con la coparticipación de clubes de migrantes, gobiernos estatales y municipales, ha permitido la provisión de bienes públicos que, de no existir el Programa, posiblemente no existirían. Las evaluaciones externas y otras fuentes secundarias que se han acercado al Programa destacan un notable éxito en la vinculación de clubes u organizaciones de migrantes con el desarrollo de sus comunidades de origen en un esquema de corresponsabilidad. De manera aislada, cada uno de los actores partícipes del Programa percibe un subsidio de 75% en la consecución de obras y acciones, lo cual explica en parte la percepción positiva del Programa. Dado los niveles de carencias de infraestructura social básica y de proyectos productivos en las zonas de alta intensidad migratoria, el Programa ayuda a capitalizar los flujos de remesas colectivas, y orientarlos hacia obras de impacto social distinto al que éstas conseguirían por sí solas. Otros impactos del Programa que, si bien escapan a los indicadores de Fin y Propósito no dejan de ser notables se refieren, en primer lugar, al incentivo que el Programa representa para promover la organización de clubes de migrantes en el extranjero. Y en segundo lugar, se ha afirmado que la consolidación y difusión del Programa ha ayudado no sólo a fortalecer vínculos entre migrantes y sus comunidades de origen, sino también a fortalecer la confianza de ciertos ciudadanos en éste y otros programas federales o locales. Ambos impactos también merecen una consideración y evaluación por separado. 24 de marzo de 2008 103 Evaluación externa del “Programa 3x1 para migrantes 2007” Informe Final 99. ¿El diseño y la operación del programa permiten realizar una evaluación de impacto rigurosa? Si no es así, explicar y proponer los ajustes necesarios para que sean compatibles. No. En primer lugar si los indicadores clave del diseño del Programa son recabados cada cinco años, se dificulta evaluar oportunamente los avances anuales tanto del Propósito como el Fin (mejorar índices de rezago y focalizar recursos a zonas marginadas). Dada la naturaleza de pequeña escala y sujeta a autoselección de migrantes, las mejorías observadas en dichos indicadores no son directamente atribuibles al Programa toda vez que los indicadores de marginación de una localidad pueden verse mejorados por los flujos de remesas a hogares (o alguna otra variable), los cuales están fuertemente correlacionados con la intervención del Programa. El indicador de Propósito propuesto en la matriz de indicadores para 2008 (porcentaje de recursos canalizados a localidades de alta y muy alta marginación) facilita la evaluación de cobertura pero no la eficiencia de la misma. Mientras no exista un criterio claro para delimitar la población objetivo y población potencial que aspira atender el Programa, no se podrá evaluar la eficiencia de la cobertura. El Programa persigue tres objetivos sin definir cuál es la prioridad entre ellos o hacer una definición explícita de las localidades de la población objetivo. Por ello, el Programa es adecuado para alcanzar a un segmento de la población objetivo: las localidades seleccionadas por los migrantes. Sin embargo, la orientación del Programa respecto de lo otro de sus objetivos –beneficiar a localidades de alta y muy alta marginación– es comparativamente más débil. Sin embargo, el Programa ha logrado avances notables en el fortalecimiento de los vínculos entre los migrantes y sus comunidades de origen, así como en la generación de confianza y el fomento a la organización de los mexicanos residentes en el extranjero. Existen varias formas de modificar el Programa para mejorar su orientación hacia resultados más fácilmente monitoreables: i) Restringir el Propósito del programa sólo a localidades debajo de cierto umbral de marginación o rezago social y que sean seleccionadas por los migrantes. ii) Establecer mezclas financieras diferenciadas, o bien una cuota, según el grado de marginación de la localidad. iii) Establecer criterios de elegibilidad más estrictos no sólo para los clubes de migrantes que toman la iniciativa sino también para los gobiernos locales interesados en participar para atar los beneficios del Programa a su uso en obras y proyectos de impacto social demostrable, según las características de la localidad seleccionada. 24 de marzo de 2008 104 Evaluación externa del “Programa 3x1 para migrantes 2007” Informe Final 100. Con base en la información obtenida de los distintos instrumentos, ¿el programa ha demostrado adecuado progreso en alcanzar su Propósito y Fin? Especificar los principales resultados. No. El Programa 3x1 tiene como propósito apoyar las iniciativas de los migrantes radicados en el extranjero para que, en un esquema de co-financiamiento tetra-partito, se realicen proyectos de infraestructura social básica y productiva en localidades tanto de alta migración como de alta marginación y pobreza. Al hacer esto, el Programa no sólo busca mejorar las condiciones sociales de dichas localidades, sino también fortalecer los vínculos entre los mexicanos en el extranjero y sus comunidades de origen. Por su diseño y operación, el programa beneficia relativamente más a localidades de mayor intensidad migratoria, con mayores recursos y capacidad de organización por parte de sus migrantes y, dentro de estas localidades, a su vez se favorecen ciertos tipos de obra por sobre otros. En 2007, 21.3% de las obras del Programa se encuentran en municipios de alta o muy alta marginación. En cuanto a montos de inversión, 23.7% de los recursos federales del Programa se destinan a municipios de alta o muy alta marginación. Por otro lado, las inversiones en obras de agua, alcantarillado y electricidad no rebasan el 15% de los recursos del Programa. Estas proporciones no han cambiado sustancialmente en los últimos tres años, lo cual refleja una inercia importante en la cobertura y alcance del Programa. El Programa destina gran parte de sus recursos a sólo tres entidades: Zacatecas, Jalisco y Michoacán concentraron 59% de las obras y 54% de los recursos federales del Programa en 2007. A pesar de ser estados de alta migración, es difícil sostener que en ellos se concentra más de la mitad de la marginación del país. Sin embargo, como el Programa no ha establecido cual es la prioridad relativa entre apoyar a zonas altamente marginadas vs. zonas de alta migración vs. fortalecer vínculos con migrantes, es difícil evaluar si estas inercias son un vicio o una virtud del Programa. El programa ha logrado avances en la atención a zonas de alta migración y el fortalecimiento de vínculos con los migrantes. Sin embargo, la capacidad de atender prioritariamente a zonas de alta y muy alta marginación ha tendido avances modestos que merecen un cuidadoso análisis por parte de la unidad responsable del Programa. 24 de marzo de 2008 105