Evaluación Externa del Programa de Apoyo Alimentario a cargo de DICONSA S.A. de C.V. EJERCICIO FISCAL 2006 Institución Evaluadora: Centro de Investigación y Docencia Económicas A.C. Anexo Metodológico ANEXO METODOLÓGICO DISEÑO La metodología empleada en este capítulo consistió en una revisión documental de los principales instrumentos normativos y descriptivos del programa, incluyendo la MML. Estos documentos son contrastados con criterios explícitos descritos en el texto del documento que permiten ubicar las principales características y cambios en el diseño del programa, de manera específica en sus Reglas de Operación. Los documentos utilizados fueron: ¾ Reglas de Operación del Programa de Apoyo Alimentario a cargo de DICONSA, S.A. de C.V. para el ejercicio fiscal 2004. Publicado en el Diario Oficial de la Federación el 13 de febrero de 2004. ¾ Reglas de Operación del Programa de Apoyo Alimentario a cargo de DICONSA, S.A. de C.V. para el ejercicio fiscal 2004. Publicado en el Diario Oficial de la Federación el 17 de febrero de 2006. ¾ Universidad Iberoamericana, Estudio de Evaluación Externa del Programa de Apoyo Alimentario, 2006. ¾ Libro Blanco del Programa de Apoyo Alimentario. Disponible en www.diconsa.gob.mx\libro_blanco2006.pdf ¾ FAO, Pasaporte para integrar una perspectiva de género en los Programas de Emergencia Preguntas analíticas clave para el diseño de intervenciones humanitarias sensibles a los aspectos de género, s.a., ¾ OCDE. Guidelines for Gender Equality and Women’s Empowerment in Development Cooperation, 1998. ¾ Inchaustegui Romero, Teresa, La institucionalización del enfoque de género en las políticas públicas. Apuntes en torno a sus alcances y restricciones. La ventana, núm. 10, 1999. ¾ Evaluación de PROGRESA para 1999 en http://evaloportunidades.insp.mx/441c7c1a3d30adf64e0e724174a9d527/impacto/19 99/1999_libro_evaluacion.pdf ¾ CIESAS, Evaluación Cualitativa del Programa de Apoyo Alimentario. Informe Final 2005. 2 COBERTURA Y FOCALIZACIÓN La metodología de cálculo de la población objetivo estuvo influenciada por la información disponible al evaluador. La siguiente tabla sintetiza las etapas de cálculo utilizadas en el presente estudio. En esa misma tabla se anotan las fuentes utilizadas y una descripción de las variables en las bases de datos proporcionadas por DICONSA. Etapa de cálculo i. Hogares en las localidades rurales marginadas en situación de pobreza de capacidades ii. Hogares en pobreza de capacidades en localidades rurales con alto y muy alto grado de marginación atendidos por OPORTUNIDADES o LICONSA iii. Población objetivo Fuentes e Información utilizada CONEVAL Número de hogares en pobreza de capacidades en el ámbito rural. www.coneval.gob.mx/pdf/Comunicado%20001%202006%20Oct%2001.pdf SEDESOL Padrón a nivel de localidades atendidas por el Programa de Desarrollo Humano OPORTUNIDADES Padrón a nivel de localidades atendidas por el Programa de Abasto Social de Leche a cargo de LICONSA Información mencionada en los pasos anteriores (i-ii) Para responder en qué medida los recursos y las acciones (entrega de apoyos) del Programa se han dirigido a la población en condiciones de pobreza y de marginación, se llevó a cabo el análisis utilizando las bases de datos proporcionadas al evaluador por DICONSA que incluyen el padrón de beneficiaros del PAL para 2006 y el reporte de entregas por bimestre; así como la base de datos por localidad. Al padrón de beneficiarios agregado a nivel de localidad se incorporaron los datos del reporte de entregas bimestral para 2006, además de las características de localidades, los datos de la proyección de población 2006, el porcentaje de pobres de capacidades por localidad y los niveles de marginación correspondiente. Para el análisis correspondiente a la asignación de recursos es importante señalar que se estimó el gasto ejercido por localidad multiplicando el número de apoyos otorgados por la estimación del gasto promedio por apoyo. La fuente de este dato es la estimación propia con los datos proporcionados por DICONSA del número de apoyos otorgados, el padrón y el presupuesto ejercido. Las bases de datos utilizadas fueron entregadas en el informe final. 3 OPERACIÓN Se identifican os procesos operativos del Programa y se analiza si el funcionamiento permite el cumplimiento de las ROP; la existencia de información disponible y sistematizada que facilite el desarrollo y seguimiento de cada proceso operativo; así como el seguimiento para saber si se han corregido los principales retos operativos indicados en evaluaciones anteriores y en qué medida. Se analiza el avance en el cumplimiento de las metas físicas y financieras, así como la existencia de metas de resultados para 2004, 2005 y 2006, con base en la información de gabinete y en evaluaciones anteriores. Se lleva a cabo el análisis del PAL para el ejercicio fiscal 2006 respecto a los costos de operación del Programa, la suficiencia del presupuesto asignado, el desglose de los costos por etapa de operación, particularmente la de adquisición, el costo unitario del apoyo y la relación costo beneficio; cuando fue posible se realizaron algunas comparaciones con el periodo 20042006. Los documentos utilizados fueron: ¾ ¾ ¾ ¾ ¾ ¾ ¾ ¾ ¾ ¾ ¾ ¾ ¾ ¾ ¾ ¾ ¾ ¾ ¾ Reglas de Operación 2006 Lineamientos 2006 Programa Anual 2006 Estudio de Evaluación Externa del PAL 2006 realizado por la Universidad Iberoamericana Conciliación de apoyos entregados en el ejercicio 2006 (cuadro) Presupuesto del PAL Constancia de Localidades Atendida (Entrevistas por densificación) Formato encuestador (con bitácora de brigadista) Oficio (notifica calificación de condición de pobreza de cédulas de densificación y faltantes) Movimientos del Padrón 2006 (tabla) Carta de solicitud de incorporación Acta circunstanciada que notifica solicitud de incorporación al PAL Formato de correcciones y bajas del Padrón Oficio que notifica los cambios solicitados Actas circunstanciadas solicitando baja, correcciones, cambios de titular o reposición de tarjeta Formato Reposición de Tarjetas Formato para el control de quejas recibidas vía telefónica Oficio SBD/EST/583/06 dirigido a Sedesol que notifica la entrega de base de datos actualizada Oficio solicitando integrar el inventario de la mercancía remanente en estados que transitaron a entrega en efectivo 4 ¾ Inventario de productos del PAL remanente en Estados que entregan apoyo en efectivo (cuadro) ¾ Formato Orden de Suministro ¾ Formato Pedido Cerrado ¾ Formato Entrada de Mercancía de Proveedor ¾ Cuadro de Avance de Recepción de Mercancía ¾ Contra-recibo a proveedor ¾ Nota de salida por entrega del PAL ¾ Oficio donde se instruye proceder a la adquisición de paquetes ¾ Lista de productos del paquetes (Comparativo de Aportes Nutricionales de algunos componentes del Paquete) ¾ Oficio, se instruye realizar la entrega. Anexo con tablas de Distribución de recursos y Calendario de entrega ¾ Oficio que notifica la comprobación (envío de listado, remisión (nota de salida y devolución de comprobación) ¾ Formato 0004 Relación de facturas de almacén ¾ Programa de Segunda Ronda de Capacitación a Facilitadores Comunitarios ¾ Reporte Mensual de Pláticas a Beneficiarios ¾ Reporte Mensual de Beneficiarias ¾ Informe Mensual de Avances de Capacitación a Facilitadores Comunitarios ¾ Presupuesto por curso de capacitación (formato) ¾ Acuerdos con Coordinación con los estados de Veracruz, Tabasco y Sinaloa ¾ Acuerdo del Proyecto de Capacitación con FAO ¾ Oficios enviados a Secretarios de Desarrollo Social/Rural de los Estados ¾ Plan Anual de Capacitación 2006, Temario de Pláticas ¾ Avance físico-financiero (cuadro) ¾ Formato F006 Reporte Semanal de avance de entrega ¾ Formato F002 Conciliación de cifras. Operación por almacén-localidad ¾ Indicadores para Evaluación Interna del PAL ¾ Cuarto Informe Trimestral 2006 (con resultados por indicador) ¾ Detalle de Acciones que recoge las recomendaciones anteriores (Plan de Trabajo) ¾ Instituto Mexicano de Normalización y Certificación, A.C. “Sistemas de Gestión de la Calidad”. Disponible en http://www.ran.gob.mx/ran/archivos/Programas_Sustantivos/calidad/ISO/NMXCC-9001-IMNC-2000.pdf ¾ 11-Reporte de gastos por adquisición de mercancía.xls ¾ Costos de Distribución.xls ¾ Cuarto Informe Trimestral 2004, 2005 y 2006. ¾ Desglose de compras por sucursal, unidad operativa, proveedor, productos y unidades 2005, desglose de gastos al 31 de diciembre 2004 y 2005. Adquisición de mercancías con cargo al PAL, 2004, archivos electrónicos Gastos 2004 xls., Costos de Distribución eje-04.xls, Gastos de distribución (19.5) del año 2005.xls. ¾ Desglose de compras por sucursal, unidad operativa, proveedor, producto y unidades. (Documento 46). ¾ Desglose de gastos por unidad operativa. ¾ Determinación de los recursos fiscales ejercido en 2006. 5 ¾ Listado de proveedores y precios unitarios de los productos contenidos en la canasta básica y archivos electrónicos de costos de distribución ejercicio 2004 y gastos de distribución de 2005. ¾ Padrón de beneficiarios del PAL ¾ Presupuesto de Egresos de la Federación, 2004, 2005 y 2006. ¾ Presupuesto del PAL. ¾ Presupuesto ejercido 2004 y2005 por partidas, ¾ Programa anual 2006. ¾ Resultados del ejercicio del Programa de 2004 y 2005 ¾ Séptimo Informe de Evaluación del Programa de Apoyo Alimentario, UIA. ¾ ¿Quién es quién en los precios?, PROFECO. 6 RESULTADOS Debido a que no fue posible para la presente evaluación realizar trabajo de campo, i.e., encuestas, entrevistas, estudios de caso, el capítulo de resultados consistió en trabajó de gabinete que consistió en: 1) análisis de los indicadores de la MML de Fin y Propósito para evaluar su facilidad de construcción y observación, 2) revisión de las diferentes evaluaciones cuantitativas que se han realizado para medir el impacto del programa 3) analisis las diferentes evaluaciones cualitativas y por último se anotarán resultados sobre la equidad de género, jóvenes e indígenas. La información consultada fue la proporcionada por las siguientes evaluaciones: ¾ UIA, Estudio de Evaluación Externa del Programa de Apoyo Alimentario a cargo de Diconsa S.A. de C.V., Septimo Informe ¾ Evaluación Cualitativa del PAL realizada por el Centro de Investigaciones y Estudios Superiores en Antropología Social (CIESAS) ¾ Evaluación del Instituto Nacional de Salud Pública, Centro de Investigación en Nutrición y Salud, 2006 ¾ Evaluación del Instituto Nacional de Ciencias Médicas y Nutrición Salvador Zubirán, 2005 ¾ Evaluación del Instituto Nacional de Ciencias Médicas y Nutrición Salvador Zubirán, 2006 7 PERCEPCION DE BENEFICIARIOS Se analizan y discuten los resultados de la encuesta de satisfacción realizada para la evaluación externa llevada a cabo por la Evaluación Externa para el periodo anterior. Se divide el análisis en dos secciones:resultados descriptivos obtenidos en la encuesta y examen de los índices de satisfacción. Asimismo, en este capítulo, se propone la adopción de un índice de satisfacción junto a un conjunto de indicadores cualitativos que sean producto de una investigación enfocada a dicho propósito. El índice que se recomienda adoptar es el IMSU (Índice Mexicano de Satisfacción del Usuario) pues contempla un concepto de satisfacción acumulativa y como experiencia total. Documentos utilizados: ¾ Geert Bouckaert y Steven Van de Walle (2003). Comparing measures of citizen trust and user satisfaction as indicators of ‘good governance’: Difficulties in linking trust and satisfaction indicators, en: International Review of Administrative Sciences, vol. 69 (3): 329-344. ¾ INRA y Deloitte & Touche for DG Health & Consumer Protection (2005), “Development of indicators on consumer satisfaction and pilot survey” ( Reporte final del Project for the European Commission Directorate General on Health and Consumer Protection). ¾ Michael D. Johnson, Georg Nader y Claes Fornell (1995). “Expectations, perceived performance, and customer satisfaction for a complex service: The case of bank loans”. Journal of Economic Psychology 17, 163- 182. ¾ Terry G. Vavra (1997). Improving Your Measurement of Customer Satisfaction: A Guide to Creating, Conducting, Analyzing, and Reporting Customer Satisfaction Measurement Programs. ASQ Quality Press. ¾ Universidad Iberoamericana (2006), Departamento de Ingenierías. Maestría en Ingeniería de calidad, Versión Final del Reporte de la Aplicación de la Metodología para la Obtención del Índice de Satisfacción del Beneficiario del Programa de Abasto Rural. ¾ Universidad Iberoamericana (2006), Evaluación Externa del Programa de Apoyo Alimentario. ¾ Fuentes electrónicas: ¾ www.inegi.gob.mx Instituto Nacional de Estadística, Geografía e Informática ¾ ¾ www.conapred.org.mx Consejo Nacional para Prevenir la Discriminación http://www.cdi.gob.mx/ Comisión Nacional para el Desarrollo de los Pueblos Indígenas 8