Taller “Gestión de la Evaluación de las Actividades Científicas,Tecnológicas y de Innovación”. Experiencias y Desafíos”. Evaluación de Proyectos En Cuba, el Sistema de Programas y Proyectos es una forma organizativa para la planificación, financiamiento, ejecución, evaluación y control de las actividades de I+D+i a través de los Programas, Proyectos no Asociados a Programas y Proyectos Institucionales, de Ciencia, Tecnología e Innovación. SPP La máxima dirección y control del Sistema de Programas y Proyectos, corresponde al Ministerio de Ciencia, Tecnología y Medio Ambiente (CITMA). Los programas constituyen el conjunto integrado de actividades diversas de ciencia, tecnología e innovación, organizadas en proyectos, con el objetivo de resolver los problemas identificados, y dirigidos a lograr resultados e impactos específicos en un período determinado. Se clasifican en: Programas Nacionales, Ramales y Territoriales de Ciencia, Tecnología e Innovación. Los proyectos constituyen la célula básica para la organización, financiamiento, ejecución de actividades de I+D+i. Materializan objetivos de los programas en que están insertados, o propios en el caso de los proyectos no asociados a programas o institucionales. Los proyectos no asociados a programas son aquellos que responden a necesidades específicas no expresadas en los programas en ejecución Los proyectos institucionales responden a necesidades de una entidad no incluidas en los programas en ejecución. El Equipo de Dirección del Programa es la estructura encargada de coordinar y controlar la ejecución del mismo. Incluye: •Jefe de Programa •Grupo de Expertos •Secretario de Programa GRUPO DE EXPERTOS Se constituye con especialistas de alto nivel científico, funcionarios, tecnólogos, así como representantes del sector de la producción de bienes y servicios, relacionados todos con los objetivos del programa Una dificultad que en ocasiones puede confrontarse es no poder contar con la presencia de todos los expertos, por coincidir las fechas de las reuniones con otros compromisos laborales. La gran mayoría de los programas se gestionan en la capital por lo que no siempre es posible la asistencia de algunos de los expertos pertenecientes a otras provincias Los especialistas de las provincias también forman parte de los grupos de expertos de los programas que se ejecutan territorialmente, garantizando la calidad del desarrollo de los mismos a nivel provincial. Una vez aprobado el programa, se lleva a cabo la convocatoria del mismo, en la que se da a conocer la ficha de programa, la documentación requerida para la presentación de propuestas de proyectos, el plazo de la convocatoria, etc. Programa Nacional Desarrollo Sostenible de la Montaña… convocatoria Una vez iniciado el programa se realizan tantas convocatorias y encargos de proyectos como se considere, hasta satisfacer los objetivos del programa. convocatoria convocatoria Las entidades con capacidad para ejecutar actividades de investigación científica y desarrollo tecnológico, servicios científico-técnicos y actividades de innovación están en la obligación de responder a la convocatoria de los programas, así como a los encargos de proyectos que le sean encomendados por las entidades que gestionan programas y proyectos. La presentación de los proyectos se realiza según el Formato de Proyecto. FORMATO DEL PROYECTO DEBE INCLUIR: •TÍTULO DEL PROGRAMA •TÍTULO DEL PROYECTO •CLASIFICACIÓN DEL PROYECTO •DATOS DE LA ENTIDAD EJECUTORA PRINCIPAL •DATOS DE LAS ENTIDADES PARTICIPANTES •DATOS DEL JEFE DEL PROYECTO •DATOS DE LOS USUARIOS •DURACIÓN DEL PROYECTO •AVAL DEL ORGANO C-T DE LA ENTIDAD •PROBLEMA A RESOLVER. ANTECEDENTES Y JUSTIFICACIÓN •OBJETIVO GENERAL •OBJETIVOS ESPECÍFICOS •METODOLOGÍA A UTILIZAR PARA ENFRENTAR EL PROBLEMA •RESULTADOS Y PLANIFICACIÓN DE LAS ACTIVIDADES PRINCIPALES (Resultados Planificados, Entidades Participantes, Actividades Principales, Inicio y Término, Indicadores verificables) •IMPACTOS (científico, ambiental, social, económico) •RECURSOS HUMANOS PRINCIPALES Jefe de Resultado, Grado Científico, Categoría científica, docente o tecnológica, Entidad , % de participación •Experiencia del Jefe del proyecto relacionada con el objetivo principal del proyecto •RECURSOS MATERIALES E INFRAESTRUCTURA •PRESUPUESTO DEL PROYECTO Los proyectos son sometidos a un sistema de evaluación, que tiene en cuenta los aspectos científico-técnicos, económicos, sociales y ambientales. Generalmente se seleccionan dos miembros del Grupo de Expertos para evaluar cada proyecto. Si el dictamen de aprobación difiere significativamente de uno a otro experto, se solicita un tercero para que también lleve a cabo la evaluación de dicho proyecto. Metodología para llenar el Modelo de Evaluación. Se toman en cuenta 4 indicadores generales Para cada indicador se han previsto varios indicadores específicos. A cada uno de éstos se dará una calificación entre 1 y 10, atendiendo a que Mal: 1- 4 Regular: 5 - 7 Bien: 8-9 Excelente: 10 Cada indicador general tendrá una calificación resultado de promediar las calificaciones de los indicadores específicos que lo componen. INDICADOR 1 - DISEÑO Y CONTENIDO DEL PROYECTO INDICADORES ESPECÍFICOS PUNTUACIÓN a) Precisión, actualidad y novedad de los objetivos y resultados. b)Vigencia y correspondencia de la metodología a utilizar con las exigencias del problema a enfrentar. c) Precisión y validez de los indicadores definidos para verificar los resultados planificados. d) Correspondencia de la planificación del Proyecto con los resultados esperados, incluyendo la duración total del mismo. Valor Promedio INDICADOR 2 – PERTINENCIA DE LA PROPUESTA INDICADORES ESPECÍFICOS a) Validez de los argumentos utilizados para la justificación del Proyecto b) Aporte del Proyecto para resolver el problema planteado. c) Correspondencia de los objetivos del Proyecto con los objetivos del Programa. d) Importancia científico-tecnológica del Proyecto e) Identificación de los posibles impactos Valor Promedio PUNTUACIÓN INDICADOR 3 – PROBABILIDAD DE ÉXITO DEL PROYECTO INDICADORES ESPECÍFICOS PUNTUACIÓN a) Suficiencia de las instituciones participantes. b) Idoneidad del jefe del Proyecto. c) Infraestructura y medios materiales disponibles para la ejecución. d) Correspondencia del Presupuesto solicitado con las actividades y resultados planificados. e) Objetividad del Estudio de Factibilidad técnico-económica (para Proyectos de Innovación). Valor Promedio INDICADOR 4 – SOSTENIBILIDAD Y ACCIONES DE CONTINUIDAD INDICADORES ESPECÍFICOS a) Existencia y capacidad de usuarios de los resultados del Proyecto. b) Posibilidades reales para la utilización de los resultados obtenidos en la solución del problema determinado. c) Posibilidades de generación de proyectos de desarrollo, aplicados o de generalización (según sea el caso), a partir de los resultados planificados. Valor Promedio PUNTUACIÓN VALORACIÓN CUALITATIVA (EN HOJA ANEXA). Calificación Final para cada indicador: ______________ Evaluador (Nombre y Firma) _________________________ En reunión con los miembros del Grupo de Expertos, el Secretario del programa expone el perfil de cada proyecto e informa la puntuación obtenida en cada una de las evaluaciones. Los expertos pueden preguntar acerca de determinados aspectos del proyecto que consideren deba someterse a discusión. Si el Grupo así lo considera puede proponer la reelaboración de parte de un proyecto con el fin de no desaprovechar una propuesta que puede ser exitosa pero que debe mejorar algunos de los aspectos señalados. En tal caso se devuelve a la institución que lo presentó para que en breve plazo se lleven a cabo las modificaciones correspondientes. Se van aprobando proyectos, sobre la base de la puntuación obtenida en las evaluaciones, dando cumplimiento a los diferentes objetivos del programa. Aspectos importantes a tomar en cuenta por el Grupo de Expertos: En caso de empate por la puntuación obtenida analizar si satisface más de un objetivo del programa. Que la propuesta de proyecto aborde de manera integral una problemática dada, en ocasiones con varias instituciones participantes. Si algún objetivo del programa queda sin cubrir, el Equipo de Dirección puede proponer a una institución cuya misión tenga relación con el tema fundamental de dicho objetivo, para que presente una propuesta dirigida a satisfacer el mismo. Por otra parte en la mayoría de los programas nacionales los proyectos se evalúan mediante expertos pertenecientes a un banco de evaluadores. Éste cuenta con especialistas de reconocido prestigio, tomando en consideración la capacitación y experiencia de los mismos en determinadas especialidades. Está previsto que entre los miembros del Grupo de Expertos se encuentren representantes del sector de la producción de bienes y servicios relacionados con los objetivos del Programa, que den criterios acerca de los resultados que puedan aplicarse en el sector productivo, de servicios, etc. No en todos los programas esto funciona satisfactoriamente. Trimestralmente el centro ejecutor principal reporta la marcha del proyecto a la Dirección del Programa al cual pertenece el mismo. Modelo Certificación Trimestral de Actividades Período que se evalúa: Trimestre que se evalúa Programa: Título del programa al que tributa el proyecto. Proyecto: Título del proyecto Código: Código asignado al proyecto Actividades principales incumplidas Causas Relacionar las actividades incumplidas en el período Estado del proyecto: Calificación que otorga el Consejo Científico de la entidad ejecutora sobre la ejecución del proyecto de acuerdo con el cumplimiento de las actividades a concluir en el período. Debe ser: Normal o Atrasado por lo que se marcará con una cruz en la casilla correspondiente. Normal 1 Atrasado 1 Detenido 1 Cancelado 1 Ejecución financiera Presupues to aprobado: Gastos acumulados: Gastos incurridos para la ejecución del proyecto en el período de corte evaluativo. Observaciones: Si la propuesta de evaluación es atrasado, detenido o cancelado explicar brevemente las causas y si éstas se consideran imputables o no al centro Nombre y apellidos Cargo Jefe de Proyecto Presidente Consejo Científico Director de la Institución Firma Fecha El propio Grupo de Expertos, que aprobó los proyectos, le da seguimiento semestralmente a la ejecución de los mismos. INFORME SEMESTRAL DEL PROYECTO Periodo: Año y semestre que se informa Programa: Título del programa al cual tributa el proyecto Proyecto: Título del proyecto Código: Código asignado al proyecto Institución ejecutora: Nombre de la institución ejecutora principal del proyecto Instituciones participantes: Nombre de las instituciones que están participando Cumplimiento del cronograma de actividades: Especificar, de forma breve, el cumplimiento de las actividades propuestas para el semestre. Precisar si se ha concluido alguno de los objetivos propuestos y si existen o se mantienen atrasos. Cumplimiento de los resultados programados: Enumerar los resultados concluidos y su correspondencia con el contrato. Referir los indicadores que permiten medir estos resultados y los medios que permiten su verificación (Incluir Informe Científico Técnico). Precisar si hay resultados protegidos por la propiedad intelectual, tesis de doctorados y maestrías defendidas, publicaciones (Especificar Nombre, número, año, volumen, factor de impacto de la revista). Estado del proyecto: Calificación que otorga el Consejo Científico de la entidad ejecutora sobre la ejecución del proyecto de acuerdo con el cumplimiento de las actividades a concluir en el período. Debe ser: Normal o Atrasado por lo que se marcará con una cruz en la casilla correspondiente. Normal 1 Atrasado 1 Detenido 1 Cancelado 1 Ejecución financiera Presu Gastos puesto acumula aprob dos: ado Gastos incurridos para la ejecución del proyecto en el período de corte evaluativo. Observaciones: Si la propuesta de evaluación es atrasado, detenido o cancelado explicar brevemente las causas y si éstas se consideran imputables o no a la entidad. Nombre y apellidos Cargo Jefe de Proyecto Presidente Consejo Científico o Consejo Técnico Director de la Institución Firma Fecha Formato del Informe Final de proyecto Identificación del proyecto. Título, Código, Entidad Ejecutora. Colectivo de autores expresando el grado de participación de cada uno de ellos y sus entidades de procedencia. Objetivos planteados en el proyecto. Ejecución del presupuesto de gastos asignados y otros recursos utilizados. Correspondencia entre la relación costo - beneficio alcanzada y la prevista (proyectos de innovación). Informe científico técnico que avala la calidad en la ejecución y los resultados. Magnitud y características del aporte alcanzado: repercusión nacional o internacional, patentes, doctorados, eventos, publicaciones, etc. No sólo debe especificarse la cantidad; también el nombre del evento o la revista donde publicó, el título del trabajo presentado o artículo publicado, de la tesis de doctorado, etc. Se adjuntan y se envían al Ministerio de Ciencia, Tecnología y Medio Ambiente, las Fichas de resultados terminados en el proyecto, según formato anterior. Impactos previstos y alcanzados. Dictamen del Consejo Científico sobre Informe Final de Proyecto. Opinión del usuario Anexar Opinión del usuario Vínculo logrado con instituciones extranjeras o internacionales. Otros documentos que demuestren el logro de los objetivos planificados. Resumen: Breve resumen del informe (no más de 250 palabras) El jefe del proyecto expone el informe final ante el Grupo de Expertos y ante dos oponentes (especialistas de reconocido prestigio en la temática en cuestión), llevándose a cabo la última evaluación del proyecto. DICTAMEN FINAL DEL GRUPO DE EXPERTOS SOBRE PROYECTO Título del programa: Código y Título del proyecto Entidad Ejecutora Principal Entidades participantes: Clientes: Jefe del Proyecto: Nombre y apellidos del Jefe de Proyecto. Novedad, Calidad y utilidad de los resultados obtenidos, escala de introducción alcanzada Valoración de los impactos alcanzados respecto a los esperados Resumen de gastos del proyecto en MN y en MLC CONCLUSIONES Resultados alcanzados: Positivos 1 Negativos 1 Aprobar 1 Desaprobar 1 el Informe Final RECOMENDACIONES Nombre y apellidos Cargo Secretario del Programa Jefe del Programa Firma Fecha ALGUNAS CONSIDERACIONES: Son importantes las evaluaciones ex-ante y final de los proyectos, e igualmente las efectuadas durante la ejecución de los mismos, las que permiten llevar a cabo modificaciones a tiempo o una cancelación oportuna si fuera necesario, y se aprovecharía el presupuesto en la ejecución de otro proyecto exitoso. Al gestar un nuevo programa se convoca a representantes de la comunidad científica y de los sectores productivos correspondientes, aunque estos últimos están mucho menos representados que los primeros. Debieran tomarse en cuenta también las demandas de la sociedad civil. A nivel de programa se llevan a cabo evaluaciones anualmente y al finalizar los mismos. Las informaciones correspondientes tributan al máximo nivel del sistema para resumir lo llevado a cabo en materia de programas y proyectos anualmente en el país. Años atrás se llevó a cabo una evaluación en algunos programas nacionales para conocer el % de resultados que se han integrado a la producción, a los servicios, etc, determinándose que es bajo. Entre otras acciones, debe continuarse perfeccionando la selección de usuarios y el rol que estos deben jugar al expresar su conformidad por los resultados concluidos en el proyecto. Necesidad de lograr alianzas más fuertes entre las entidades que gestionan programas y el sector productivo y de servicios que deberán aplicar los mismos. Buenas experiencias se han obtenido al establecer un vínculo directo entre un programa en cuestión y una cadena productiva. Contemplándose entre los objetivos del programa, todos los problemas existentes en dicha cadena, aplicándose de manera más expedita los resultados en la práctica productiva Éxitos importantes se han logrado en aquellas entidades científicas que cierran el ciclo, es decir en las mismas se materializan los resultados de la ciencia, tecnología e innovación, desarrollan los productos y los comercializan. Desde la evaluación ex-ante debe prestarse especial atención a la futura aplicación de los resultados propuestos. Las evaluaciones finales deben contemplar las posibilidades de generación de proyectos de desarrollo, aplicados o de generalización para evitar los llamados “resultados engavetados”. Aún se hace necesario que desde la formación académica de los investigadores se incorpore la dimensión productiva en su quehacer. Deberíamos evaluar también la popularización y divulgación de los resultados obtenidos en los proyectos ejecutados, ya que las mismas juegan un importante papel en la apropiación de los avances científico-tecnológicos por parte de la sociedad. Es un aspecto que en general no lo integramos al cronograma de actividades previstas en los proyectos. Debemos mirar más hacia dentro de nuestros propios países, conocernos mejor. En ocasiones llevamos a cabo proyectos con entidades extranjeras, incluso fuera de nuestra región, obviando las homólogas nacionales, muchas veces por desconocimiento de las potencialidades propias del país. Un registro nacional de entidades que desarrollen actividades científico-tecnológicas y de innovación se hace necesario, por qué no también uno de carácter regional?, éste propiciaría la asociatividad necesaria para proyectos o redes entre países de la región. Muchas gracias a los organizadores del evento por esta oportunidad de compartir con todos los asistentes al taller. Gracias por la atención prestada!