Kit de herramientas para procesos educativos del Instituto de Estudios del Ministerio Público Cartilla 6. Instructivo para realizar evaluaciones de reacción Kit de herramientas para procesos educativos del Instituto de Estudios del Ministerio Público © Deutsche Gesellschaft für Technische Zusammenarbeit (GTZ) GmbH ISBN: 978-958-8438-15-3 Cartilla 6. Instructivo para realizar evaluaciones de reacción © Deutsche Gesellschaft für Technische Zusammenarbeit (GTZ) GmbH Primera edición: septiembre de 2008 ISBN: 978-958-8438-21-4 Coordinación editorial Rita Kotov Deutsche Gesellschaft für Technische Zusammenarbeit (GTZ) GmbH Barbara Hess Directora Agencia GTZ en Bogotá Proyecto Fortalecimiento del Estado de Derecho –FortalEsDerRita Kotov Coordinadora principal del Proyecto Hugo Peresson Tonelli Asesor GTZ Autor de la cartilla Procuraduría General de la Nación Edgardo José Maya Villazón Procurador General de la Nación Instituto de Estudios del Ministerio Público Elsa Barón de Rayo Directora del I.E.M.P. Carlos Humberto García Orrego Jefe de la División de Capacitación del I.E.M.P. Equipo técnico I.E.M.P. Roland Oswaldo Sánchez Ojeda Diana Sulma Pardo Ibarra Sandra Rojas Barrero César Augusto Nieto Rojas Diseño editorial de la Colección Diseño de portada, corrección de estilo y diagramación para la Cartilla 6: LYO Comunicaciones Alba Lucía Forero Alfonso Ortega Soto Cel: 316 335 4712 / 316 335 4701 e-mail: [email protected] Fotografías en la cartilla: www.morguefile.com Impresión Gráficas Ducal Tabla de contenido Introducción Mapa conceptual Capítulo 1. Aspectos generales en la Evaluación de Reacción Definición Ubicación de la ER dentro del ámbito evaluativo Fortalezas y debilidades en torno a la ER ¿Qué se valora en una ER? Circunstancias a tener en cuenta al aplicar la ER Factores que se deben tomar en cuenta para seleccionar una técnica de ER Capítulo 2. La evaluación de Reacción: noción de utilidad y personas involucradas Utilidad de la ER Agentes que deben participar Capítulo 3. Indicaciones e instrumentos para la Evaluación de Reacción ¿Cuándo aplicar la ER? ¿Quién debe aplicar la evaluación? ¿Qué condiciones debe tener en cuenta el coordinador académico para realizar la ER? ¿Qué técnicas utilizar? Capítulo 4. Presentación de los resultados y evaluación de los instrumentos Fases en la elaboración del informe final Estructura del informe final La evaluación de los instrumentos Capítulo 5. Anexos Formatos para los participantes Formato para recabar información por parte del facilitador, docente o tutor 6 8 10 12 13 14 15 16 17 18 20 22 24 26 27 28 29 38 40 41 42 44 46 61 Bibliografía consultada 63 Flujo del Proceso de Capacitación 64 Instructivo para realizar evaluaciones de reacción Introducción E ste instructivo busca aportar a los servidores públicos del Instituto de Estudios del Ministerio Público –I.E.M.P.–, en especial a los coordinadores de “productos educativos”1, un instrumento práctico de trabajo para evaluar la apreciación de los participantes sobre una actividad educativa específica. En el capítulo 1, Aspectos generales en la evaluación de reacción, se define qué se entiende por evaluación de reacción y su ubicación dentro del espectro de las diversas evaluaciones que se pueden aplicar en un proceso de capacitación. El capítulo 2, La evaluación de reacción: noción de utilidad y personas involucradas, muestra la utilidad e incidencia de esta evaluación en el contexto de las actividades educativas; adicionalmente, se describe la participación que tienen los diferentes agentes implicados en la evaluación: facilitadores, coordinadores y participantes. El capítulo 3, Indicaciones e instrumentos para la evaluación de reacción, plantea las condiciones y requisitos que deben estar presentes en la aplicación de los instrumentos que evalúan la reacción y se analizan tres opciones, con la descripción y explicación específica de cada una de ellas: el cuestionario, la entrevista y el análisis de verificación en grupos de trabajo. 1 Gento Palacios, Samuel. “La evaluación de la satisfacción educativa en un enfoque de calidad institucional”. En: Compromisos de la evaluación educativa, Prentice Hall, 2002. Por su parte el capítulo 4, Presentación de los resultados y evaluación de los instrumentos, propone pautas para la elaboración del informe, a fin de que sea lo más claro y puntual posible y facilitar, así, la formulación de conclusiones y recomendaciones. La evaluación de los instrumentos, presenta algunos elementos que permiten mantenerlos actualizados. Introducción Finalmente, en el capítulo 5, Anexos, se presentan cuatro modelos: tres para ser aplicados a los participantes y uno para recabar información por parte de los docentes o facilitadores. Así, después de resaltar aspectos básicos de la ER se espera haber logrado enriquecer la concepción de esta evaluación como herramienta útil y pertinente en el cumplimiento de la misión del I.E.M.P. Para la elaboración de este instructivo se tuvieron en cuenta, específicamente, dos documentos: • Castaño Collado, Gloria. Evaluación de las reacciones de los programas de formación. Departamento de Psicología diferencial y del trabajo. Universidad Complutense de Madrid, del que se toma buena parte de la estructura de los primeros capítulos y aportes textuales, los cuales se señalan entrecomillados en el texto. • Insuati, Luis Delfín. Manual del subsistema de evaluación para el I.E.M.P. 2007. Consultoría GTZ. Este trabajo es el resultado de un proceso de investigación, discusión y sistematización de experiencias de evaluación de impacto realizado por el grupo técnico del I.E.M.P. y los asesores de la GTZ dentro del Proyecto FortalEsDer. Instructivo para realizar evaluaciones de reacción En seguida se estudia la El instructivo inicia con los Mapa conceptual del Instructivo para realizar evaluaciones de reacción Aspectos generales en la Evaluación de Reacción Noción de utilidad y personas involucradas Que trabaja los siguientes temas: Donde se abordan: Definición Utilidad de la ER Ubicación de la ER dentro del ámbito evaluativo Agentes involucrados Fortalezas y debilidades en torno a la ER ¿Qué se valora en una ER? Circunstancias a tener en cuenta al aplicar la ER Factores que se deben tomar en cuenta para seleccionar una técnica de ER Mapa Conceptual Tema que da paso a unas Para luego entrar a estudiar la Finalmente, se ofrecen unos Indicaciones e instrumentos para la evaluación de reacción Presentación de los resultados y evaluación de los instrumentos Anexos Donde se hace énfasis en: Tema que profundiza en: En los que se plantean: ¿Cuándo aplicar la ER? ¿Quién debe aplicar la evaluación? ¿Qué condiciones debe tener en cuenta el coordinador académico para realizar la ER? ¿Qué técnicas utilizar? Fases en la elaboración del informe final Formatos para los participantes Estructura del informe final Formato para los tutores La evaluación de los instrumentos Capítulo 1 Definición Ubicación de la ER dentro del ámbito evaluativo Aspectos generales en la Evaluación de Reacción Fortalezas y debilidades en torno a la ER ¿Qué se valora en una ER? Circunstancias a tener en cuenta al aplicar la ER Factores que se deben tomar en cuenta para seleccionar una técnica de ER El grado de claridad y comprensión que tengan los coordinadores académicos con respecto de esta estrategia evaluativa, determinará la motivación e interés que impriman a la construcción, aplicación, sistematización de información y difusión de la misma. Instructivo para realizar evaluaciones de reacción 12 Definición Se entiende por evaluación de reacción: El conjunto de apreciaciones emocionales, cognitivas o valorativas que expresan los agentes involucrados en el desarrollo de un programa o evento educativo ante los estímulos recibidos y situaciones sucedidas durante su implementación. “La ER consiste, por tanto, en recabar información sobre los comportamientos, impresiones y percepciones que tienen los agentes implicados (facilitadores, participantes y coordinadores)”2 y tiene carácter retroactivo, esto es, se opina sobre lo que ocurrió en el transcurso de un evento capacitador. Hay que tener en cuenta que la ER guarda un alto grado de subjetividad y emocionalidad por lo que sus resultados deben ser confrontados desde diversas vertientes, y como quiera que sea, dimensionados en sus limitaciones de objetividad. “Se trata de apreciar el nivel de agrado de los participantes ante la formación recibida, es decir: • en qué medida les ha gustado, • cómo consideran que dicha formación puede resultarles de utilidad a nivel práctico en el desempeño de su trabajo”3. 2 3 Castaño Collado, Gloria, Op. Cit. Prieto, José; Carrasco, Juan Carlos. Guía para evaluación de la formación en las empresas. U.C.M. Capítulo 1. Aspectos generales en la evaluación de reacción Ubicación de la ER dentro del ámbito evaluativo En un contexto educativo se suele aplicar cuatro tipos de evaluación en diferentes momentos del proceso: de reacción, de aprendizajes, de transferencia y de impacto. Todas deben estar entrelazadas y formar un conjunto integral que responda a valores, estrategias y metodologías coherentes. En el siguiente cuadro se hace una presentación de los objetivos esperados con la aplicación de cada una de ellas4. Tipos y objetivos de las evaluaciones pedagógicas Evaluación de reacción Percepción de los participantes acerca de las actividades educativas institucionales Evaluación de la eficacia pedagógica Grado de desarrollo de nuevas capacidades relacionadas con adquisición o fortalecimiento de competencias Evaluación de la eficiencia de transferencia al ámbito laboral Grado de aplicación o mejoramiento del desempeño y la productividad al poner en práctica las competencias desarrolladas Evaluación del impacto de los procesos formativos Impacto de las actividades educativas en los procesos y la gestión institucional, el clima laboral, el entorno social de la institución 4 Una profundización sobre esta tipología se desarrolla en la Cartilla 2. Plataforma Pedagógica y Plataforma de Investigación del Instituto de Estudios del Ministerio Público. GTZ, 2008, en esta misma Colección. 13 14 Instructivo para realizar evaluaciones de reacción Fortalezas y debilidades en torno a la ER Aspectos positivos Aplicada con oportunidad y debida motivación, es aceptada por los participantes. Deficiencias y retos Con alguna frecuencia se comenten tres tipos de errores al evaluar la satisfacción. La Su validez, aunque relativa, es un espejo que muestra percepciones y “cómo están las cosas” (Generalmente el espejo no miente). información que se obtiene se puede consolidar de forma rápida. ER es un “apéndice” de la actividad educativa; se la considera como una exigencia administrativa y no se resalta su carácter pedagógico. Adicionalmente no forma parte de una estrategia de comunicaciones entre participantes e Instituto. Muy pocas veces los participantes son informados de los resultados de la evaluación. La los adultos son espontáneos: manifiestan lo que sienten y lo que piensan. Tanto más cuando la encuesta es anónima y aplicada por personas que no tienen relaciones de poder o subordinación. No se hace un análisis correcto de los resultados de la evaluación, entre otras razones porque: Generalmente » » » » » » Se aplican indiscriminadamente los instrumentos sin hacer un análisis de las diversas características de los participantes a la actividad. Hay deficiencias en la metodología de análisis de las encuestas. Hay carencia de conocimientos para desarrollar encuestas; se presentan preguntas confusas, ítems de poca relevancia, etc. Falta conocimiento para realizar análisis estadístico. Se aplican las encuestas de manera impropia en cuanto tiempo, grupo, momento. Falta una adecuada plataforma tecnológica que ayude a registrar la información y a obtener, mediante diversos cruces, los resultados deseados. La información obtenida no se confronta con otras fuentes de verificación. Capítulo 1. Aspectos generales en la evaluación de reacción ¿Qué se valora en una ER? Diversas son las variables sobre las que los participantes pueden expresar su valoración o reacción. Corresponde a los coordinadores académicos seleccionar los ítems que mejor se ajusten a los propósitos pretendidos con dicha evaluación y que ofrezcan información más completa para el Instituto y la institución en general. La reacción inmediata después de la intervención, por parte de los participantes y los facilitadores responsables, generalmente tiene en cuenta aspectos tales como: Satisfacción general con el programa Importancia general de la intervención 6 1 5 2 3 Utilidad del contenido tratado Cambios sugeridos para la intervención Valor de la ayuda recibida del instructor 4 Valor de los métodos empleados 15 16 Instructivo para realizar evaluaciones de reacción Circunstancias a tener en cuenta al aplicar la ER Quién “Unos resultados positivos de una ER no implican, necesariamente, que se hayan alcanzado los objetivos del curso ni que se hayan adquirido aprendizajes”5. Son indicadores de análisis para el mejoramiento de eventos posteriores y referentes cuando se aborde una evaluación de transferencia o de impactos. Qué debe manifestar La ER conlleva un grado de apreciación subjetiva En qué condiciones Las apreciaciones valorativas pueden estar influenciadas por incidencias afectivas y culturales. 5 Castaño Collado, Gloria, Op. Cit. Capítulo 1. Aspectos generales en la evaluación de reacción Factores que se deben tomar en cuenta para seleccionar una técnica de ER Los objetivos que se persigan con la evaluación. La madurez y entrenamiento del grupo. El tamaño del grupo. El ambiente físico. A B C D E Las características del medio externo. F Las características de los integrantes. G La idoneidad del instructor 17 Capítulo 2 La evaluación de reacción: noción de utilidad y personas involucradas Utilidad de la ER Agentes que deben participar Diversas razones explican la utilidad de una ER. Todas tienen una finalidad común: recabar información que ayude al mejoramiento de la calidad de los servicios educativos. Generalmente se piensa que quienes deben manifestar su reacción positiva o negativa, con respecto de una actividad educativa, son los participantes. Sin embargo, es muy oportuno indagar la impresión o percepción que tienen los demás agentes implicados en el desarrollo de una acción formativa: los facilitadores y los coordinadores académicos. El convalidar las diversas percepciones desde distintos ángulos disminuye la subjetividad de la evaluación y le agrega elementos de visiones compartidas. 20 Instructivo para realizar evaluaciones de reacción Utilidad de la ER En primer lugar, la ER es útil para los responsables de la capacitación. Es elemental saber cómo le pareció la actividad educativa a los participantes. Qué grado de satisfacción expresan. Pero también lo es para la institución y para otras instancias involucradas en los procesos de aprendizaje. Una primera aproximación al grado de satisfacción de los participantes presenta, de primera mano, datos acerca del funcionamiento de los procesos educativos. La utilidad de la ER puede referirse: A los participantes, por cuanto Manifiesta en qué medida consideran que el evento realizado responde a sus necesidades y expectativas. Evalúa el grado de interacciones facilitador– participantes. Evalúa la impresión de los participantes con respecto al aprendizaje adquirido. Comprueba la adecuación de los criterios de selección de los participantes. Capítulo 2. La evaluación de reacción: noción de utilidad y personas involucradas A los facilitadores y coordinadores académicos, puesto que: Proporciona información sobre los puntos fuertes y débiles del curso. Da elementos a los facilitadores para mejorar su desempeño, en términos de efectividad pedagógica. Permite confrontar los criterios aplicados para la selección de los formadores. A planificación y logística porque permite: Comprobar que el curso se desarrolló de acuerdo con la planificación establecida al inicio del proceso: número de horas, contenidos impartidos, fechas, horarios. Controlar la marcha del curso y corregir las posibles deficiencias en cuanto a metodología, actividades programadas, recursos utilizados. Disponer de elementos cuantitativos y apreciativos de los participantes para los informes requeridos por la administración y, eventualmente, tener datos estadísticos para explicar o refutar posibles manifestaciones de malestar expresadas por algún participante, después del evento. Reestructurar materiales. metodologías, didácticas, logística, 21 Instructivo para realizar realizarevaluaciones evaluacionesde dereacción reacción 22 Agentes que deben participar Una La evaluación desde la perspectiva de “los coordinadores es la que se formaliza con menos frecuencia. Es posible que esto tenga relación con el hecho de que en raras ocasiones el coordinador se involucra en el desarrollo del curso”6. Esta perspectiva, la del coordinador, resulta interesante porque: 6 Castaño Collado, Gloria, Op. Cit. evaluación externa sobre el desarrollo del evento desde diversas perspectivas y variables, suministra una visión diferente que permite confrontar o validar las percepciones de los participantes y procurar una mayor objetividad. El coordinador del evento, atento al desarrollo del mismo, percibe situaciones y deficiencias; está en contacto con los participantes y los docentes o facilitadores de quienes recibe comentarios, sugerencias, etc. Agrupar y sistematizar estas incidencias le proporciona elementos adicionales para obtener una visión más amplia. Capítulo 2. La evaluación de reacción: noción de utilidad y personas involucradas De la misma manera, solicitar que los facilitadores presenten una ER desde sus perspectivas y vivencias da un matiz de interés a esta evaluación. Cómo percibió el facilitador la dinámica del grupo, los niveles de participación, las resistencias y agendas ocultas, la logística y los horarios, los elementos que facilitaron o frenaron los procesos educativos… en fin, múltiples facetas de análisis. En conclusión, la participación de los diversos agentes en la ER presenta las siguientes ventajas: Se dan apreciaciones desde distintos puntos de vista, lo que enriquece la evaluación y la hace más ponderada. Se confrontan o corroboran percepciones desde diferentes ángulos, enriqueciendo el informe final. Se ponen de manifiesto posibles problemas identificados por todos pero analizados de forma diferente. 23 Capítulo 3 ¿Cuándo aplicar la ER? Indicaciones e instrumentos para la evaluación de reacción ¿Quién debe aplicar la evaluación? ¿Qué condiciones debe tener en cuenta el coordinador académico para realizar la ER? ¿Qué técnicas utilizar? Se describen aquí cuatro tópicos en torno al procedimiento de aplicación de la ER. 1. ¿Cuándo aplicar la ER? 2. ¿Quién debe aplicar la evaluación? 3. ¿Qué condiciones debe tener en cuenta el coordinador académico para realizar la ER? 4. ¿Qué técnicas utilizar? 26 Instructivo para realizar evaluaciones de reacción ¿Cuándo aplicar la ER? La ER ha de aplicarse, por norma general, al final de cualquier actividad educativa. A todos los agentes les interesa saber el grado reactivo que pueda motivar el buen recuerdo y la decisión de futuras participaciones de los asistentes. Sin embargo el grado de profundidad y los instrumentos utilizados en la evaluación pueden variar. No es lo mismo una actividad de capacitación Duración del evento de un día que un programa de formación que se prolongue a seis meses o un año. Si la actividad es de larga duración se puede aplicar una ER intermedia; esto permitirá rectificar durante el curso algunos tópicos que sean considerados negativos por los participantes. El siguiente cuadro puede dar una orientación en cuanto a la oportunidad de aplicación de los instrumentos. Momento de aplicar la evaluación de reacción Instrumento sugerido Más de 40 horas. A mitad del evento Al final del evento Entrevista grupal o entrevistas personales (Ver modelo 1). 24 a 40 horas Al final del evento Ver modelos 2 y 3 Menos de 24 horas Al final del evento Entrevistas Análisis en grupo Capítulo 3. Indicaciones e instrumentos para la evaluación de reacción ¿Quién debe aplicar la evaluación? Lo aconsejable es que la ER la aplique el coordinador académico. Y esto por varias razones: No está emocionalmente involucrado en las relaciones facilitador–participantes. Dispone de todos los elementos administrativos y logísticos para preparar los materiales. A C Es el responsable del funcionamiento de la actividad educativa y quien tiene que dar cuentas de éxitos y fracasos (si es que los hubiese). D Maneja o debe manejar los tiempos dentro de la agenda para darle un espacio preciso y determinado a la evaluación E Dispone de los mecanismos para estimular a los participantes y facilitadores para que participen en la evaluación, cualquiera que sea el instrumento que se aplique. B 27 28 Instructivo para realizar evaluaciones de reacción ¿Qué condiciones debe tener en cuenta el coordinador académico para realizar la ER? El coordinador académico debe: A Tener muy claro que la evaluación, en cualquiera de sus formas, es un elemento y una estrategia pedagógica. B Disponer, dentro de la agenda, de un tiempo suficiente para que los participantes puedan responder la evaluación, dependiendo del instrumento que decida aplicarse. C Preparar con anterioridad los elementos necesarios para la evaluación: fotocopias, tableros, materiales, espacios. D En todos los casos, se debe respetar la privacidad de la información recogida. La “opinión del participante” tiene toda la importancia. Es el respeto al otro, a su parecer, a su sentir. El coordinador debe propiciar el clima adecuado para que se expresen estas actitudes. Estamos encarnando valores y no sólo hablando de ellos. Capítulo 3. Indicaciones e instrumentos para la evaluación de reacción ¿Qué técnicas utilizar? Criterios para determinar las técnicas La elección va a depender de una serie de factores: Al realizar evaluaciones de reacción se pueden utilizar diferentes técnicas e instrumentos; la información obtenida será de carácter tanto cualitativo como cuantitativo y con ella se podrá ponderar la actividad realizada al igual que proyectar la calidad de los servicios educativos que presta el Instituto. Las técnicas más usadas en las evaluaciones de reacción son: • El cuestionario o encuesta • La entrevista • El análisis de verificación en grupos de trabajo Existen otras técnicas –evaluaciones vivenciales de comportamientos y actitudes manifestadas durante el curso, sesiones de grupo de trabajo proyectivo, entre otras– cuya aplicación requiere condiciones específicas tanto por parte de quien dirige la actividad de evaluación como de los participantes, por lo que no se desarrollarán en este instructivo. a)Determinar qué se persigue con la aplicación de la técnica. b) Para qué tipo de actividad se va a aplicar. Como ya se indicó, hay diferentes técnicas e instrumentos que se relacionan con la duración del evento, el tipo de participantes, los contenidos desarrollados, etcétera. c) Qué tiempo se requiere para aplicar la técnica seleccionada y asignarlo dentro de la agenda. d) Disponibilidad y cansancio percibido en los participantes: aplicado el instrumento al final, como cierre del evento, puede ser recibido de forma negativa. e) Conformación del grupo participante: ¿es homogéneo?, ¿es numeroso? (en cuyo caso podría aplicarse la prueba de manera selectiva o por muestreo). 29 Instructivo para realizar evaluaciones de reacción 30 Ventajas que presenta el cuestionario Es de rápida aplicación y la interpretación estadística cuantitativa es de fácil manejo si se utilizan respuestas cerradas. Si se añade en cada variable un espacio para ampliar el pensamiento del encuestado, la tabulación requiere mayor tiempo y sistematización. Las percepciones o comentarios abiertos generalmente expresan la razón de la calificación dada a una variable o reactivo; aunque su análisis es más dispendioso tiene un valor adicional: la frecuencia en las causas explicativas da un parámetro de interpretación más cualitativo. Primera técnica: cuestionarios Como señala Rae7, el cuestionario como técnica de evaluación ha sido injustamente denominado por algunos como “hoja de la felicidad”. Según este mismo autor “un cuestionario apropiado, utilizado y valorado de forma eficaz, puede proporcionar al formador y a la organización una revisión realista sobre la eficacia y por ende de la rentabilidad de la formación”8. Las preguntas a utilizar se pueden clasificar en cuanto a la forma y en cuanto al contenido. • En cuanto a la forma se aplican: Preguntas abiertas: se deja un espacio en blanco para la respuesta. Para ello se requiere gran claridad y precisión al preguntar. Además, el análisis y clasificación de las respuestas es exigente en cuanto a tiempo y capacidad de síntesis y agrupación por parte del analista a fin de no forzar la información. Preguntas cerradas: en donde la respuesta exige un determinado análisis interior de quien responde y se toma una decisión valorativa frente a los ítems presentados. El tipo de respuesta puede ser de: Es neutral y equitativo: todos los participantes disponen del mismo instrumento y todos tienen la posibilidad de expresar sus apreciaciones. » Elección única, por escalas numéricas o por un sí o no. » Elección múltiple. • En cuanto al contenido: Rae, L. Manual de formación de personal. Madrid, Díaz de Santos, 1994. 8 Castaño Collado, Gloria, Op. Cit. 7 Generalmente se conviene que los cuestionarios en las evaluaciones de reacción están compuestos por un conjunto Capítulo 3. Indicaciones e instrumentos para la evaluación de reacción de preguntas que hacen referencia a los distintos aspectos incidentes en la actividad educativa, tales como objetivos, contenidos, metodologías utilizadas, el docente o instructor, la gestión, entre otros. Inconvenientes o deficiencias Las encuestas cerradas restringen la expresión de los participantes. Es recomendable dejar espacios para añadir cometarios y estimular a los participantes a utilizarlos expresando sus justificaciones en torno a las calificaciones asignadas a cada reactivo. Pasos a seguir en la elaboración de un cuestionario9 • Delimitar con claridad los aspectos a evaluar, teniendo en cuenta a quién va dirigido. • Determinar a quién se va a aplicar. Si el evento ha contado con una participación muy amplia, el cuestionario debe ser muy sencillo de aplicar y responder; si se quiere utilizar un instrumento más analítico será necesario determinar una muestra significativa en donde se va a aplicar. Dado que la evaluación de reacción tiene una fuerte carga de emocionalidad, las respuestas pueden estar distorsionadas por factores como: características personales del facilitador (reacciones de emocionalidad positiva o negativa), la novedad de los recursos utilizados o las instalaciones en las que se desarrolló la actividad educativa. • Antes de aplicar el cuestionario es importante revisarlo y validarlo ya sea con un grupo de expertos en el tema y en la construcción de encuestas, ya aplicando una prueba piloto y estudiar los puntos controversiales (falta de comprensión del texto, repetición de ítems, etc.). • Aplicar el cuestionario a los participantes. El individuo puede manipular las respuestas. Falta de sinceridad. • Tabular los datos arrojados por el cuestionario. • Analizar los datos, cruzando la información entre los distintos reactivos y preparar el informe de conclusiones y recomendaciones. 9 Castaño Collado, Gloria, Op. Cit. 31 Instructivo para realizar evaluaciones de reacción 32 Condiciones que debe cumplir un cuestionario En cuanto a la presentación Presentar Que sea visualmente agradable: tipo de letra, márgenes, encuadres. Si se dejan espacios para comentarios que sean amplios y suficientes. Que tenga un encabezado claro y de ser posible con los logos de la institución. Si son varias páginas que estén engrapadas. ítems adecuados a las metas que se persiguen con la evaluación. Estudiar la conveniencia de incluir datos sociodemográficos (edad, sexo, nivel de estudios, área en donde se trabaja, etc.). Esto facilita el análisis e interpretación de la encuesta cuando los grupos son grandes y provenientes de distintas áreas o localidades. Cumplir » Que los descriptores no estén fraccionados al finalizar una página e iniciar la otra. » Que incluya un saludo al inicio y un agradecimiento al final. una perfecta ortografía y una clara redacción de los indicadores reactivos. Las incoherencias encontradas en la redacción de un cuestionario restan credibilidad al instrumento. » las normas de construcción de ítems10: Evaluar un único aspecto en cada ítem o pregunta. Las preguntas deben ser neutras, es decir, no deben inducir la respuesta. Evitar ambigüedades y dobles negaciones en la redacción. Garantizar En cuanto al contenido con claridad el objetivo de la evaluación. En cuanto al uso Reflejar en las instrucciones a quién va dirigido y cuál va a ser la finalidad de los datos recogidos. Garantizar el anonimato de los participantes. De este modo se induce a la sinceridad. Presentar de manera equilibrada y ponderada las variables que se quiere incluir. Que se pueda resolver en un lapso de 15 a 20 minutos. Más tiempo produce fatiga y pérdida de interés. Integrar Castaño Collado, Gloria, Op. Cit. 10 Capítulo 3. Indicaciones e instrumentos para la evaluación de reacción Segunda técnica: la entrevista11 Se trata de una técnica que obtiene información a través del diálogo mantenido en un encuentro formal y planeado, entre una o más personas entrevistadoras y una o más entrevistadas, en el que se transforma y sistematiza la información proporcionada por éstas, de forma que sea un elemento útil para lograr el objetivo planteado, en este caso la reacción de los agentes intervinientes en una actividad educativa. Características La entrevista plantea un tipo de relación mucho más personal entre entrevistador y entrevistado. Esta situación es ambivalente: o existe un alto grado de confianza y espontaneidad o la suspicacia y el recelo hacen dudar de la validez y limpieza de la información. Lo anterior no significa que el entrevistador deba ser amigo y tener buenas relaciones con el entrevistado. Significa crear, verbal y no verbalmente, las circunstancias para que el o los entrevistados sientan un ambiente acogedor y, sobretodo, perciban la seguridad del respeto de su apreciación y su intimidad. En diversos manuales de la serie Proyecto FortalEsDer – I.E.M.P. se hace referencia al entrenamiento que debe tener un Coordinador de eventos educativos del IEMP en técnicas como la entrevista. Aquí sólo se proponen unos elementos muy puntuales para el caso. 11 33 34 Instructivo para realizar evaluaciones de reacción Clases de entrevista Ventajas de la entrevista como instrumento para la evaluación de reacción Hay una comunicación más directa y por tanto se puede profundizar en aspectos que interesen al entrevistador. Los participantes tienen posibilidad de expresarse más amplia e informalmente. Entrevista individual: Se realiza con cada una de las personas consideradas “clave”, líder en el grupo y cuya opinión sea significativa. Al momento de elegir a este tipo de personas se puede caer en el error de entrevistar a aquellas que darán evaluaciones positivas. La gama tiene que ser variada y representativa del clima percibido durante el desarrollo del evento. Hay mayor compromiso con las valoraciones expresadas. Es posible, si se tiene gran agudeza y perspicacia por parte del entrevistador, determinar los grados de ansiedad, duda y hasta bloqueo frente a las preguntas. Inconvenientes que se pueden presentar Debido a la aparente facilidad de hacer una entrevista, el coordinador académico (entrevistador) puede tener exceso de confianza y no prepararla adecuadamente. Costosa en tiempo, recursos humanos y económicos. Entrevista grupal: Se realiza a través de una dinámica grupal donde todos los participantes o un grupo de los mismos, discuten los temas presentados por el entrevistador–moderador, siguiendo un orden de discusión sobre temáticas generalmente propositivas. Por ejemplo, “Si ustedes tuviesen que coordinar un nuevo evento como este ¿qué aspectos positivos resaltarían y qué elementos, personas, circunstancias replantearían?”. Capítulo 3. Indicaciones e instrumentos para la evaluación de reacción Condiciones básicas que el entrevistador debe tener en cuenta para desarrollar una entrevista 1. Prepararla con anticipación: el perfil del o los entrevistados: antecedentes, conocimiento, liderazgo dentro del grupo de participantes, etc. 5. Manifestar interés y respeto hacia el entrevistado. Analizar Definir objetivos, planificar la estrategia y precisar los contenidos específicos y las preguntas que se va a formular. Seleccionar Disponer Citar el lugar para celebrar la entrevista. de tiempo suficiente. con tiempo a la persona o grupo. 6. Situarse en el lugar del entrevistado (empatía). 7. Adecuar el lenguaje al nivel del entrevistado. El mensaje debe ser claro, específico, directo y sin rodeos o ambages. 8. Evitar que la respuesta se adapte a la propia pregunta. Que el entrevistado responda lo que el entrevistador quiere oír. 2. Conocer y manejar sus potencialidades y debilidades emocionales (Inteligencia Emocional). 9. Centrarse en los objetivos de la entrevista, evitar la pérdida de control, irse por las ramas o en vaguedades. 3. Crear un clima de confianza y colaboración (bajar o ablandar las defensas). 10. Confrontar con respeto y empatía (poner en evidencia las contradicciones o discrepancias). 4. Mostrar atención y saber escuchar (contenido y proceso) comunicación verbal y corporal. 11. Manifestar sinceridad genuina en lugar de astucia y sagacidad. Que el rol de entrevistador no ahogue la persona. 35 Instructivo para realizar evaluaciones de reacción 36 Ventajas del análisis de verificación en grupos de trabajo Se analiza en mayor profundidad cada uno de los elementos o variables que han incidido en el desarrollo de la actividad educativa. Se plantean alternativas y soluciones a los problemas presentados. La técnica es mucho más participativa y de discusión, lo que permite confrontar distintos pareceres. La técnica es también proyectiva, por cuanto propone nuevos caminos y posibles elementos de profundización. Trejo Jiménez, Obdulia. Las técnicas de grupo: Recopilación. 13 El Metaplán es un instrumento útil para hacer más eficaces las discusiones en grupo, de dos formas; se gana tiempo: las discusiones moderadas con Metaplán conducen, de manera más ágil, al logro de resultados. Adicionalmente, al favorecer una fuerte participación de los integrantes en los procesos grupales, se logran resultados consensuados y asumidos por todos. 12 Tercera técnica: análisis de verificación en grupos de trabajo Esta técnica se centra en el trabajo que, bajo la conducción de un moderador, desarrolla el grupo para evaluar los resultados inmediatos del evento realizado. Los participantes son invitados a expresarse de forma más amplia e informal en torno a tópicos específicos planteados por el moderador. Generalmente se solicita que el grupo formule propuestas y proyecciones para mejorar los diversos aspectos analizados y en donde se haya encontrado debilidades y deficiencias. “Buscan desarrollar en sus miembros el sentimiento del ‘nosotros’, ayudarlo a superar problemas personales, vencer inhibiciones, superar tensiones, crear sentimientos de seguridad y desarrollar capacidades de cooperación, intercambio, autonomía, creación y responsabilidad”12. Para el análisis de verificación en grupos de trabajo se recomienda ayudarse de técnicas de visualización apoyada en tarjetas13. Capítulo 3. Indicaciones e instrumentos para la evaluación de reacción Inconvenientes que se pueden presentar Toma mucho más tiempo. Si la reunión no se conduce en forma adecuada fácilmente se cae en generalidades y lugares comunes. Es una evaluación atípica por cuanto los resultados son difícilmente cuantificables y comparables con otras evaluaciones. Pasos a seguir en el análisis de verificación en grupos de trabajo En la aplicación de esta técnica, el dato es sólo un pre-texto de la discusión. El moderador de la reunión debe impulsar la discusión, invitar a la indagación, discutir y acordar sobre las causas subyacentes al dato propuesto. Como se puede apreciar, se trabaja más sobre causas y consecuencias que sobre el dato frío que arroja una encuesta. Tanto si la técnica se aplica al finalizar el evento como si se emplea en una sesión posterior, el moderador debe asegurar que: 1.Dispone de tiempo suficiente (dos horas). 2.Existe un espacio de tranquilidad para resolver y aplicar la técnica. Lo contrario hace que se pierda, en aras a la prisa, la riqueza pedagógica de la evaluación. 3.Maneja con solvencia las técnicas de visualización. 4.Plantea preguntas muy claras y apropiadas que se puedan responder brevemente. Por ejemplo: ¿Qué es lo más positivo y lo más negativo que quiere resaltar del evento?, ¿Qué aspectos se proponen para profundizar y aquellos que parecieron poco útiles?, o bien: Si usted tuviera que coordinar esa actividad educativa ¿cuáles elementos renovaría y cuáles no? 37 Capítulo 4 Presentación de los Fases en la elaboración del informe final resultados y evaluación de Estructura del informe final los instrumentos La evaluación de los instrumentos Hoy en día se puede hablar de “avaricia de la información”. Se recopila, se almacena en los computadores, se guarda en los anaqueles, pero no se usa, no se confronta, no se informa. Debe ser política del coordinador académico y de la División de Capacitación del I.E.M.P. informar a todos los agentes del programa o actividad educativa de los resultados, análisis y recomendaciones en torno a la evaluación realizada. 40 Instructivo para realizar evaluaciones de reacción Fases en la elaboración del informe final Para la su elaboración se distinguen cuatro fases bien diferenciadas: • Procesamiento de la información. Para realizarlo se utilizarán todos los recursos tecnológicos al alcance: bases de datos, lectora óptica, escáner, entre otros. • Análisis de la información tabulada. Los datos son cifras “en salmuera”. En el análisis de los mismos reside la riqueza de la evaluación: el análisis estadístico, los cruces con diversas variables o reactivos manifiestan su valor. El análisis debe guardar imparcialidad y objetividad frente a los datos obtenidos. • Presentación de resultados: Se presentarán de forma individualizada y en comparación con otros datos. Deben recoger aspectos cuantitativos y cualitativos. Se utilizarán gráficos y tablas que permitan identificar fácilmente los resultados. Se presentarán los puntos fuertes y débiles de la actividad educativa. • Conclusiones y recomendaciones: Esta fase resume las conclusiones más relevantes de la actividad educativa y las recomendaciones orientadas a subsanar deficiencias que se haya detectado así como las mejoras propuestas por los diversos agentes involucrados: participantes, facilitadores, coordinadores y otras personas que hayan intervenido en la evaluación. Capítulo 4. Presentación de los resultados y evaluación de los instrumentos Estructura del informe final Se recomienda que este documento tenga la siguiente estructura: • Resumen: breve descripción aspectos más relevantes. de los • Palabras clave o descriptores: relación de aquellos términos que identifiquen rápidamente el contenido del informe elaborado. • Análisis e interpretación de los datos. En este apartado se especifican: La ficha técnica: » Nombre del evento » Número de personas participantes en la evaluación: i. Participantes ii. Facilitadores iii.El coordinador académico iv. Otras personas intervinientes v. Técnica utilizada: (se adjuntará un ejemplar de la misma como anexo) Resultados obtenidos: i. Descripción ii. Presentación de los gráficos Análisis de los resultados obtenidos • Conclusiones y recomendaciones 41 Instructivo para realizar evaluaciones de reacción 42 La evaluación de los instrumentos Los instrumentos –especialmente si se trata de encuestas– deben revisarse con cierta periodicidad (cada dos años) para incluir aquellos ítems que han parecido oportunos durante su aplicación. Esta revisión y actualización sirve también para evitar que se desgaste y pierda el interés de los participantes que ya han intervenido varias veces en actividades educativas. Es oportuno que la División de Capacitación y sus integrantes efectúen periódicamente un análisis de la calidad del procedimiento empleado para evaluar la satisfacción de los agentes involucrados en las actividades educativas que realice el I.E.M.P. Las siguientes preguntas pueden servir como pistas para este análisis14: ¿Cuáles son los objetivos que se pretende conseguir evaluando la satisfacción del cliente? ¿Qué procedimiento se ha empleado para definir los parámetros clave que especifican la calidad del producto/ servicio? ¿Se ha contado con información por parte de los participantes para definir los parámetros clave? 14 Castaño Collado, Gloria, Op. Cit. ¿Qué relación tiene esta evaluación con el resto de acciones relacionadas con el participante? Capítulo 4. Presentación de los resultados y evaluación de los instrumentos ¿El cuestionario cubre realmente todos los parámetros clave que definen la reacción del participante frente a la actividad educativa? ¿Son suficientemente claras y concisas las preguntas del cuestionario? ¿Se ha hecho un análisis estadístico para definir la cantidad mínima de encuestas que se requiere para evaluar adecuadamente cada actividad educativa? (Tamaño de muestra). ¿Se ha desarrollado un análisis estadístico para validar la confiabilidad, es decir, la validez de la información recogida? ¿Se han empleado análisis estadísticos para validar los cuestionarios antes de su uso masivo? ¿Se desarrollan análisis a lo largo del tiempo para estudiar la evolución de la reacción de los participantes en otras actividades educativas o programas? ¿Se están empleando otras fuentes de información además de los cuestionarios para evaluar la reacción del participante? 43 Capítulo 5 Anexo 1. Formatos para los participantes Anexos Anexo 2. Formato para recabar información por parte del facilitador, docente o tutor Este capítulo presenta tres tipos de encuesta aplicados en diversos escenarios. Se presenta también un formato modelo para recopilar información de la actividad educativa por parte del docente o instructor. Los formatos no pretenden ser restrictivos ni acabados; a manera de guía, su utilización, adecuación y ajuste a cada actividad específica será una labor que deba acometer el coordinador académico en cada caso. 46 Instructivo para realizar evaluaciones de reacción Formatos para los participantes A continuación se presentan tres modelos de encuesta que han sido aplicados en diversos escenarios para obtener información sobre la reacción de los participantes en actividades educativas. Corresponderá al coordinador o responsable de cada actividad adecuarlos según los parámetros indicados a lo largo de este instructivo. Instrucciones de uso para los modelos 1 y 2 Cuándo aplicarlo Modelo 1 Modelo 2 Grado de profundidad A quién aplicarlo Requisitos Eventos de larga duración (más de 40 horas) Amplio (incluye varios reactivos para cada ítem) A todo el grupo si éste es reducido (20 a 40 personas). Aleatoriamente, si el grupo es mayor Tiempo: media hora. Eventos de corta duración (8 a 24 horas) Medio (mezcla de preguntas abiertas y cerradas) A todo el grupo si éste es reducido (20 a 40 personas). Tiempo: quince minutos. Aleatoriamente si el grupo es mayor Ambiente: tranquilo, no al final de la actividad, cuando todos quieren terminar Ambiente: se debe motivar al grupo a expresar su valoración de manera concreta Capítulo 5. Anexos Modelo 1 INSTITUTO DE ESTUDIOS DEL MINISTERIO PÚBLICO NOMBRE DE LA ACTIVIDAD EDUCATIVA: ___________________________________________________________ VALORACIÓN DE LA REACCIÓN DE LOS PARTICIPANTES Apreciado participante: Gracias por haber hecho parte en esta actividad educativa. El formato que se presenta a continuación pretende recolectar información pertinente sobre la actividad que se ha llevado a cabo; su finalidad es evaluar algunos componentes del proceso de enseñanza–aprendizaje. La información recolectada se considera muy valiosa para el ajuste y mejoramiento en los procesos de formación y capacitación que adelanta la institución. Tenga en cuenta que esta información sólo será empleada para cumplir con este objetivo de tipo académico y que es totalmente anónima. Agradecemos de antemano su disponibilidad para responder las preguntas. Si tiene comentarios no dude en agregarlos en los espacios reservados al final de cada ítem. COMPONENTES Y PREGUNTAS Nota. A no ser que se dé una instrucción diferente, cada pregunta tiene como opciones de respuesta las siguientes: 1. ALTA o EXCELENTE, si su calificación está entre 90 a 100 PUNTOS 2. BUENA, si su apreciación oscila entre 60 a 90 PUNTOS 3. REGULAR, si la calificación se ubica por el nivel de 50 PUNTOS 4. BAJA, para una estimación entre 30 y 50 PUNTOS 5. MUY BAJA, inferior a los 30 PUNTOS 6. No responde 47 48 Instructivo para realizar evaluaciones de reacción Modelo 1 1. Con respecto de los objetivos de aprendizaje de la actividad educativa Se pretende aquí medir en qué grado se cumplieron, la claridad de su planteamiento, la concordancia con los contenidos del curso, cumplimiento mediante cada actividad específica desarrollada y el grado en el cual su motivación de participar en el evento se mantuvo, una vez usted los conoció. Respecto a los objetivos del proceso de aprendizaje, usted considera que: LOS OBJETIVOS Alta Buena Regular Baja Muy baja No opino 1.1. ¿Los objetivos de aprendizaje fueron planteados claramente al inicio de la actividad? 1.2. ¿Su motivación para participar en la actividad se mantuvo una vez conoció los objetivos? 1.3. ¿Los objetivos formulados estuvieron acordes con los contenidos desarrollados? 1.4. ¿Se cumplieron los objetivos a lo largo de las actividades desarrolladas? Sus comentarios: _____________________________________________________________________________________________ _____________________________________________________________________________________________ _____________________________________________________________________________________________ _____________________________________________________________________________________________ _____________________________________________________________________________________________ _____________________________________________________________________________________________ _____________________________________________________________________________________________ Capítulo 5. Anexos Modelo 1 2. Contenidos desarrollados en el evento Se evaluarán aspectos como correspondencia con los objetivos generales y específicos de la actividad, concordancia con las expectativas del participante, pertinencia con relación a las actividades del trabajo diario de quienes participaron, extensión, profundidad, actualización, materiales entregados y aplicabilidad de los contenidos desarrollados al campo laboral de cada uno de los participantes. Con relación a los diferentes contenidos de esta actividad, usted considera que: LOS CONTENIDOS Alta Buena Regular Baja Muy baja No opino 2.1. Los contenidos respondieron siempre al cumplimiento de objetivos claros planteados con anterioridad. 2.2. Los contenidos desarrollados respondieron a sus expectativas. 2.3. Los contenidos estaban relacionados con su ámbito de trabajo. 2.4. La extensión de los contenidos fue suficiente para un adecuado desarrollo de los mismos. 2.5. La profundidad con que se desarrollaron los contenidos propuestos fue suficiente para una buena adquisición de conocimientos. 2.6. Los contenidos presentados fueron suficientemente actualizados para adquirir nuevos conocimientos. 2.7. Los contenidos planteados fueron desarrollados en su totalidad. ¿Tiene alguna sugerencia? _____________________________________________________________________________________________ _____________________________________________________________________________________________ _____________________________________________________________________________________________ _____________________________________________________________________________________________ _____________________________________________________________________________________________ 49 50 Instructivo para realizar evaluaciones de reacción Modelo 1 3. Metodología aplicada Se pretende medir la pertinencia de la estrategia seleccionada, concordancia entre la estrategia propuesta y la aplicada efectivamente; apoyo de medios audiovisuales u otros medios para el desarrollo de la actividad, apoyo locativo para una adecuada aplicación de la estrategia metodológica seleccionada. Para las siguientes preguntas, por favor seleccione la opción de respuesta con la cual se sienta más identificado. LA METODOLOGÍA Alta Buena Regular Baja Muy baja No opino 3.1. La estrategia metodológica aplicada para el desarrollo de la actividad fue: 3.2. La correlación entre la estrategia metodológica propuesta y la aplicada fue: 3.3. La metodología aplicada en la actividad estuvo apoyada por medios audiovisuales y técnicos en una forma: 3.4. La ubicación y disposición del lugar donde se realizó la actividad facilitó la aplicación de la estrategia metodológica en una forma adecuada. ¿Qué aspectos desea resaltar en torno a las metodologías? _____________________________________________________________________________________________ _____________________________________________________________________________________________ _____________________________________________________________________________________________ _____________________________________________________________________________________________ _____________________________________________________________________________________________ _____________________________________________________________________________________________ _____________________________________________________________________________________________ Capítulo 5. Anexos Modelo 1 4. El docente, facilitador o tutor Este ítem de recolección evalúa aspectos del trabajo del docente. Con relación al docente de esta actividad, usted considera que: Alta 4.1. Su actualización sobre el tema es: 4.2. La claridad con que plantea los temas es: 4.3. Su dominio en el manejo de los temas de cada actividad es: 4.4. Facilitó el diálogo y la discusión en grupo en una forma: 4.5. La secuencia con que presentó los temas fue: 4.6. La coherencia de los temas desarrollados con los objetivos de la actividad fue o estuvo: 4.7. Usted considera que el uso de ayudas didácticas fue: 4.8. La administración del tiempo para desarrollar los contenidos de la actividad fue: 4.9. Los materiales de apoyo docente estuvieron siempre presentados en una forma: 4.10. La disposición del docente para atender las dudas de los participantes fue: 4.11. Usted puede calificar la evaluación hecha por el docente sobre los procesos de aprendizaje de los participantes como: 4.12. En general el docente facilitó la participación y aprendizaje de los participantes de una manera adecuada. Buena Regular Baja Muy baja No opino 51 52 Instructivo para realizar evaluaciones de reacción Modelo 1 5. Gestión La información recolectada con relación a la gestión del proceso de aprendizaje permitirá a quienes manejan los programas educativos hacer los ajustes necesarios sobre cada actividad particular propuesta, de tal forma que éstas sean desarrolladas con base en las experiencias pasadas buscando siempre mejores resultados en el proceso de aprendizaje de los participantes. LA GESTIÓN Alta Buena Regular Baja Muy baja No opino 5.1. Con relación a la actividad desarrollada, usted considera que la información previa que recibió fue: 5.2. La oportunidad con que se realizó la convocatoria para participar fue: 5.3. El lugar donde se desarrolló la actividad fue: 5.4. La entrega de materiales de apoyo (fotocopias y otros elementos) fue: 5.5. El horario propuesto fue adecuado para los participantes. 5.6. El cumplimiento de las actividades propuestas tuvo un seguimiento oportuno por parte de la coordinación. 5.7. Usted calificaría el acompañamiento de la coordinación del evento en las labores propias de la actividad como: ¿Desea anotar algún comentario? _____________________________________________________________________________________________ _____________________________________________________________________________________________ Capítulo 5. Anexos Modelo 1 6. Evaluación global 6.1. A nivel personal. Para responder esta pregunta, seleccione una de las opciones dadas. En general con esta actividad, usted considera que aprendió: 1. Muy poco 2. Lo suficiente 3. Mucho 4. Mucho más de lo que esperaba ( ( ( ( ) ) ) ) 6.2. A nivel del grupo Usted considera el trabajo del grupo en los siguientes aspectos como: Alta Buena Regular Baja Muy baja No opino 6.2.1 Desempeño del grupo en cuanto a la adquisición de conocimientos. 6.2.2 Actitud del grupo para el buen desarrollo de la actividad. 6.2.3 ¿En qué medida el interés particular de los participantes facilitó las discusiones en grupo? 6.2.4 Considera usted que la motivación del grupo para realizar actividades posteriores de capacitación que permitan ampliar los temas tratados es: 6.2.5 ¿En qué grado considera usted que los aprendizajes adquiridos se verán reflejados en el desempeño laboral? Agradecemos sus comentarios generales en torno a la actividad educativa. MIL GRACIAS. 53 Instructivo para realizar evaluaciones de reacción 54 INSTITUTO DE ESTUDIOS DEL MINISTERIO PÚBLICO Modelo 2 NOMBRE DE LA ACTIVIDAD EDUCATIVA: ___________________________________________________________ EVALUACIÓN PROSPECTIVA Y DE COMPROMISOS Apreciado participante: Gracias por haber participado en este evento. Para finalizarlo queremos solicitar sus apreciaciones con respecto al mismo. Ellas nos servirán para valorar nuestra acción, evaluar los aciertos y las fallas y, desde luego, mejorarlo para futuras actuaciones. Agradecemos sus apreciaciones objetivas y sinceras. COMPONENTES Y PREGUNTAS 1. El evento me sirvió para: __________________________________________________________________________________________________ __________________________________________________________________________________________________ __________________________________________________________________________________________________ __________________________________________________________________________________________________ 2. Los tres principales aprendizajes derivados de este evento son: 1- __________________________________________________________________________________________ 2- __________________________________________________________________________________________ 3- __________________________________________________________________________________________ 3. Mis tres compromisos concretos van a ser: 1- __________________________________________________________________________________________ 2- __________________________________________________________________________________________ 3- __________________________________________________________________________________________ Capítulo 5. Anexos Modelo 2 4. Tres beneficios de este evento para el área o dependencia en la que laboro son: 1- __________________________________________________________________________________________ 2- __________________________________________________________________________________________ 3- __________________________________________________________________________________________ 5. Su opinión acerca del grupo con el que participó en el evento: __________________________________________________________________________________________________ __________________________________________________________________________________________________ __________________________________________________________________________________________________ __________________________________________________________________________________________________ 6. El docente, facilitador o tutor NOMBRE DEL DOCENTE: _____________________________________________________________________________ Menos 1 2 3 Más 4 Dominio del tema (conocimientos y actualización) Calidad de la exposición (orden y presentación) Utilización de ayudas didácticas (presentaciones en videobeam, paneles, etc.) Utilización de técnicas didácticas (talleres, casos, ejemplos e ilustraciones) Actitud ante el grupo Administración del tiempo ¿Algún comentario? _____________________________________________________________________________________________ _____________________________________________________________________________________________ _____________________________________________________________________________________________ _____________________________________________________________________________________________ 5 55 56 Instructivo para realizar evaluaciones de reacción Modelo 2 7. Los aprendizajes ¿En qué grado considera usted que los conocimientos y habilidades adquiridos durante el evento le sirven para el mejoramiento de sus comportamientos en el ambiente de su área o dependencia? 20 % ( ) 50 % ( ) 70 % ( ) 80 % ( ) más del 80% ( ) Comente su respuesta: 8. En relación con este evento, sugiero lo siguiente para un mejoramiento y excelencia en resultados: __________________________________________________________________________________________________ __________________________________________________________________________________________________ __________________________________________________________________________________________________ __________________________________________________________________________________________________ 9. Los materiales de apoyo: Considera usted que los materiales: Menos 1 Fueron adecuados para el logro de los objetivos. Le fueron de utilidad para su propio conocimiento y desarrollo. Le servirán para seguir analizando y profundizando sus aprendizajes. Están bien presentados. 2 3 Más 4 5 Capítulo 5. Anexos Modelo 3 El formato “A” se aplica al iniciar el evento y sirve como punto referencial para confrontar con los resultados obtenidos al aplicar los formatos “B” y “C”. El formato “D” está dirigido específicamente a que los participantes evalúen la acción del facilitador o docente. Modelo 3. Formato A. Actitudes y creencias 1. Marque con una X los enunciados con los cuales está muy de acuerdo. ____ ____ ____ ____ ____ ____ a. Estoy ansioso de asistir a este curso. b. Me enviaron a este curso pero no estoy seguro si es necesario. c. El tema de este curso puede ser una pérdida de tiempo y esfuerzo. d. En este momento no tengo ninguna opinión. e. Creo que este curso me ayudará a cumplir mejor mi trabajo. f. Otros. 2. Marque con una X las palabras que mejor describen su estado de ánimo y sus expectativas con este curso ____ entusiasmado ____ descontento ____ aburrido ____ interesado ____ ansioso ____ dudoso ____ contento ____ sospechoso 3. Me gustaría que en este curso ocurriera lo siguiente: __________________________________________________________________________________________________ __________________________________________________________________________________________________ __________________________________________________________________________________________________ __________________________________________________________________________________________________ 57 58 Instructivo para realizar evaluaciones de reacción Modelo 3. Formato B. Apreciación del curso Hasta qué punto usted está de acuerdo o en desacuerdo con los siguientes enunciados. Encierre en un círculo el número apropiado. Total desacuerdo 1 2 3 Muy de acuerdo 4 1. El curso fue bien organizado 2. Los objetivos fueron apropiados 3. Los temas fueron importantes 4. Las clases fueron interesantes 5. Lástima tan poco tiempo 6. Los documentos entregados fueron útiles 7. Las ayudas visuales contribuyeron a mi aprendizaje 8. Las actividades prácticas ayudaron a clarificar el contenido 9. Me sentí libre para preguntar y cuestionar 10. El trabajo de grupo con los compañeros me ayudó a comprender varios temas 11. La evaluación fue justa 12. Otros. Me permito sugerir los siguientes cambios al evento. _____________________________________________________________________________________________ _____________________________________________________________________________________________ _____________________________________________________________________________________________ _____________________________________________________________________________________________ _____________________________________________________________________________________________ _____________________________________________________________________________________________ 5 Capítulo 5. Anexos Modelo 3. Formato C. Cuestionario complementario El cuestionario que sigue se refiere al curso que usted acaba de finalizar. Brevemente responda las siguientes preguntas: 1. ¿El curso fue valioso para usted? ¿Por qué? __________________________________________________________________________________________________ __________________________________________________________________________________________________ 2. ¿Qué temas fueron los más importantes para usted? ¿Por qué? __________________________________________________________________________________________________ __________________________________________________________________________________________________ 3. ¿Usted recibió la necesaria atención del profesor durante su trabajo? ¿Por qué? __________________________________________________________________________________________________ __________________________________________________________________________________________________ 4. ¿El desarrollo de las actividades del curso le facilitó el aprendizaje? ¿Por qué? __________________________________________________________________________________________________ __________________________________________________________________________________________________ 5. ¿Sus trabajos en el curso fueron evaluados con objetividad y justicia? ¿Por qué? __________________________________________________________________________________________________ __________________________________________________________________________________________________ 6. ¿Los temas tratados tienen aplicación directa con los cometidos de su área de trabajo? __________________________________________________________________________________________________ __________________________________________________________________________________________________ 59 60 Instructivo para realizar evaluaciones de reacción Modelo 3. Formato D. Apreciación del profesor por el participante Califique la actuación del instructor, encerrando un número con un círculo: Bajo 1 2 3 Alto 4 1. Mostró entusiasmo por los temas 2. Hizo los temas interesantes y fáciles de entender 3. Hizo buen uso de ejemplos y ayudas audiovisuales 4. Fue un buen asesor durante las aplicaciones prácticas 5. Hizo uso adecuado del tiempo de clase 6. Estimuló la participación de los participantes 7. Mostró respeto y aprecio por los participantes 8. Mostró dominio de los temas del curso 9. Suministró información muy útil y oportuna ¿Algún comentario? _____________________________________________________________________________________________ _____________________________________________________________________________________________ _____________________________________________________________________________________________ _____________________________________________________________________________________________ _____________________________________________________________________________________________ _____________________________________________________________________________________________ 5 Capítulo 5. Anexos Formato para recabar información por parte del facilitador, docente o tutor INSTITUTO DE ESTUDIOS DEL MINISTERIO PÚBLICO NOMBRE DE LA ACTIVIDAD EDUCATIVA: ___________________________________________________________ EVALUACIÓN DE RESULTADOS (Apreciación del instructor) Gracias por haber participado en este evento. Al finalizarlo queremos solicitar sus apreciaciones con respecto al mismo. Ellas nos servirán para valorar nuestra acción, evaluar los aciertos y las fallas y, desde luego, mejorarlo para futuras actuaciones. Agradecemos sus apreciaciones objetivas y sinceras. 1. Los Aprendizajes 1.1. Los tres principales aprendizajes que usted espera que los participantes hayan obtenido son: a. _____________________________________________________________ b. _____________________________________________________________ c. _____________________________________________________________ 1.2. ¿En qué grado considera usted que los participantes al evento afianzaron sus competencias para el mejoramiento de sus actuaciones en la institución? 20% ( ) 50% ( ) 70% ( ) 80% ( ) más del 80 % () ¿Con base en qué criterios sustenta sus apreciaciones? __________________________________________________________________________________________________ __________________________________________________________________________________________________ 61 Instructivo para 62 realizar evaluaciones de reacción 2. Tres beneficios de este evento para la institución a. _____________________________________________________________ b. _____________________________________________________________ c. _____________________________________________________________ 3. Logística Bajo Cómo califica usted: 1 2 3 Alto 4 5 1. La organización del evento 2. La distribución de los horarios 3. Los equipos y ayudas audiovisuales: * Suficientes * Oportunos 4. La atención y apoyo brindados por los funcionarios en donde se desarrolló el evento 5. Los servicios de alimentación 6. Las instalaciones (adecuadas, cómodas, amplias, ventiladas, etc.) ¿Algún comentario? Sugerencias para mejorar la planeación, realización y evaluación de eventos futuros _____________________________________________________________________________________________ _____________________________________________________________________________________________ _____________________________________________________________________________________________ _____________________________________________________________________________________________ _____________________________________________________________________________________________ _____________________________________________________________________________________________ Mil gracias. Nombre ____________________________________________ 63 Bibliografía consultada Ardens, Richard I. Aprender a enseñar. Mc Graw Hill, séptima edición, 2007. Castaño Collado, Gloria. Evaluación de las Reacciones de los Programas de Formación. Departamento de Psicología diferencial y del trabajo. Universidad Complutense de Madrid, Castillo Arredondo, Santiago (Coordinador). Compromisos de la evaluación educativa. Prentice, 2002. Díaz-Barriga Acero, Frida y Hernández Rojas, Gerardo. Estrategias docentes para un aprendizaje significativo. Mc Graw Hill, 2ª. Edición, 2002. Insuati, Luis Delfín. Manual del subsistema de evaluación para I.E.M.P. 2007. Consultoría GTZ. 64 DIAGNÓSTICO DE NECESIDADES Inicio Inicio DISEÑO CURRICULAR PLANEACIÓN Inicio Inicio Causasquegeneran solicitudes �Poráreas �Porniveles �Cobertura(central, territorial �Población �Presupuesto �Definirmodalidades Cambios normativos Programarladetección denecesidadesde capacitación Recibirsolicitudesde capacitación Asignarcoordinador académico Realizardiagnóstico Seleccionarmetodología dedetecciónde necesidadesde capacitación Serealiza lacapacitación solicitada? Realizarladetecciónde necesidadesde capacitación No Sí Informaralsolicitante Realizardiagnóstico Presentar proyección de actividades Identificación dedebilidades institucionales Estudiar ofertas académicas Reprogramarplande capacitación Definirparaelprograma académico Evoluciónde unprograma querequiere avances Asignarrecursosdel Presupuesto Identificarcontenidos Decisión Gerencial (coyuntura país) AjustarelPlanTrienal deCapacitación Organizarcontenidos No Evoluciónen desarrollode funciones misionales FormularPOAdela DivisióndeCapacitación Seaprueba laestructura? Asignarcoordinador �Pertinenciaestratégica Cargadecapacitaciónde lagente �Poblaciónobjeto(cantidad, cargo,ubicación) �Priorización �Análisisdeantecedente �Propósito �Frecuenciadesolicitud Sí ElConsejo Académicoaprobóel POA? Construirobjetivos especificos No Planeaci[on AjustarelPOA Sí Identificarcompetencias Determinarperfildelos docentes Divulgaryejecutarel POA Divulgaryejecutarel POA �Justificación �Propósito �Plandeestudios �Poblaciónsujeto �Metodología �No.deeventos �Cronograma Registrarprogramasen elmoduloderegistroy control PRODUCTO SABANA DEPURADA (Solo listado) PRODUCTO POA PLAN TRIENAL Diseño Curricular DesarrollarGuíade Aprendizaje Seleccionar participantes PRODUCTO PROGRAMA: logístico administrativo CURRÍCULO: parte académica (propuesta) Guía Didáctica Visión Panorámica del evento A �Visióndeutilidad �Objetivo �Indicadores ALISTAMIENTO EJECUCIÓN A Seleccionar formadores 2 Inicio Existen funcionariosque puedan participarcomo docentes? Organizar logística del evento Realizar Externamente Inicio Contextualizar docente solicitar desarrollo de la Guía Didáctica Convenios Contratación Sí Acordardisponibilidad Siquieren Sipueden Silosdejan dad ContrataciónDirecta Serequieren desplazamientos oviáticos? No Huboacuerdocon los funcionarios? �Verificarlaausenciade expertoenlaEntidad. �Evaluarhojadevidade almenos3expertos: Experienciadocente. Experienciaprofesional específica Estudios(pregrado- postgrado) Publicaciones �Gestionarentregade documentosporparte decontratistas. Sí No No Solicitar comisión para docentes, cooperadores y/o participantes Verificarausenciade expertoenlaentidad Sí Enviar comunicación a ciudad sede de la actividad 2 1 Verificar cumplimiento Ejecución Solicitarmateriala docentes Alistarmaterialpara participantes �Realizarestudiode mercado �Evaluartrayectoria (temática,gradode profundizacióndela ofertaeneltema específico) �Ajustedelprogramacon baseenelpresupuesto disponibleyelresultado delestudiodemercado (ajustealPOA) �Realizarestudioprevio porpartedecada coordinadoracadémico (análisisdeoportunidad yconvivencia) Elaboraractade compromiso �Objetivogeneral �Programas �Presupuesto �SolicitarCDP �Elaborarregitro presupuestal Elaboraractade programación INTERNAMENTE �Determinarfactoresde evaluacióndeoferentes (desdelotécnicoylo económico)dentrode lospliegosde condiciones (metodología,evaluación delacapacitación propuesta). Ajustarcontenidos No Hacerestudioprevio Licitaciónpública �Informaactividad �Hacerequerimientos (lugar,ayuda,logística, etc.) �Solicitahacerla convocatoria �Objetivogeneral �Objetivosespecíficos �Programas Seapruebala GuíaDidáctica? No Sí Ajustar la Guía Didáctica Hacer la convocatoria INICIODELCURSO Realizar sesión introduct (aplicar evaluación diagnóstica) Solicitarpolizás Desarrollar actividade programadas Estudioprevio PRODUCTO: Estudio Previo Prepliego Pliego definitivo Concretarcondocentes tiemposespaciosy responsabilidades Efectuarpago anticipado Seguimiento y Evaluaci Aperturaycierre 1 Notificarparticipación deldocente �Comité: Financiera Jurídica Técnica Evaluaciónde propuestas PRODUCTO: Informe Adjudicacióndel contrato Alistamiento PRODUCTO: Convenios Contratos PRODUCTO: Auto comisorio Viáticos y tiquete PRODUCTO Guía didáctica aproba SEGUIMIENTO EJECUCIÓN Inicio EVALUACIÓN A Inicio B 6mesesdespúes Contextualizar docentes y solicitar desarrollo de la Guía Didáctica Hacer seguimiento académico Seapruebala GuíaDidáctica? Elaborar cumplido a satisfacción Presentar resultados Verificar pago final Incluirinformación enelsistema Aplicarevaluaciónde transferencia LaGuía Didácticarequiere ajustes? Elaboraracta final No Sí í Ajustar la Guía Didáctica �Verificarel cumplimientodel currículoenobjetivo, contenido, metodología �Mediante: Evaluaciónde aprendizaje Evaluacióndereacción Reuniones Entrevistas No Elprogramaacadémico serepiteyrequiere modificaciones? Solicitaraldocente ajustarlaGuíade Aprendizaje Archivo Sí Hacer la convocatoria Aplicarevaluaciónfinal dereacciónadocentes yparticiapntes (Ajustarelcurrículo) DiseñoCurricular INICIODELCURSO Realizar sesión introductoria (aplicar evaluación diagnóstica) Desarrollar actividades programadas Serequiere seguimiento administrativo externo? No Sí �Verificarel cumplimientodelas obligacionesdel contratoensus aspectosadministrativos yfinancieros. Hacerseguimiento administrativoexterno Hacerseguimiento administrativointerno �Verificar: Desplazamientos Pagodeviáticos Asistencia(listados) Logística Prepararcertificaciones Elaborarinforme degestiónanual Fin Suscribirdiplomas Seguimiento y Evaluación Sehancumplido lasobligaciones? Aplicarevaluación finaldereacción No Hacerllamados deatención PRODUCTO Guía didáctica aprobada Aplicarevaluaciónde aprendizaje Sí Elaborarinforme parcial Solicitarinformación financiera Elaborarcumplido parcial Elaborarinformefinal A B PRODUCTO Informe final Cumplido a satisfaccióvn Acta de liquidación del contrato No