¿CÓMO INTERPRETAR LA EVALUACIÓN PRUEBAS SABER ? ∗ ∗ La elaboración de este texto estuvo a cargo de Héctor Gabriel Fernández Gómez, profesional especializado de la Sub-dirección de Estándares y Evaluación, Ministerio de Educación Nacional. Se agradecen las observaciones y comentarios de varios profesionales del Icfes y el apoyo de Mariana Schmidt en la edición final del documento. ¿Cómo interpretar la evaluación Pruebas Saber? Junio 4 de 2005 Tabla de contenido Introducción 3 Lo que se ha hecho en el país en materia de evaluación de estudiantes 4 Las Pruebas Saber, orientaciones para su análisis, interpretación y uso 9 Resultados por niveles de logro 10 Resultados por puntaje promedio y dispersión 18 Resultados por componentes del área 21 Resultados por frecuencia de respuesta 26 Algunas orientaciones de uso de los resultados de las Pruebas Saber para los principales usuarios 27 Consideraciones finales 30 Lo que sigue 31 Bibliografía recomendada 32 2 ¿Cómo interpretar la evaluación Pruebas Saber? Junio 4 de 2005 Introducción Es función principal de la evaluación en la educación orientar y apoyar las acciones de mejoramiento de la calidad mediante la obtención, análisis e interpretación de información válida y confiable. En efecto, una adecuada evaluación, que tome en consideración los avances de las ciencias de la cognición, de la pedagogía y de la administración, aporta elementos para la acertada toma de decisiones en los y las distintos ámbitos del quehacer educativo: los procesos de enseñanza-aprendizaje, la formulación de políticas, programas y proyectos, la asignación de recursos y el perfeccionamiento de los procesos curriculares, pedagógicos y de gestión. Durante mucho tiempo la gestión de la educación en Colombia desaprovechó las bondades que ofrece la evaluación para mejorar la calidad, limitándose a señalar los estudiantes buenos y los malos, determinar quiénes serían o no promovidos al siguiente grado, imponer castigos y así servir de instrumento de poder al servicio de los y las docentes. En el mejor de los casos, la evaluación fue utilizada para establecer qué tantos conocimientos disciplinares retenían los estudiantes en un determinado momento. Por fortuna el país cuenta hoy en día con un Sistema Nacional de Evaluación de la Educación que cumple funciones orientadoras para el mejoramiento continuo de la calidad de la educación. En este sentido, se ha avanzando sustancialmente en los últimos años en la evaluación de (1) las instituciones educativas, (2) los docentes y directivos docentes y (3) los y las estudiantes. Así, por ejemplo, “desde 1997, se ha venido implementando en las instituciones educativas, la autoevaluación institucional en torno del PEI, como un mecanismo autorregulador sobre las metas alcanzadas, de acuerdo con los objetivos propuestos en cada uno de sus componentes: directivo, administrativo, pedagógico y de proyección a la comunidad. Los planes de mejoramiento anual, fundamentados en el análisis de los resultados logrados por la institución en su auto-evaluación, en un año lectivo, se convierten en estrategias renovadoras de la vida de la organización. La institución es el contexto en el que se materializan los objetivos de aprendizaje y de desarrollo de los estudiantes, docentes y directivos”1. A su vez, la evaluación de docentes que viene adelantándose en el país hace varios años y de distintas maneras, fue revisada ampliamente y así se ha establecido llevarla a cabo de manera continua y estructurada, de tal suerte “que aporte significativamente al mejoramiento de los procesos de aula y al perfeccionamiento profesional”2. Algo similar ha acontecido con la evaluación de directivos docentes, tomando en consideración que “el desempeño del directivo incide de manera definitiva en el desarrollo del PEI, la aplicación las políticas nacionales y regionales, el clima organizacional, el trabajo en equipo, la mediación en los conflictos, la participación de toda la comunidad, la articulación con el sector productivo y el cumplimiento de normas”3. 1 Ministerio de Educación Nacional (2003) Manual de evaluación del desempeño de docentes y directivos docentes. Decreto 2582, Septiembre 12 de 2003. Guía No. 3. MEN. Bogotá, pág. 6. 2 Id., pág. 7 3 Ibid. 3 ¿Cómo interpretar la evaluación Pruebas Saber? Junio 4 de 2005 En lo referente a la evaluación de los estudiantes, en la cual se centra esta parte, cabe anotar que viene posicionándose en Colombia como una herramienta vital que forma parte integral del proceso educativo en tanto suministra al estudiante información precisa sobre los aspectos de su formación y componentes de las distintas áreas del plan de estudios en los que debe mejorar; indica al maestro los cambios que debe realizar, con el fin de mejorar sus métodos y estrategias pedagógicas; orienta a los padres de familia en su rol de apoyar la educación de sus hijos; provee información válida y confiable sobre los avances de las y los estudiantes en sus procesos de formación, para que la institución educativa realice ajustes a su PEI, formule y ejecute su plan de mejoramiento; permite a las Secretarías de Educación departamentales y municipales focalizar sus acciones de apoyo para mejorar la calidad del servicio, y orienta a los entes de dirección sectorial en la toma de decisiones para la formulación y reorientación de las políticas encaminadas garantizar a la población una educación mejorada. Para explicar lo anterior, los apartados de este documento tienen la intención de brindar a los diferentes agentes de la educación (padres de familia, estudiantes, docentes y directivos de las instituciones educativas; funcionarios directivos y técnicos del sector educativo, investigadores y demás personas naturales y jurídicas interesadas en realizar acciones para mejorar la calidad de la educación) algunas orientaciones para analizar, interpretar y utilizar los resultados de la evaluación Pruebas Saber. No obstante, antes de entrar de lleno en ello se hará un breve recorrido sobre las distintas evaluaciones de estudiantes realizadas en el país. Lo que se ha hecho en el país en materia de evaluación de estudiantes Una de las dificultades presentes a lo largo de la historia del sistema educativo colombiano ha sido la falta de información válida y confiable requerida en el diseño y ejecución de políticas, planes, programas y proyectos, que en conjunto hacen posible hacer realidad los propósitos y esfuerzos del Gobierno y la sociedad para disponer de una educación de mejor calidad y equidad. La medición y la evaluación, entendidas como el camino más expedito para llegar a un efectivo diagnóstico de problemas y soluciones en educación, dieron los primeros pasos para su institucionalización solamente a partir de los años 90, a pesar de ser instrumentos efectivos en otras regiones del mundo para mejorar la calidad de la educación. En efecto, a partir de la década de los 50, países conocidos hoy como desarrollados mejoraron sus contenidos curriculares, sus procesos pedagógicos y de gestión, y las variables de insumo-proceso-producto del servicio educativo a partir de procesos evaluativos y rigurosos. Esto les permitió, en corto tiempo, reorientar la formación de su población hacia el desarrollo de competencias básicas, lo que les ha llevado a ser países cuyo desarrollo 4 ¿Cómo interpretar la evaluación Pruebas Saber? Junio 4 de 2005 científico, tecnológico y cultural es invaluable para el mundo entero y ha redundado, a su vez, en altos niveles de vida para sus ciudadanos. Evaluación muestral En Colombia, durante el periodo 1991-1999, de manera conjunta con el Icfes y organismos especializados, el Ministerio de Educación Nacional obtuvo de manera muestral y periódica información valiosa sobre las competencias básicas logradas por los estudiantes en las áreas de Lenguaje y Matemáticas de los grados 3°, 5°, 7° y 9°. Esto mediante la aplicación de las Pruebas Saber. Para llevar a cabo estas evaluaciones periódicas, y garantizar su confiabilidad y validez, fue construida una muestra maestra representativa de la población estudiantil y de las instituciones educativas –oficiales urbanas, oficiales rurales y no oficiales– a nivel nacional, departamental, y de ciudades capitales como Bogotá, Barranquilla, Cali y Medellín. Esta muestra maestra incluyó 36 entidades territoriales, 31 de ellas correspondientes a Calendario A y 5 a Calendario B. Gracias a la rigurosidad de la muestra, los resultados de esta evaluación fueron de gran utilidad en la toma de decisiones de políticas educativa a nivel nacional y local, a la vez que las instituciones educativas que participaron obtuvieron información beneficiosa para orientar sus acciones en búsqueda de la calidad de la educación que ofrecen. A su vez, a través de esta evaluación muestral, el país obtuvo información valiosa sobre los llamados factores asociables a la calidad, tanto aquellos señalados en la Ley 115/94 como otros concernientes a la convivencia y gestión escolar, con un énfasis particular en el compromiso de directivos, docentes, estudiantes y padres de familia, como agentes educativos. No obstante los valiosos aportes de la evaluación muestral a la que se viene haciendo referencia, la mayoría de los municipios y establecimientos educativos del país no se beneficiaron de la información de la evaluación. Por ello, el proyecto con características de evaluación muestral que pretendía evaluar, además de las áreas de Lenguaje y Matemáticas, las de Ciencias Naturales y Ciencias Sociales, se ajustó para que su realización fuera de manera censal y en todo el territorio nacional como lo conocemos hoy, lo cual fue posible en el marco del Sistema Nacional de Evaluación de la Educación que se conformó en 1994. De acuerdo con lo establecido en la Ley General de Educación en su Artículo 80, y en desarrollo del artículo 67 de la Constitución Nacional, el Sistema Nacional de Evaluación de la Educación opera bajo la responsabilidad del Ministerio de Educación Nacional en coordinación con el Servicio Nacional de Pruebas del Instituto Colombiano para el Fomento de la Educación Superior, ICFES, y con las entidades territoriales constituyéndose en la base para el establecimiento de programas de mejoramiento del servicio público educativo. En desarrollo de este Sistema, el Ministerio de Educación Nacional, el Icfes y algunas entidades territoriales –tales como Bogotá, Pasto, Manizales y Antioquia, entre otras–, 5 ¿Cómo interpretar la evaluación Pruebas Saber? Junio 4 de 2005 iniciaron un proceso de fortalecimiento institucional y técnico que les permitió desarrollar proyectos de evaluación censal exitosos y de esta manera aprovechar la información obtenida en todas las instituciones educativas, aspecto que con la evaluación muestral no era posible. Evaluación censal La evaluación censal, a diferencia de la muestral, abarca a todas las instituciones educativas, públicas y privadas, rurales y urbanas; por ello, a partir de 2002, el Ministerio tomó la decisión de evaluar de manera censal y en todo el país las áreas de Lenguaje, Matemáticas, Ciencias y Competencias en Ciudadanía, áreas que a criterio de expertos se constituyen en los componentes principales para desarrollar en los educandos las competencias básicas para la vida y que les permiten alcanzar un desempeño eficaz y eficiente dentro de la sociedad. A diferencia de la evaluación muestral, la evaluación censal realizada a través de las Pruebas Saber le permite a cada una de las instituciones educativas del país, a cada una de las entidades territoriales, y a la Nación, disponer de un diagnóstico válido y confiable para determinar si los estudiantes de Educación Básica están consiguiendo o no -y en qué grado-, el saber y el saber hacer en Lenguaje, Matemáticas, Ciencias y Competencias Ciudadanas. Como se sabe, estas han sido identificadas como áreas de formación básica que permiten a los estudiantes desarrollar sus potencialidades para seguir aprendiendo, y desempeñarse socialmente de manera eficaz y eficiente. Es así como se ha posibilitado un referente de base para la formulación de los Planes de Mejoramiento Institucional en todo el país, la toma de decisiones en política y, en consecuencia, la puesta en marcha de programas y proyectos tendientes a mejorar la calidad. Como se ha venido diciendo en este libro, “ser competente es saber hacer y saber actuar entendiendo lo que se hace, comprendiendo cómo se actúa, asumiendo de manera responsable las implicaciones y consecuencias de las acciones realizadas y transformando los contextos en favor del bienestar humano”4. Esta evaluación censal de competencias básicas, realizada para los grados 5° y 9° de Educación Básica, se completó en todo el país en noviembre de 2003. Entre muchas de sus utilidades para mejorar la calidad en las instituciones educativas, estuvo la de constituirse en línea de base para determinar el estado actual de logros en competencias básicas y el valor agregado que en términos de calidad de la educación producirán los distintos programas y proyectos que se están ejecutando en desarrollo del Plan Revolución Educativa. De otra parte y como ya se sabe, desde el año 1968 el Icfes ha venido realizando de manera censal el Examen de Estado para evaluar los estudiantes que terminan el nivel de Educación Media y para el ingreso a la Educación Superior. En la siguiente tabla podemos apreciar los distintos ejercicios de evaluación de la calidad de la Educación Básica, realizados por el país desde 1991 mediante las llamadas Pruebas Saber. 4 Montenegro, Ignacio (2003). “¿Son las competencias el nuevo enfoque que la educación requiere?”. En Revista Magisterio. No. 1. Febrero-marzo, pág.19. 6 ¿Cómo interpretar la evaluación Pruebas Saber? Junio 4 de 2005 Pruebas Saber-Evaluaciones realizadas desde su origen Año 1991 Semestre Grados Calen dario 2 3° y 5° A 1 3° y 5° B 2 7° y 9° A 1994 1y2 7° y 9° AyB 1997 2 3° y 5° A 1 3° y 5° B 2 7° y 9° A 1 7° y 9° B 1992 1998 1999 2002 Áreas Lenguaje, Matemáticas y factores asociados Lenguaje y Matemáticas Lenguaje y Matemáticas Lenguaje y Matemáticas Lenguaje y Matemáticas Lenguaje y Matemáticas Lenguaje y Matemáticas Lenguaje y Matemáticas Tipo Muestral Muestral Muestral Muestral Muestral Muestral Muestral Muestral Cobertura Entid ades No. Estudiantes Territ oriales 13 3 20 29 32 3 32 3 15.002 Instituto SER de Investigaciones 5.800 Instituto SER de Investigaciones 28.000 SER-ICFES 30.015 ICFES 99.789 ICFES 30.667 ICFES 100.469 ICFES 25.191 ICFES Sistemas Especializados de Información -SEICorpoeducación SEICorpoeducación 1 3°,5°,7° y 9° AyB Lenguaje y Matemáticas 2 3°,5°,7° y 9° AyB Lenguaje y Matemáticas Censal 1 5° y 9° AyB Lenguaje y Matemáticas Censal Certifi cadas 646.951 ICFES AyB Ciencias Naturales y Competencias ciudadanas Censal 78 1.034.049 ICFES 2003 2 5° y 9° Total estudiantes evaluados Censal 5 Responsable de la aplicación 27 205.001 192.856 2.413.790- Participación en pruebas internacionales De manera paralela a las acciones evaluativas descritas, Colombia ha venido participando en programas internacionales de evaluación de la educación, desarrollados por distintos organismos internacionales. 7 ¿Cómo interpretar la evaluación Pruebas Saber? Junio 4 de 2005 Así, por ejemplo, el país participó en el Tercer Estudio Internacional de Matemáticas y Ciencias –TIMSS– adelantado entre 1994 y 1995 por la Agencia Internacional de Evaluación de Logro Educativo (IEA) cuyo objetivo central fue establecer el grado de relación existente entre el currículo planeado, el currículo ejecutado y el currículo logrado por los estudiantes, así como las variables del contexto que podrían explicar estas relaciones en los establecimientos educativos. Aunque el estudio cubría los grados 3°, 4° 7° y 8°, Colombia participó únicamente con los grados 7° y 8°. Los resultados obtenidos permitieron establecer que del currículo planeado e impartido por el Ministerio a todas las instituciones educativas, se ejecutaba tan solo en un 60%; y de él los estudiantes aprendían menos del 30%. Igualmente, este estudio dejó al descubierto la baja competitividad de nuestros estudiantes de Educación Básica frente a sus pares de los países desarrollados al ocupar Colombia el penúltimo lugar entre los 42 países que terminaron el estudio. De igual manera, Colombia participó en 1997 en el Primer Estudio Internacional Comparativo de Lenguaje, Matemáticas y Factores Asociados de los grados 3° y 4° de Educación Básica adelantado por el Laboratorio Latinoamericano de Evaluación de la Calidad de la Educación –LLECE– y dirigido por la Oficina Regional de la Unesco para América Latina (Unesco/Orealc). En este caso, el país ocupó el quinto lugar, sin que por ello existan marcadas diferencias frente a Argentina, Brasil, Chile y Cuba, países que se ubicaron junto en los primeros cuatro lugares. Valga decir que nuestro país comparte un desempeño de sus estudiantes muy similar a los países mejor librados en el Estudio. Pero más allá de las comparaciones entre países, Colombia pudo evidenciar en esta evaluación cómo sus escuelas ubicadas en las zonas rurales obtuvieron mejores puntajes que sus similares del resto de países participantes, con excepción de Cuba. Este hecho motivó al Laboratorio para realizar una investigación cualitativa en aquellas escuelas que se destacaron en el Estudio y que tienen características hipotéticamente asociadas a bajos resultados académicos, tales como la pobreza, la ubicación en zonas de difícil acceso y el bajo nivel de educación alcanzado por los padres, como es el caso de las escuelas rurales colombianas5. Además de los dos estudios reseñados, nuestro país participó, entre 1995 y 2000, en el Estudio Internacional de Educación Cívica cuya aplicación definitiva fue en 1999. De igual manera lo hizo en el Primer Estudio Internacional del Progreso de la Lectura –PIRLS– en 2001, adelantados por la Agencia Internacional de Evaluación de Logro Educativo –IEA–. Además de lo valiosa que resultó para Colombia la información obtenida en estas pruebas, los aportes para el progreso en evaluación y el desarrollo del sistema Nacional de Evaluación ordenado por la Ley 115 de 1994, no se hicieron esperar. Atendiendo a los avances de la evaluación en el mundo, el Icfes reestructuró las Pruebas Saber y de Estado y vino a reforzar una reforma educativa en el país, ordenada por la misma Ley General de Educación en donde el enfoque de formación integral por competencias básicas empezó a tomar fuerza como un componente crucial en la búsqueda por el mejoramiento de la calidad de la educación en todo el país. 5 Los resultados de esta investigación cualitativa de escuelas destacables se pueden ver en el siguiente sitio Web: www.unesco.cl/LLECE (documentos digitales) 8 ¿Cómo interpretar la evaluación Pruebas Saber? Junio 4 de 2005 Participación de Colombia en evaluaciones internacionales Año Grado Calend ario TIMSS 1994 7º y 8º AyB LLECE 1997 3º y 4º AyB Programa ED. 1999 8° CÍVICA Total estudiantes evaluados AyB Áreas Matemáticas y Ciencias Lenguaje y Matemáticas Educación Cívica Cobertura Tipo Ent.Territs. No. Ests. Entidad Muestral 4 Regiones CORPES 6000 IEA Muestral 21 4300 UNESCO Muestral – 5047 IEA 15347 Colombia seguirá participando en estudios de la evaluación internacional: en 2005, participa en el segundo Estudio del LLECE; en 2006, en el Estudio PISA de la Organización para la Cooperación y el Desarrollo Económico –OECD– que evaluará las competencias en Lenguaje, Matemáticas y Ciencias en Educación Básica y, en 2007, de nuevo en el TIMSS de la IEA, denominado ahora Estudio de Tendencias Internacionales en Matemáticas y Ciencias. Las Pruebas Saber, orientaciones para su análisis, interpretación y uso En los últimos tiempos la evaluación en la medida de su progreso, ha incursionado con gran fuerza en la gestión de los procesos pedagógicos, es decir, en los procesos que se deben cumplir para que los profesores enseñen lo que deben enseñar y los estudiantes aprendan lo que deben aprender. La evaluación censal Saber 2002-2003 puso en evidencia cómo a pesar de que los maestros enseñan o desarrollan planes de estudio bien elaborados y pertinentes en desarrollo del currículo del PEI, sus estudiantes no necesariamente aprenden o logran lo que de ellos se espera. Los resultados de las pruebas censales Saber 2002-2003, aplicadas a los grados 5° y 9° de Educación Básica en las áreas de Lenguaje, Matemáticas, Ciencias Naturales y en formación ciudadana en todo el país, permiten evaluar si se está consiguiendo o no y en qué grado las competencias definidas para dichas áreas en los estándares básicos de calidad. Las Pruebas Saber, una línea de base 9 ¿Cómo interpretar la evaluación Pruebas Saber? Junio 4 de 2005 También estos se constituyen en la línea de base nacional, regional, local e institucional, como referente para valorar el progreso de los y las estudiantes y de las instituciones en todas las regiones del país. Cabe anotar que tanto las pruebas como los estándares han tenido como marco de referencia para su diseño los lineamientos curriculares expedidos por el Ministerio en desarrollo de la Ley General de Educación La línea de base, en la evaluación Pruebas Saber, se entiende como la información recopilada en término de los niveles de logro en las competencias básicas que los estudiantes de 5° y 9° grados de la educación básica demostraron tener al resolver los cuestionarios de las pruebas. Los grados evaluados son momentos claves, que marcan el fin de ciclo de la educación básica primaria y de la básica secundaria. Con los resultados de la evaluación queda representada la formación acumulada que ofrece la institución en cada ciclo, con sus fortalezas y sus debilidades. Esta línea de base integra las evaluaciones de Lenguaje y Matemáticas realizadas en marzo de 2002 en los departamentos de Valle, Risaralda, Quindío, Atlántico y Santander; en octubre de 2002 en los municipios certificados de todo el país, Bogotá D.C. y Cundinamarca; en abril de 2003 en los demás municipios del país, con la evaluación en Ciencias Naturales y Competencias Ciudadanas realizada en noviembre de 2003 en casi todo el territorio nacional. Así, el nivel de Educación Básica dispone de información formativa confiable para orientar la acciones de mejoramiento de la calidad a nivel nacional, regional, local e institucional y, a partir de ella, realizar los análisis e interpretaciones que cada una de las instancias señaladas podrá hacer con los resultados de la evaluación Saber que se hará en las mismas áreas y grados en el 2005, 2006 y posteriores aplicaciones, las cuales permitirán formular comparaciones y darán cuenta del impacto de la política de calidad y de sus programas y proyectos de mejoramiento. Análisis e interpretación de los resultados de las Pruebas Saber Atendiendo al sentido pedagógico y orientador de los resultados de las Pruebas Saber en términos de acciones de mejoramiento por parte de cada una de las instancias de la gestión del servicio público, y con el objeto de aportar a su análisis e interpretación, el Icfes ha entregado los resultados con información por: (1) niveles de logro, (2) puntaje promedio y dispersión, (3) componentes del área y (4) porcentaje de respuestas por opción e institución educativa, municipio y departamento, además de contar con un consolidado a nivel nacional. Cabe anotar que los resultados por niveles de logro no fueron considerados en la prueba de Competencias Ciudadanas, debido en gran parte al carácter cultural y transversal que abordan sus contenidos. Resultados por niveles de logro En este tipo de información se aprecia el grado de dominio que las y los estudiantes han demostrado tener al abordar las distintas situaciones exigidas por las pruebas, que están 10 ¿Cómo interpretar la evaluación Pruebas Saber? Junio 4 de 2005 estructuradas de tal manera que las preguntas o ítems que contienen, corresponden a distintos niveles de complejidad para su solución. Dado que los procesos de formación de los estudiantes que orientan los fines de la educación colombiana consagrados en la ley, más que conocimientos académicos simples, exigen desempeños socialmente eficientes y eficaces, tanto los estándares como la evaluación Saber están orientados por los principios de las competencias básicas. Ello significa que los estudiantes serán competentes si a partir de la comprensión de situaciones simples de la vida cotidiana logran soluciones a situaciones también de ésta, pero cada vez de mayor complejidad, en las cuales necesariamente deben poner en ejercicio distintos elementos de sus aptitudes innatas y habilidades adquiridas en sus procesos de formación, tanto de la escuela como de su contexto. Como ejemplo, de la prueba de Matemáticas de 5º grado tomemos una pregunta de cada uno de los niveles de complejidad creciente “B”, “C” y “D”, y observemos sus características: Pregunta de nivel “B”: (Pregunta No. 11) Una chocolatina vale $ 300. Si se compran 4 de estas chocolatinas, se pagará: A. $ 120 B. $ 304 C. $ 900 D. $ 1.200 Claramente vemos que la opción que corresponde a la respuesta esperada es la “D” y para llegar a ella, solamente exige que el estudiante realice la multiplicación (aritmética) del valor de una chocolatina por el número de chocolatinas compradas, en el mismo orden como están en el enunciado. Así, esta situación problema cumple con las características de los problemas de nivel “B” (mínimo para 5° grado), a saber: - Se trata de un problema rutinario o cotidiano. La información necesaria para resolverlo se encuentra en el enunciado. La información está en el orden en que se debe operar para resolverlo. Se requiere de una sola operación o una relación para su resolución. Hace referencia a una situación de carácter concreto. Para solucionarlo, se requiere solamente de una estrategia de alguno de estos dominios: aritmética, geometría o estadística. Pregunta de nivel “C”: (Pregunta No. 8) La siguiente tabla muestra la cantidad de carbohidratos que contiene una porción de tres de estos alimentos: 11 ¿Cómo interpretar la evaluación Pruebas Saber? Junio 4 de 2005 Alimento Sopa Arroz Pasta Cantidad de carbohidratos por porción 52.50 gramos 52.6 gramos 52.05 gramos Si la comida de cada niño contiene una porción de cada uno de los tres alimentos, ¿cuántos carbohidratos consume cada niño? A. 109,71 gramos B. 156,115 gramos C. 156,61 gramos D. 157,15 gramos La opción que corresponde a la respuesta esperada de este problema es la letra “D” y para llegar a ella, exige que el estudiante identifique la relación de la porción de comida del niño con los alimentos que consume enunciada en el problema (la comida de cada niño contiene una porción de cada uno de los tres alimentos), y sumar (aritmética) las cantidades correspondientes a cada una de las porciones de alimentos. Así, esta situación problema cumple con las características de los problemas de nivel “C”, a saber: - La información necesaria para resolverlo se encuentra en el enunciado. Se propone un problema simple no rutinario. La información necesaria para resolverlo se encuentra en el enunciado. Es necesario reorganizar la información para poder resolverlo. Requiere un solo paso para su solución. Se plantea una situación hipotética caracterizada en su lenguaje por la forma "si sucede x, pasaría que...” Para solucionarlo solo se requiere una estrategia de alguno de estos dominios: aritmética, geometría o estadística. Pregunta de nivel “D”: (Pregunta No. 2) Andrés tiene una colección de carros miniatura. Natalia propuso diseñar las placas de estos carritos de acuerdo con las siguientes reglas: 1. Usar sólo las letras A y B 2. Usar sólo los números 4, 7 y 2 3. Cada placa debe tener una letra y los tres números 4. No puede repetirse un número en una misma placa 5. La letra siempre debe ir primero. Por ejemplo, la placa para un carro puede ser A 472 ¿Cuántas placas distintas pueden diseñar Natalia y Andrés teniendo en cuenta las reglas establecidas?: 12 ¿Cómo interpretar la evaluación Pruebas Saber? Junio 4 de 2005 A. 5 B. 6 C. 12 D. 15 La opción “C” es la respuesta esperada para esta pregunta. Para llegar a ella, el estudiante debió reordenar varias veces los tres dígitos hasta llegar a generalizar y establecer las distintas posibilidades de combinación existentes; además, fue necesario inferir que ante la existencia de dos letras, la combinatoria que encontró correspondería por igual para cada una de ellas y entonces el número total de placas posible, de acuerdo con las normas dadas en el enunciado, sería dos veces el número de combinaciones posible. En otras palabras, para resolver el problema el estudiante debió realizar varios pasos: (1) reorganizar los datos, (2) establecer relaciones entre ellos, (3) estimar o inferir datos intermedios no explícitos en el enunciado (aritmética), (4) establecer la forma general de combinaciones, y finalmente (5) plantear la solución (estadística): 3! (3 factorial) para cada una de las dos letras A y B. Así, este problema está de acuerdo con las características del nivel “D” establecidas por el Icfes: - Es un problema complejo no rutinario. Los datos del enunciado no permiten por sí mismos el desarrollo de su solución. Los datos no están en el orden en el que se debe operar con ellos. Se requieren otros pasos para su solución (es imposible resolverlos a través de un solo paso). Están planteados en situaciones hipotéticas no típicas en el trabajo de determinados conceptos matemáticos escolares. Su solución implica combinar estrategias de diferentes dominios de la matemática como: aritmética, geometría, y estadística. Para el correcto análisis e interpretación de los resultados por niveles de competencia (B, C, D, E y F) alcanzados por los y las estudiantes en las Pruebas Saber, en las distintas áreas evaluadas, es necesario tener en cuenta -además de las características de complejidad por niveles explicadas anteriormente para el caso de Matemáticas-, las siguientes: • Los niveles son jerárquicos, es decir, van aumentando en complejidad; “B” es el mínimo nivel logrado y “F” el máximo nivel alcanzado en la Educación Básica, en donde se ha estimado que un(a) estudiante accede a la resolución de situaciones complejas si antes logra resolver situaciones relacionadas con ellas, pero de solución simple. • Son inclusivos, lo que se deriva de la anterior característica, es decir, que alcanzar un determinado nivel de logro supone el domino de los anteriores y del mismo, al menos con el 60% de respuestas correctas. • Existen unos mínimos esperados: el ideal que orienta las actividades de mejoramiento de la calidad es que la totalidad de estudiantes acceda al nivel más alto y de excelencia, que les permite actuar de manera competente: críticos y cuidadosos en el contenido y uso del 13 ¿Cómo interpretar la evaluación Pruebas Saber? Junio 4 de 2005 conocimiento; ingeniosos y estrategas en la solución de situaciones problema; comprensivos e intérpretes de los fenómenos naturales y sociales que los rodean; sensibles, afectuosos y motivados con sus propias potencialidades para cultivar su auto estima, el respeto a sí mismos y a los demás. Por cuanto el grado de desarrollo, el ritmo y estilo de aprendizaje son distintos en cada estudiante, el Icfes ha considerado metas mínimas en términos del porcentaje de personas que debieran superar cada nivel de logro (B, C, D, E y F), como se especifica a continuación. Para 5° grado se espera que el 95% de las y los estudiantes alcance o supere el nivel de logro mínimo B; el 75% alcance o supere el nivel de logro C, y el 55% el nivel de logro D (el de mayor complejidad para este grado). Así mismo, en 9º grado se espera que el 95% de los estudiantes supere el nivel de logro mínimo C, el 75% el nivel D, el 55% el nivel E y el 35% el nivel F (el de mayor complejidad). Como se puede observar, se estima una pérdida máxima del 20% de estudiantes al pasar de un nivel al siguiente. Ahora bien, la letra “A”, que no tiene una caracterización específica, representa el porcentaje de alumnos que no alcanza el nivel de logro mínimo. Su interpretación en términos cuantitativos es que el máximo porcentaje de estudiantes que no alcance los niveles mínimos sea inferior al 5% en cada uno de los dos grados evaluados. Sin embargo, esta interpretación debe hacerse de manera prudente porque, de acuerdo con las características de los niveles antes anotadas, que un estudiante sea ubicado en “A” no significa necesariamente que no haya dado respuestas acertadas en ítems correspondientes a los distintos niveles establecidos por la prueba, sin que ello signifique su dominio. Los esquemas que siguen muestran el porcentaje mínimo esperado en cada nivel, para cada grado y la exigencia que caracteriza a los ítems o preguntas de las pruebas para cada nivel de logro: 14 ¿Cómo interpretar la evaluación Pruebas Saber? Junio 4 de 2005 Niveles de logro y porcentaje de estudiantes esperado Área de Lenguaje: quinto y noveno grados Los resultados de las pruebas se comparan con estos porcentajes. Es deseable que sean superiores. E Porcentaje de estudiantes esperado en 9° grado 75% 55% D 75% C 95% B Comprensión superficial y fragmentada F 55% Porcentaje de estudiantes esperado en 5° grado 95% 35% Reflexiona de Comprensión manera crítica lo crítica que lee. Relaciona la Utiliza su propio marco de comprensión conceptos y relaciona diversos entre textos textos. Comprensión Hace deducciones y supuestos; lee entre líneas y con inferencias complementa vacíos del texto. Comprensión del significado Expresa lo leído en otras palabras. básico del texto Realiza selección y síntesis de la información. Lectura superficial. Comprensión literal. Solo entiende lo que está escrito y lo retiene de manera parcial. 15 ¿Cómo interpretar la evaluación Pruebas Saber? Junio 4 de 2005 Niveles de logro y porcentaje de estudiantes esperado en cada nivel Área de Matemáticas: quinto y noveno grados Los resultados de las pruebas se comparan con estos porcentajes. Es deseable que sean superiores. 35% F Porcentaje de estudiantes esperado en 5° grado 55% Porcentaje de estudiantes esperado en 9° grado E 75% 55% D 95% 75% C Problemas complejos con estrategias de solución simples Problemas complejos con estrategias de solución múltiples La solución exige al estudiante combinar distintas estrategias. Requiere establecer submetas y combinar dominios. El estudiante debe descubrir relaciones no explícitas y generar estrategias de solución. Dos o más variables. Problemas complejos. Para su solución requieren más Resolución de de un paso, reordenar datos del enunciado, inferir problemas datos y combinar distintos dominios: aritmética, complejos geometría… Problemas hipotéticos simples. 95% B Resolución de La solución exige el reordenamiento de la información dada en el problemas enunciado. simples En su mayoría son de la forma: si sucede X, entonces… Resolución Problemas cotidianos de una sola variable. de problemas En el enunciado está la información y exigen cotidianos solo una operación para su solución. 16 ¿Cómo interpretar la evaluación Pruebas Saber? Junio 4 de 2005 Niveles de logro y porcentaje de estudiantes esperado en cada nivel Área de Ciencias Naturales: quinto y noveno grados Los resultados de las pruebas se comparan con estos porcentajes. Es deseable que sean superiores. 35% F Porcentaje de estudiantes esperado en 5° grado Jerarquiza procesos biológicos, físicos y químicos Porcentaje de estudiantes esperado en 9° grado 55% E 75% 55% D 95% 75% C 95% B Diferencia transformación e interacciones en el mundo que nos rodea Relaciona procesos biológicos, físicos y químicos Contrasta predicciones, propone conclusiones, discrimina y pondera diferentes variables a partir de procesos de los sistemas biológicos, físicos y químicos. Las situaciones exigen realizar predicciones, relaciones con más de una variable y descripciones de gráficas o esquemas a partir de procesos de los sistemas biológicos, físicos y químicos. Las situaciones exigen realizar constrastaciones, clasificaciones, inferencias y relaciones lógicas a partir de interacciones y cambios que se presentan en los seres vivos y en la materia. Identifica procesos y eventos del Las situaciones exigen discriminar, caracterizar mundo que nos y comparar eventos, fenómenos o procesos a partir rodea de características biológicas, físicas, estructurales, etc. Reconoce el Las situaciones exigen realizar mundo que nos descripciones, agrupamientos, relaciones directas y rodea secuencias a partir de características observables. 17 ¿Cómo interpretar la evaluación Pruebas Saber? Junio 4 de 2005 Algunas orientaciones para el análisis de los resultados de las Pruebas Saber a partir de los niveles de logro La institución educativa, las entidades territoriales y el país pueden analizar los resultados por niveles de logro y hacer distintas interpretaciones o explicaciones que les sirvan de orientación para las distintas acciones de mejoramiento en sus planes de acción respectivos, tales como: • Contrastar los resultados obtenidos en cada nivel de logro con los niveles esperados, incluido el porcentaje de estudiantes que no alcanza el nivel mínimo. • Establecer la pérdida de estudiantes en términos de porcentaje ocurrida entre niveles de logro, en un mismo grado, y compararla con la máxima esperada (20%). Es importante identificar en qué niveles ocurren pérdidas superiores a lo esperado, para definir qué aspectos de los evaluados requieren mayor énfasis en los procesos de formación. • Comparar el porcentaje de estudiantes obtenido en cada nivel de logro en 5º grado con los porcentajes correspondientes en cada nivel en 9º grado, establecer las diferencias y tenerlas en cuenta a la hora de diseñar las acciones de mejoramiento. • Comparar los tres análisis anteriores con los resultados que presentan distintos grupos de referencia, tales como municipio, departamento o país, análisis que puede orientar la fijación de metas de mejoramiento. Resultados por puntaje promedio y dispersión El puntaje promedio indica el comportamiento global de los estudiantes a nivel individual, institucional, municipal, departamental o nacional. Este puntaje da cuenta del desempeño general en relación con los diferentes niveles de dificultad que existen en la prueba. En cada una de las pruebas, y por cada grado (5º y 9º), el puntaje fluctúa entre 0 y 100 puntos aproximadamente. Por su parte, la medida de la dispersión o desviación estándar refleja qué tan homogéneos o heterogéneos son los resultados, es decir, informa si los puntajes individuales obtenidos por las y los estudiantes son similares entre sí o, por el contrario, hay algunos estudiantes con puntajes muy altos y otros con puntajes muy bajos. Se espera entonces que el promedio sea alto, es decir, que tienda a 100 y que la desviación estándar sea baja, es decir, tienda a 0. En este tipo de resultados podemos obtener cuatro posibilidades de análisis de acuerdo con la relación entre puntaje promedio y desviación estándar: 1) El puntaje promedio de la institución es mayor o superior al del grupo de referencia (municipio, departamento o país), pero su desviación estándar es menor o inferior a la de dichos grupos de referencia. Ello significa que el puntaje promedio obtenido por la institución superó al del grupo de referencia, y que el desempeño de los 18 ¿Cómo interpretar la evaluación Pruebas Saber? Junio 4 de 2005 estudiantes en las pruebas fue homogéneo. Es decir, la mayoría de los estudiantes tuvieron mejores desempeños que los del grupo de referencia: Este es un resultado deseable en términos de calidad, al que toda institución debe aspirar mediante la realización de planes de mejoramiento (ver Figura 1). 2) El puntaje promedio y su desviación estándar son mayores o superiores a los del grupo de referencia (municipio, departamento o país). Ello significa que algunos de sus estudiantes obtuvieron puntaje promedio muy alto, pero hay otros estudiantes de la misma institución que obtuvieron resultados muy bajos (ver Figura 2). 3) El puntaje promedio y su desviación estándar son menores o inferiores (lo contrario del caso anterior) a los del grupo de referencia (municipio, departamento o país). Ello significa que los estudiantes de la institución en su mayoría tiene bajos niveles en el desarrollo de competencias (ver Figura 3). 4) El puntaje promedio es menor o inferior al del grupo de referencia (municipio, departamento o país), pero la desviación estándar es superior a la de dicho grupo de referencia. Ello significa que la media de la institución estuvo por debajo de la media de dicho grupo de referencia y que los resultados presentan alta dispersión; en otras palabras, en la institución la mayoría de los estudiantes presentan desempeños bajos, pero dentro de ellos hay quienes presentan desempeños supremamente bajos (ver Figura 4). 19 ¿Cómo interpretar la evaluación Pruebas Saber? Junio 4 de 2005 INSTITUCIÓN 57 56.62 PUNTAJE PROMEDIO PUNTAJE PROMEDIO 57 56.62 54 NASCIONAL 52.82 51 INSTITUCIÓN 54 NASCIONAL 52.82 51 48 48 45 45 6.50 6 8 8.59 10 10.06 6 12 8 DESVIACIÓN ESTÁNDAR Figura 1. Puntaje promedio superior y desviación estándar inferior 10 10.06 12 Figura 2. Puntaje promedio y desviación estándar superiores 57 PUNTAJE PROMEDIO 57 PUNTAJE PROMEDIO 8.59 DESVIACIÓN ESTÁNDAR 54 NASCIONAL 52.82 51 INSTITUCIÓN 49.35 54 NASCIONAL 52.82 51 INSTITUCIÓN 49.35 48 48 45 6 6.50 8 8.59 10 10.06 45 12 DESVIACIÓN ESTÁNDAR Figura 3. Puntaje promedio y desviación estándar inferiores 6 6.50 8 8.59 10 10.06 12 DESVIACIÓN ESTÁNDAR Figura 4. Puntaje promedio inferior y desviación estándar superior Algunas orientaciones para el análisis de los resultados por puntaje promedio y dispersión Como se explicó antes, las alternativas de análisis e interpretación para este tipo de resultados son variadas y no solamente permiten comparar los resultados de la institución con distintos grupos de referencia (municipios, departamentos, nación) sino también aquellos obtenidos por los estudiantes dentro de una misma institución, mediante la estimación de las diferencias de los promedios y las desviaciones estándar entre: • Las distintas áreas evaluadas, análisis que sirve para orientar los ajustes en currículo y plan de estudios del PEI, con el fin de equilibrar o lograr mayor homogeneidad de los aprendizajes entre los estudiantes; a su vez, para las Secretarías de Educación resulta de gran ayuda en la toma de decisiones para focalizar su apoyo específico a la gestión académica en municipios o instituciones en los cuales su alta desviación 20 ¿Cómo interpretar la evaluación Pruebas Saber? Junio 4 de 2005 estándar está mostrando aprendizajes muy heterogéneos, en otras palabras, bajos niveles de equidad en la educación. • 5º y 9º grados en la misma área. Por cuanto la formación por competencias en cada disciplina en los y las estudiantes es un proceso creciente, con este análisis es posible hacer interpretaciones sobre factores que pueden estar incidiendo en los logros que los estudiantes adquieren en su paso por los grados de 5° a 9°. • Distintos grupos de referencia (municipio, departamento, país). Este es un referente de comparación; pero hay que tener en cuenta que el hecho de que los resultados de la institución educativa sean iguales o mejores a los resultados del grupo de referencia, no siempre significa altos desempeños; esto depende de si los resultados de tal grupo de referencia son altos o bajos. Adicionalmente, los municipios, las secretarías de Educación, el Ministerio, investigadores y diferentes entidades pueden realizar otros y distintos análisis de los resultados, tanto del tipo clásico como multivariados, con el fin de establecer en mayor profundidad focalizaciones y correlaciones entre las áreas evaluadas. Resultados por componentes del área Otra forma de analizar los resultados de las Pruebas Saber en las distintas áreas evaluadas es a través de las dimensiones del conocimiento alrededor de las cuales se clasifican las preguntas en coherencia con lineamientos curriculares y los estándares básicos de calidad expedidos por el Ministerio. Este es un análisis y una mirada interna hacia la institución educativa (o hacia el municipio y sus instituciones) y es la fuente para desarrollar y establecer un orden de prioridades en el plan de mejoramiento de la institución. En este análisis es deseable obtener un equilibrio entre los números de respuestas correctas para cada componente del área abordada por la prueba. Así, por ejemplo, puede que los resultados de una institución en términos de logros, puntajes promedios y desviación estándar sean muy buenos, pero en su interior debe contar también con un equilibrio en los resultados por dimensiones del conocimiento. Esta mirada le permite a la institución y al municipio analizar en cuáles dimensiones están fuertes para mantener lo que hacen o mejorarlo y, en forma focalizada, realizar acciones de mejoramiento en aquellas con desempeños significativamente más bajos. Los resultados de la institución educativa pueden ser comparados con los de otros grupos de referencia, hacer reflexiones sobre las diferencias y fijar metas de mejoramiento 21 ¿Cómo interpretar la evaluación Pruebas Saber? Junio 4 de 2005 Dimensiones del conocimiento por áreas evaluadas En el área del Lenguaje las preguntas se han diseñado y agrupado en cinco categorías o dimensiones del conocimiento, considerando el proceso intelectual que ocurre en la mente del lector (o del estudiante) cuando aborda un texto y teniendo en cuenta el tipo de información que requiere para responderlas (ver Tabla 1). Tabla 1. Componentes de la prueba de lenguaje (www.icfes.gov.co) Grados 5° y 9° Estas preguntas solicitan ubicar información que aparece de manera explícita y literal en el texto. Para resolverlas, el lector o lectora selecciona, entre las 1. Identificación opciones de respuesta, aquella que repite sin alteración la información que aparece (repetición de lo en el texto (cuando se trata de información gráfica, el verbo, en la pregunta, que dice el texto) supone la interpretación en palabras de lo que representa la gráfica). Estas preguntas operan a nivel local (puntual) exclusivamente. Aquí se solicita recuperar información que aparece de manera explícita o implícita en el texto. Para resolver estas preguntas, el lector realiza un trabajo de selección, omisión y síntesis de información. Todas ellas tienen en común proponer un trabajo sobre la superficie textual que va más allá de la simple 2. Resumen (paráfrasis) identificación de información; aquí el o la estudiante debe reconocer aquella opción que recoge la información textual, pero la presenta de una manera diferente. Dependiendo del problema tratado, estas preguntas pueden apuntar a aspectos locales (específicos) o globales del texto. Estas preguntas le solicitan al lector o lectora poner en interacción su saber previo con los saberes que el texto presenta y posibilita. Para resolverlas, se 3. Información realiza un trabajo de cooperación y diálogo con el texto, valiéndose de un acopio previa (enciclopédica) previo de información no estrictamente lingüístico. Se trata de preguntas que operan a niveles locales y globales. Este grupo solicita reconocer y captar los tipos de actos comunicativos presentes en el texto, las intenciones, las finalidades y los propósitos de los enunciados y de las circunstancias de producción textual. Para responder estas 4. Intenciones del preguntas y develar desde dónde se enuncia y para qué, el o la estudiante debe texto (pragmática) acudir a la información que le ofrece el texto, de manera explícita o implícita, así como a su experiencia comunicativa. Estas preguntas operan a nivel local y global. 5. Gramática Esta dimensión del conocimiento solicita reconocer y captar la funcionalidad semántica de los elementos gramaticales en la coherencia y cohesión textual. Para resolver estas preguntas, se realiza un trabajo de cooperación y diálogo con el texto, valiéndose de un acopio previo de información sobre los elementos del sistema de la lengua y su función en la construcción de sentido. Se trata de preguntas que operan a nivel local y global. Es importante aclarar que aunque la estructura contempla estos cinco grupos, en el grado 5º la prueba hace énfasis en las preguntas de identificación, resumen, información previa e intenciones del 22 ¿Cómo interpretar la evaluación Pruebas Saber? Junio 4 de 2005 texto. En el grado 9º, la prueba hace énfasis en las preguntas de resumen, información previa, intenciones del texto y gramática. A su vez, en el área de Matemáticas se han agrupado en tres categorías o dimensiones de conocimiento para quinto grado y en cuatro para noveno grado, de acuerdo con la estructura considerada en el tipo de problema que se debe resolver (ver Tabla 2). Tabla 2. Componentes de la prueba de Matemáticas (www.icfes.gov.co) 1. Aritmética (los números y cómo se organizan) 2. Geometría y medición (lo espacial y la geometría, las medidas) 3. Probabilidad y estadística (la organización y clasificación de datos) 1. Aritmética (pensar con los números) Grado 5° Se exploran otras relaciones en los números naturales y el universo numérico de los racionales positivos vistos desde sus representaciones de fracción y de decimal, a partir de las propiedades y relaciones que se reconocen en él. Se evalúan aspectos como estructuras aditiva y multiplicativa, fracción (cociente, parte de un todo, decimal, razón) relaciones de divisibilidad, descomposición de números y factores primos. Se exploran las propiedades y características de cuerpos, superficies y líneas, así como algunos movimientos en el plano. En el caso de la medición, se hace énfasis en el uso de diversas magnitudes en la solución de situaciones. Se evalúan aspectos como: (1) noción de perímetro y de área por cubrimiento; (2) identificación de figuras geométricas a través de sus propiedades; (3) rectas y sus posiciones relativas (perpendicularidad y paralelismo) y (4) propiedades de las figuras geométricas: transformaciones (rotaciones y traslaciones). Aunque se siguen utilizando las diversas representaciones de datos, se pretende hacer énfasis en el análisis y la comparación, así como en el conteo y las posibilidades, como un acercamiento cada vez más formal a la probabilidad (dado que ya hay un trabajo sobre las fracciones). Se evalúan aspectos como posibilidades, conteo, representaciones (gráficas, tabulares) interpretación de información y determinación de porcentajes. Grado 9° Se amplía la conceptualización de los universos numéricos y se exige su uso de manera más formal en las diferentes situaciones que se plantean. Se evalúan aspectos como aplicaciones del concepto de multiplicación y división y sus algoritmos, en el conjunto de los números enteros, conceptualización y representación de números racionales y sus distintas significaciones, seguimiento de patrones y generalización. 2. Geometría y medición (pensar con la geometría y con las medidas) Se hace énfasis en el uso de teoremas, relaciones y propiedades como insumos necesarios para la resolución de diferentes situaciones. Se evalúan aspectos como conceptualización de diversas magnitudes (longitud, superficie, capacidad, peso, amplitud angular), relaciones y propiedades de objetos geométricos, conceptualización de la longitud de la circunferencia y área del círculo, movimientos en el plano y utilización de patrones de medida. 3. Estadística y probabilidad Se exige el análisis de información a partir de las distintas interpretaciones y sentidos de medidas de tendencia central, haciendo inferencias sobre los datos 23 ¿Cómo interpretar la evaluación Pruebas Saber? Junio 4 de 2005 (pensar con la organización y clasificación de datos) 4. Álgebra (pesar con variaciones y con álgebra) dados para la toma de decisiones. Se exige el uso de la probabilidad de una manera más formal, dándole sentido desde un contexto particular. Se evalúan aspectos como combinatoria y permutación, lectura e interpretación de gráficas, nociones de probabilidad y aleatoriedad, promedio y porcentajes. Esta dimensión del conocimiento se introduce sólo en este grado. Se pretende explorar la comprensión de patrones, relaciones y funciones en diversos contextos, reconociendo la variable y la modelación como elementos centrales del trabajo en álgebra. Se evalúan aspectos como traducción de lenguajes (simbólico, tabular, gráfico), ecuaciones lineales con una sola incógnita, manejo de la letra como número generalizado, incógnita y variable, construcción de relaciones métricas y conceptualización de funciones lineales y cuadráticas. Por su parte, en el área de Ciencias Naturales la prueba contiene preguntas sobre tres componentes básicos de las ciencias naturales: Biología, Química y Física. La estructura de la prueba contempla la solución de situaciones problema en cada uno de estos componentes y en los distintos niveles de complejidad (ver Tabla 3). Tabla 3. Componentes de la prueba de Ciencias Naturales (www.icfes.gov.co) Grado 5° Incluye aspectos relacionados con: a) Relaciones entre los seres vivos en términos de alimentación, 1. ¿Cómo son y cómo reproducción y hábitat. funcionan los seres b) Ciclos de vida: secuencia de etapas que requiere el desarrollo de un vivos? organismo. c) Semejanzas y diferencias morfológicas entre organismos. 2. ¿Cómo son y cómo se transforman los materiales de nuestro entorno? 3. ¿Qué son y cómo se producen el sonido, la luz y el movimiento? Incluye aspectos relacionados con: a) Clasificación y estado físico de los materiales. b) Estrategias de separación de mezclas, basadas en características observables. c) Transformaciones de los materiales bajo diferentes condiciones físicas y químicas. Incluye aspectos relacionados con: a) Movimiento, en términos de desplazamiento (cambio de lugar). b) Equilibrio, como no girar, ni desplazarse (estar quieto). c) Fuerza, como acción recíproca entre lo que repele y lo repelido. d) Sonido, y luz como algo que se propaga en diferentes medios. Grado 9° 1. ¿Cómo surgieron y Incluye aspectos relacionados con: 24 ¿Cómo interpretar la evaluación Pruebas Saber? Junio 4 de 2005 a) La formación de las especies, y las relaciones entre y dentro de las especies. cómo se mantienen los seres b) La transmisión de características de padres a hijos. vivos en el tiempo? c) Los sistemas de mantenimiento y control dentro de los organismos. d) Las adaptaciones relacionadas con el funcionamiento y la estructura de los seres vivos. e) Los seres vivos a través del tiempo (evolución). Incluye aspectos relacionados con: 2. ¿Qué son y cómo a) Propiedades físicas y fisicoquímicas de las mezclas y de las sustancias: se forman las densidad, periodicidad, punto de ebullición, solubilidad y concentración. mezclas y las b) Procesos de separación de mezclas, basados en las propiedades sustancias? fisicoquímicas de los componentes. Incluye aspectos relacionados con: 3. ¿Qué es y cómo a) Las fuerzas como magnitudes vectoriales. se manifiesta la b) Las fuerzas eléctrica y magnética. energía? c) La reflexión, propagación y refracción de la luz y del sonido. Finalmente, en Competencias Ciudadanas la estructura de la prueba contempla siete componentes (Tabla 4), que permiten evaluar los conocimientos y competencias que tienen los estudiantes en su desempeño ciudadano, relacionados con tres dimensiones o ejes básicos de contenidos, tales como convivencia y paz, pluralidad democrática y participación ciudadana. Esta formación le permitirá a los ciudadanos la participación activa en la toma de decisiones, el respeto por los derechos humanos y el aprendizaje necesario para vivir en armonía, respetando y valorando la diversidad. Tabla 4. Componentes de la prueba de Competencias Ciudadanas (www.icfes.gov.co) 1. Conocimiento en ciudadanía Los conocimientos se refieren a la información que tienen los y las estudiantes sobre cada uno de los aspectos de la ciudadanía: la convivencia pacífica, la participación y responsabilidad ciudadana, la pluralidad y la identidad, enmarcados en el respeto y promoción de los derechos humanos y las formas en que usan estos conocimientos en sus vidas cotidianas. Se busca identificar qué tan comunes son ciertas creencias y actitudes relacionadas con cada uno de los tres grupos de los estándares de competencias: 2. Actitudes hacia convivencia pacífica, participación democrática y valoración de la diversidad. Este la ciudadanía análisis podrá llevar al desarrollo de actitudes y creencias alternativas que sean más favorables a una convivencia democrática y respetuosa de las identidades y derechos de todos. Se evalúa qué tan común es que las y los estudiantes realicen acciones que 3. Acciones favorecen la convivencia pacífica, la participación democrática, el respeto a los ciudadanas derechos humanos y la diversidad. 25 ¿Cómo interpretar la evaluación Pruebas Saber? Junio 4 de 2005 4. Ambientes democráticos 5. Procesos cognitivos Este componente no evalúa competencias de los estudiantes. En cambio, se trata de evaluar las percepciones que tienen los y las estudiantes sobre los contextos y ambientes en los que se desenvuelven en la cotidianidad. Por ejemplo, qué tanto los estudiantes consideran que en su familia, en su grupo de amigos, en su aula o en su institución educativa se promueven la convivencia, los derechos humanos, la participación democrática y la valoración de la diversidad. Se busca evaluar algunas de las competencias cognitivas definidas en los estándares, tales como la toma de perspectiva y la interpretación de las intenciones. La toma de perspectiva es la habilidad para “ponerse mentalmente en la posición del otro” y comprender su punto de vista, permitiéndole tomar decisiones adecuadas en situaciones de conflicto al considerar las diversas perspectivas que todas las personas involucradas puedan tener sobre la misma situación. La interpretación de intenciones se refiere a la capacidad para identificar adecuadamente las intenciones que puede haber detrás de las acciones de los demás y no suponer, de manera errada, que las otras personas tienen la intención de hacer daño cuando no hay razones objetivas para pensarlo. 6. Manejo de las Se pretende evaluar las habilidades de los estudiantes para identificar sus propias emociones emociones, controlar la intensidad de las mismas y expresarlas adecuadamente. 7. Empatía Se evalúa la capacidad del estudiante para experimentar sentimientos iguales o parecidos a los que está sintiendo otra persona (o inclusive un animal). Los y las estudiantes con puntajes altos en esta sección de la prueba comprenden los sentimientos de quienes sufren o están en desventaja, sienten compasión y se preocupan por el bienestar de los demás, se sienten mal cuando hacen daño o cuando no actúan para aliviar el sufrimiento de otros y se sienten orgullosos cuando actúan en beneficio de los demás o de la comunidad. Cabe anotar que la escala de clasificación en Lenguaje y Matemáticas se inicia con desempeño relativo significativamente bajo (SB), luego asciende a desempeño relativo bajo (B), luego a desempeño relativo medio (M), después a desempeño relativo alto (A) y, finalmente, desempeño relativo significativamente alto (SA). En los componentes de Ciencias Naturales y Competencias Ciudadanas la escala solamente contempla las categorías bajo (B), medio (M) y alto (A). Resultados por frecuencia de respuesta Estos resultados muestran en términos de porcentaje la cantidad de estudiantes que respondieron cada una de las opciones de respuesta a las distintas preguntas de la prueba; es decir, en qué medida eligieron la respuesta correcta a cada pregunta y en qué proporción eligieron opciones no correctas. Por ejemplo, supongamos que en un determinado ítem de la prueba de Lenguaje en 9º grado, el 70% de los estudiantes eligieron como respuesta la opción “C”, y la respuesta esperada es la opción “A”; ello está evidenciando un aprendizaje equivocado de los conceptos ó desempeños relacionados con la pregunta. La importancia de este análisis es que permite al docente y la institución reflexionar sobre las equivocaciones de sus estudiantes y corregir los procesos enseñanza-aprendizaje, 26 ¿Cómo interpretar la evaluación Pruebas Saber? Junio 4 de 2005 reorientando o precisando las actividades que correspondan; a la administración municipal y secretarías de educación les orienta la toma de decisiones para el apoyo y acompañamiento institucional que incluyan en sus planes de acción y mejoramiento. Algunas orientaciones para el análisis de los resultados por frecuencia de respuesta Como los anteriores, este tipo de análisis también ofrece distintas alternativas de interpretación y reflexión, tales como: • • • • Identificar las preguntas en las que la mayoría de los y las estudiantes acertó en la respuesta, con el fin de cultivar y consolidar dicho logro. Identificar las preguntas en las cuales la mayoría de los estudiantes optaron por una determinada opción de respuesta equivocada y estimar las causas que probablemente hayan incidido. Identificar aquellas preguntas de la prueba en las que las distintas opciones de respuesta hayan sido contestadas en proporción similar y determinar sus posibles causas. Identificar las preguntas en las cuales la proporción de “omisiones” y “multimarcas” haya sido alta (mayor al 5%). Para este análisis es necesario hacer una lectura en profundidad de todo el cuadernillo de la prueba y de la estructura de la misma, disponibles en las instituciones educativas y en el sitio web del Icfes (www.icfes.gov.co). La estructura de la prueba orienta la interpretación de los resultados, mostrando el nivel de competencia a que pertenece cada una de las preguntas, así como el componente del área correspondiente. Algunas orientaciones de uso de los resultados de las Pruebas Saber para los principales usuarios Los resultados de la evaluación externa que hace la nación a través de las Pruebas Saber (que se presentan de manera global, por departamentos, municipios y muy específicamente por institución educativa), permiten inferir cuáles son las debilidades y fortalezas en cada área evaluada, para compararlas con la meta de calidad o estándar y, a partir de ello, establecer las metas de mejoramiento. Por lo anterior, es importante que cada uno de los agentes educativos, y en sus distintas instancias de desempeño, den el uso más conveniente y con sus connotaciones específicas relacionadas con la gestión, el currículo y el compromiso que asumen dentro de su rol. A continuación aparecen algunos de los aportes a cada uno de estos agentes educativos: 27 ¿Cómo interpretar la evaluación Pruebas Saber? Junio 4 de 2005 A los y las estudiantes En forma directa a quienes presentaron la evaluación (estudiantes de los grados 5° y 9°), los resultados de las Pruebas Saber: (1) les indican sus puntos fuertes y débiles en el desarrollo de sus competencias básicas para la vida; (2) les activan y cultivan sus procesos metacognitivos o de reflexión; (3) les ofrecen elementos para ser activos en los procesos de evaluación en el aula y en el mejoramiento continuo y, (4) propician canales de comunicación con los diferentes agentes educativos –sus profesores, sus compañeros y sus familias– y de esta manera compartir con ellos el mismo sentido de la educación: formarse integralmente y adquirir las competencias necesarias para tener un desempeño eficaz en la sociedad. A los docentes Por cuanto las pruebas que se aplicaron para cada una de las áreas evaluadas disponen de una fundamentación conceptual y una estructura que permite discriminar niveles de logro de competencias y dimensiones de pensamiento (conocidas en este documento como componentes del área) y las cuales tuvieron como punto de partida los lineamientos curriculares expedidos por el Ministerio, los resultados de estas pruebas son un referente orientador y de consulta para las y los docentes. De esta manera, ellos contarán con las herramientas necesarias para participar de manera activa en la revisión del currículo y plan de estudios, que guían la labor docente en su desempeño como líderes y mediadores de los procesos de aprendizaje y desarrollo de competencias en sus estudiantes. Si bien es cierto, las Pruebas Saber no alcanzan a cubrir todos los contenidos curriculares del PEI, sí lo hacen con sus contenidos básicos que han permitido la formulación y puesta en marcha de los estándares básicos de calidad, que se constituyen a su vez en referentes para la elaboración de las pruebas. Por ello, los resultados de la evaluación externa, Pruebas Saber y de Estado, tienen implicaciones directas en el trabajo de aula, y en este sentido orientan las decisiones que día a día los docentes deben tomar para hacer efectivos los procesos pedagógicos. A los directivos de las instituciones educativas Los resultados de la evaluación Pruebas Saber proporcionan información a los directivos docentes sobre el nivel de aprendizaje y desempeño de los y las estudiantes en cada una de las áreas evaluadas y como tal: • Sirven de referente para la toma de decisiones en torno al mejoramiento institucional. • Sirven para focalizar y nivelar a los estudiantes de logros más bajos. • Son indicadores del nivel de calidad de la educación que ofrece la institución. • Son indicadores para hacer seguimiento institucional en el tiempo. 28 ¿Cómo interpretar la evaluación Pruebas Saber? Junio 4 de 2005 Es importante anotar que todas las instituciones pueden mejorar, bien sean sobresalientes en sus resultados, estén dentro del promedio o los desempeños de sus estudiantes hayan sido bajos. A los padres de familia Por su parte, los resultados de las Pruebas Saber les proporcionan a los padres de familia indicadores claros y concretos sobre la calidad de la educación que reciben sus hijos y elementos para analizar el desempeño de las instituciones donde estudian, frente a los estándares esperados. Igualmente, les dan elementos para interactuar con argumentos y criterios con las autoridades escolares y educativas en torno a la formación de los estudiantes. Al mismo tiempo la información de los resultados de la evaluación les permite exigir, de manera ordenada, los derechos consagrados en la Ley sobre el derecho fundamental de la educación. A las autoridades educativas También las autoridades educativas reciben información valiosa derivada de las Pruebas Saber que les permiten medir el pulso de cómo va el proceso de calidad en todas las entidades territoriales y las instituciones educativas del país. De esta manera están en capacidad de focalizar los municipios e instituciones que han tenido desempeños bajos y brindarles el apoyo y acompañamiento externo necesarios para mejorar. Para el caso de la focalización de aquellos municipios e instituciones con desempeños más altos, las autoridades educativas los podrán invitar a compartir sus estrategias a través de una red de cooperación interinstitucional y municipal. A su vez, los resultados de las Pruebas Saber permiten a las secretarías departamentales y municipales orientar con mayor certeza los planes de mejoramiento a partir de los logros conseguidos y las deficiencias detectadas por mejorar. Y, finalmente, para articular las necesidades de la sociedad, del mundo laboral y de la competitividad del país, con las competencias conseguidas en determinados niveles y las que se deben alcanzar. A las instituciones formadoras de docentes Las Facultades de Educación y las Normales Superiores de todo el país disponen de información válida para reorientar sus programas de formación inicial y de actualización de los profesionales docentes en servicio y hacerlos coherentes con las necesidades del sistema educativo en su proceso de mejoramiento sostenido. 29 ¿Cómo interpretar la evaluación Pruebas Saber? Junio 4 de 2005 Consideraciones finales La evaluación como herramienta para mejorar la calidad de la educación en Colombia es ya un hecho en nuestro país, ahora que se dispone de una línea de base censal con información válida y confiable que podrá ser usada por todas las instituciones educativas –públicas y privadas– para formular su plan de mejoramiento institucional. Así, cada uno de los miembros de la comunidad educativa –directivos, docentes, personal administrativo, estudiantes y familias– podrá asumir sus roles en el proceso de mejoramiento continuo en favor de una educación de calidad para todos los colombianos y colombianas. Como se ha podido apreciar en este capítulo, la política de calidad educativa en su componente evaluativo ha centrado su atención en valorar el desarrollo de competencias básicas de los estudiantes en áreas tales como Matemáticas, Lenguaje, Ciencias Naturales y Competencias Ciudadanas, y entregar al país los resultados de manera clara y sencilla, de tal suerte que los distintos miembros de la comunidad educativa pueden establecer el nivel de desarrollo de las competencias de sus estudiantes. En efecto, a través de diversos mecanismos, el Ministerio de Educación Nacional ha diseñado y puesto en operación estrategias eficientes para el análisis, la interpretación y el uso de los resultados de la evaluación, de fácil comprensión y acceso para toda la sociedad, tales como: - Publicación de una cartilla (serie guías No. 2) titulada ¿Cómo entender las Pruebas Saber y qué sigue?, que circuló en 2003 con el periódico El Tiempo en su versión del domingo y cuyos contenidos fueron base para la elaboración de este capítulo. - Presentación de los resultados de la evaluación en las áreas mencionadas en el sitio web del MEN6 (www.mineducacion.gov.co/saber) donde se encuentran procesados los resultados de la evaluación, acompañados de resúmenes de documentos que facilitan su comprensión para que el grueso de la sociedad pueda acceder a ellos sin necesidad de poseer los conocimientos especializados involucrados tanto en la estadística como en el complejo tema del desarrollo de competencias. Igualmente, el Ministerio ha realizado seminarios-taller con docentes, directivos y equipos de calidad de las Secretarías de Educación departamentales y de municipios certificados, con el propósito de brindar capacitación especializada en el análisis, interpretación y uso de los resultados de la evaluación en los procesos de planeación que se reviertan en un mejoramiento continuo de las prácticas pedagógicas. El desarrollo de este sitio web estuvo a cargo de Manuel Cruz Pineda, profesional de la Subdirección de Estándares y Calidad del Ministerio de Educación Nacional. 6 30 ¿Cómo interpretar la evaluación Pruebas Saber? Junio 4 de 2005 Lo que sigue Cabe anotar que el Gobierno Nacional en desarrollo de su política de calidad de la educación, ha puesto en marcha un nuevo operativo de evaluación censal de competencias básicas de las áreas antes señaladas, adicionando Ciencias Sociales, para los grados 5º y 9º de Educación Básica que se llevará a cabo, para las instituciones educativas de calendario A, en octubre de 2005 y para las de calendario B, en abril de 2006. Como se ha hecho hasta ahora, los resultados de estos operativos de evaluación serán procesados y entregados a las instituciones, entidades territoriales y sociedad en general mediante los medios masivos de comunicación y estrategias especiales de fácil consulta, como la antes anotada. Seguramente las distintas audiencias para los resultados de la evaluación, ya señaladas en este documento, podrán constatar sus expectativas de mejoramiento de la calidad, al compararlos con los que sirvieron para establecer la llamada línea de base y que ya hemos explicado. Conviene mencionar que las pruebas a aplicar en este segundo operativo censal, son comparables con las del primer operativo (2002-2003). A su vez, el país participará en estudios internacionales de evaluación de competencias en Lenguaje, Matemáticas y Ciencias, tales como el Segundo Estudio del LLECE de la Unesco/Orealc en 2005, el estudio PISA de la Organización para la Cooperación y el Desarrollo Económico –OECD– en 2006, y en el TIMSS de la IEA en 2007. Como puede observarse, el Gobierno Nacional ha logrado establecer un sistema que busca mantener a la sociedad informada sobre los aspectos básicos de la calidad y la equidad del servicio educativo y, a la vez, orientarla para que ponga en práctica sus demandas por una educación justa y de buena calidad. Queda planteada la invitación, obligada y urgente, a las Universidades, a las Normales Superiores, a los investigadores y a las organizaciones públicas y privadas del sector, para que aúnan esfuerzos y recursos para hacer realidad los sueños de tener una educación que responda a los apremiantes requerimientos del país y conseguir sus grandes metas y expectativas de desarrollo. 31 ¿Cómo interpretar la evaluación Pruebas Saber? Junio 4 de 2005 Bibliografía recomendada Camperos, M. (1984) “La evaluación formativa del aprendizaje”. Facultad de Humanidades. Caracas. Mimeo. Casassus, Juan (1997) Claves para una educación de calidad. Kapelusz. Buenos Aires. Delors, Jacques (1996) Comisión internacional sobre la educación para el siglo XXI. La educación encierra un tesoro. Santillana. Ediciones Unesco. Madrid. De Gregori, Waldemar (1997) Cibernética social I. Isca Editores Siglo XXI. Bogotá. Díaz Barriga, Ángel (1997) Currículum y evaluación escolar. Instituto de Estudios y Acción Social, REI. Argentina. Estévez Solano, Cayetano (1995) Evaluación integral por procesos. Magisterio. Bogotá. Flores Ochoa, Rafael (1996) Hacia una pedagogía del conocimiento. McGraw-Hill. Bogotá. Gómez Buendía, Hernando (1998) Educación, la agenda del Siglo XXI. PNUD-Tercer Mundo Editores. Bogotá. García Madruga, Juan (1991) Desarrollo y conocimiento. Siglo XXI. Madrid. Lafourcade, Pedro (1994) La evaluación en organizaciones educativas centradas en logros. Trillas, Bogotá, 1994. Ministerio de Educación Nacional (1994) Ley General de Educación. Ministerio de Educación Nacional. Decreto 1860 de 1994. Ministerio de Educación Nacional. Resolución 2343 de 1996. Ministerio de Educación Nacional (1997) La evaluación en el aula y más allá de ella. MEN. Bogotá. Ministerio de Educación Nacional (2002) Finalidades y alcances del Decreto 230 de 2002, Currículo, Evaluación y Promoción de los educandos, y Evaluación Institucional. Misión de Ciencia, Educación y Desarrollo (1996) Colombia al filo de la oportunidad. Exe Editores, Santafé de Bogotá, 1996. 32 ¿Cómo interpretar la evaluación Pruebas Saber? Junio 4 de 2005 Montenegro, Ignacio (2003). “¿Son las competencias el nuevo enfoque que la educación requiere?”. En Revista Magisterio. No. 1. Febrero-marzo. National Council of Teachers of Mathematics (1991) Estándares curriculares y de evaluación para la educación matemática. Edición en castellano, sociedad andaluza de educación Thales. Nickerson, Raymond; Perkins, David y Smith, Edward (1994) Enseñar a pensar – aspectos de la aptitud intelectual. Paidós. Barcelona. Oteiza, Fidel (1996) Generación de estándares en educación. Ponencia Seminario Internacional de Estándares para Evaluación Educativa, Fortaleza, Brasil. OEI – Cumbre de las Américas (1998) Programa evaluación de la calidad de la educación. Volumen I. OEI. Buenos Aires. Rotger, B. (1990) Evaluación formativa. Editorial Cincel. Madrid. Sander, Benno (1996) Gestión educativa en América Latina, construcción y reconstrucción del conocimiento. Troquel. Buenos Aires. Shinkfield, Anthony y Stufflebeam, Daniel (1989) Evaluación sistemática – Guía teórica y práctica. Paidós. Barcelona. Triana Ferrer, Alejandro (1998) Tratamiento y usos de la evaluación. Universidad Nacional de Educación a Distancia. Madrid. Universidad Pedagógica Nacional (1995) Evaluación, proyecto educativo y descentralización en la educación. UPN. Bogotá. Varela, Francisco y Maturana, Humberto (1990) El árbol del conocimiento. Debate. Madrid. Vargas de Avella, Martha y Restrepo Gómez, Bernardo (1994) Materiales educativos e innovaciones. Secab. Bogotá. Sitios web que se recomienda consultar www.icfes.gov.co www.mineducacion.gov.co www.preal.org. 33