Calidad Sistémica del Software Educativo Pérez, María; [email protected] Díaz-Antón, Gabriela; [email protected] Grimán, Ana; [email protected] Mendoza, Luis. [email protected] Universidad Simón Bolívar Venezuela Resumen Cuando se hace referencia a la Calidad del Software Educativo, se requiere de un producto que satisfaga tanto las expectativas del docente como de los alumnos, a un menor costo, libre de errores y que cumpla especificaciones instruccionales y tecnológicas. Esta necesidad conlleva a construir un modelo que especifique esta calidad, enfocándolo no sólo como un producto sino considerando también el proceso para construirlo. La meta de este trabajo es proponer un modelo de especificación de calidad sistémica para software educativo. A través del estudio de un caso se describe su aplicación y se analiza su desempeño. Se propone además un método para su aplicación, que toma en cuenta la preselección y estudio final para hacer la adquisición de un software educativo bajo este enfoque de calidad. El modelo propuesto cuantifica la calidad sistémica deseada a partir de tres categorías: Funcionalidad, Usabilidad y Fiabilidad, con sus respectivas métricas. Luego de su aplicación se puede calificar el software evaluado según cuatro niveles de calidad: nula, básica, intermedia o avanzada. Para la evaluación del software educativo se parte tanto de los aspectos de contenido y computacionales como de los documentos de soporte pedagógico y técnico. Palabras clave: calidad de software, software educativo, especificación de calidad Abstract When speaking about Learning Software Quality, we require a product which meets teachers and students expectations; a cost-effective, error-free, instructional specifications-compliant product. This need promotes the construction of a model for quality specification, focused not only on the product but considering also the construction process. The goal of this research is proposing a systemic quality specification model for Learning Software. Its application and performance are described and analyzed by using a case study. An application method using a systemic focus is also proposed for pre-selecting and acquiring an Learning Software. The proposed model estimates the systemic quality for three categories: Functionality, Usability and Reliability, including the respective metrics. Once applied this model is possible to qualify the evaluated software according to four quality levels: null, basic, median and advanced. For evaluating Learning Software we have included here so computing and content aspects as pedagogical and technical support documents. Keywords: software quality, learning software, quality specification Introducción La presencia de las Tecnologías de la Información (TI) en el aula, es cada día mayor; sin embargo, es un reto garantizar que se haga un uso adecuado de las mismas. Parte de este reto es contar con software de calidad. En particular, con el software que esté soportando el proceso de enseñanza-aprendizaje. La calidad es un elemento multidimensional y contextual, lo cual lo hace altamente cualitativo; pero la tendencia mundial es tratar de cuantificarla para soportar a los tomadores de decisiones en su proceso de selección y adquisición. El objetivo de este artículo es proponer un modelo de especificación de la calidad para el software educativo, con un enfoque sistémico. Este modelo permitirá a las escuelas venezolanas contar con un instrumento orientador, que cuantifica (mide) la calidad del software educativo que se desee adquirir. Para su evaluación, este modelo fue aplicado a cuatro softwares educativos en una escuela venezolana. Este artículo presenta una breve descripción del concepto de calidad sistémica del software, algunos aspectos de la calidad de software educativo y, posteriormente, presenta la adecuación del modelo MOSCA a software educativo. Finalmente, se presentan los resultados de la aplicación del modelo al estudio de cuatro casos, para cerrar con las conclusiones obtenidas de esta investigación. Calidad sistémica de software Según Callaos y Callaos (1993), la calidad de los Sistemas de Software no es algo que depende de una sola característica en particular, sino que obedece al compromiso de todas sus partes. Tomando en cuenta la calidad del producto y la calidad del proceso, el LISI-USB desarrolló el Modelo Sistémico de Calidad de Software –MOSCA- (Mendoza et al., 2001; 2002), que integra el modelo de calidad del producto (Ortega et al., 2000) y el modelo de calidad del proceso de desarrollo (Pérez et al., 2001), y está soportado por los conceptos de calidad total sistémica (Callaos y Callaos, 1993; Pérez et al., 1999). A la hora de definir la calidad del software se debe diferenciar entre la calidad del producto software y la calidad del proceso de desarrollo de éste -calidad de diseño y fabricación- (Callaos y Callaos, 1993; Pérez et al., 1999). No obstante, las metas que se establezcan para la calidad del producto van a determinar los objetivos del proceso de desarrollo, ya que la calidad del primero va a depender, entre otros aspectos, de estos últimos. Según Callaos y Callaos (1993), la calidad de los Sistemas de Software no es algo que depende de una sola característica en particular, sino que obedece al compromiso de todas sus partes. Ésta es una visión sistémica de la calidad del software. Tomando en cuenta este enfoque de la calidad, se desarrolló el Modelo Sistémico de Calidad de software (MOSCA), en el LISI-USB (Mendoza et al., 2001), que integra el modelo de calidad del producto (Ortega, et al., 2000) y el modelo de calidad del proceso de desarrollo (Pérez et al., 2001), y soporta estos conceptos de calidad sistémica (Callaos y Callaos, 1993; Pérez et al., 1999). En cuanto a la perspectiva del producto, este modelo plantea, sobre la base de las 6 características de calidad del estándar internacional ISO/IEC 9126 (1991), un conjunto de categorías, características y métricas asociadas que miden la calidad y hacen del modelo un instrumento de medición de gran valor, ya que cubre todos los aspectos imprescindibles para medir directamente la calidad del producto de software. En cuanto a la perspectiva del proceso, este modelo se formuló sobre la base de las 5 características de calidad del estándar internacional ISO/IEC 15504 (JTC 1/SC 7, 1991), un conjunto de categorías, características y métricas asociadas que miden la calidad de un proceso de software con un enfoque sistémico. El modelo de calidad que soporta este enfoque se describe a continuación. Como se puede observar en el gráfico Nº 1, MOSCA consta de 4 niveles, los cuales son descritos seguidamente. Gráfico Nº 1 Estructura de MOSCA. (Mendoza et al. 2001; 2002). Nivel 0: Dimensiones. Eficiencia del proceso, Efectividad del proceso, Eficiencia del producto y Efectividad del producto son las cuatro dimensiones propuestas en el prototipo de modelo. Sólo un balance y una buena interrelación entre ellas permite garantizar la calidad Sistémica global de una organización. Nivel 1: Categorías. Se contemplan 11 categorías: 6 pertenecientes al producto y las otras 5 al proceso de desarrollo. Producto: Funcionalidad (FUN), Fiabilidad (FIA), Usabilidad (USA), Eficiencia (EFI), Mantenibilidad (MAB) y Portabilidad (POR). Proceso: Cliente-Proveedor (CUS), Ingeniería (ENG), Soporte (SUP), Gestión (MAN) y Organizacional (ORG). Nivel 2: Características. Cada categoría tiene asociado un conjunto de características (56 asociadas al producto y 27 al proceso de desarrollo), las cuales definen las áreas claves a satisfacer para lograr, asegurar y controlar la calidad tanto en el producto como en el proceso. Entre las características asociadas a cada categoría del producto, se proponen en el modelo MOSCA, una serie de características del proceso (ver Figura 1). Esto se debe a que algunas características de la calidad del proceso, impactan directamente en las categorías del producto, al igual que ciertas características de la calidad del producto definen categorías del proceso. Nivel 3: Métricas. La cantidad de métricas asociadas a cada una de las características que conforman MOSCA es de 587 en total. Adicionalmente, MOSCA cuenta con un algoritmo que facilita su operacionalización y permite estimar la calidad de software. El algoritmo contempla tres fases: (1) estimación de la calidad del producto de software con un enfoque sistémico; (2) estimación de la calidad del proceso de desarrollo de software con un enfoque sistémico; y (3) integración de las mediciones de los submodelos de la calidad del producto y la calidad del proceso. Calidad de software educativo Según Gros et al. (1997) se considera software educativo a cualquier producto basado en computadora con una finalidad educativa. Así mismo, según Galvis (2000), en el campo educativo suele denominar software educativo a aquellos programas que permiten cumplir y apoyar funciones educativas. En esta categoría entran tanto los que dan soporte al proceso de enseñanza y aprendizaje (un sistema para enseñar matemáticas, ortografía, contenidos o ciertas habilidades cognitivas), como los que apoyan la administración de procesos educacionales o de investigación (Ej. un sistema que permita manejar un banco de preguntas). El significado que se maneja en este trabajo está relacionado principalmente con la primera definición; es decir, con los materiales educativos computarizados que apoyan el proceso de enseñanza-aprendizaje, a las que en Inglés se denomina courseware (i.e., software educativo para cursos) (Galvis, 2000). Cuando se habla de calidad de software educativo, se requiere un producto que satisfaga tanto las expectativas de los docentes como de los usuarios, a un menor costo, libre de defectos y cumpliendo con ciertas especificaciones (Pressman, 2002). Según Gros (2000), la calidad del software educativo está determinada no sólo por los aspectos técnicos del producto sino por el diseño pedagógico y los materiales de soporte. Este último aspecto es uno de los más problemáticos ya que existen poco programas que ofrezcan un soporte didáctico. La evaluación de software educativo se ha centrado tradicionalmente en dos momentos: 1. Durante su utilización real por los usuarios, para juzgar su eficiencia y los resultados que con él se obtienen. 2. Durante el proceso de diseño y desarrollo, con el fin de corregir y perfeccionar el programa. En consecuencia, el tema de evaluación del software educativo ha sido estudiado y documentado por diversos autores del ámbito educativo, proporcionando medidas de evaluación en el área educativa y técnica (Barroso et al., 1998; Del Moral, 1998, Galvis, 2000; Gómez, 1997; González, 1999; Gros et al., 1997; Marquès, 1998; Martínez y Sauleda, 1993; MVU, 2002; Navarro, 1999; OTA, 1988; PEMGU, 1999; Reeves, 1998; Stephen, 1998). Destacan los métodos de evaluación de Galvis (2000) y de la Universidad Virtual de Michigan (MVU, 2002), que utilizan métodos cuantitativos de evaluación. Sin embargo, en vista de que gran parte de las propuestas sobre software educativo, son de índole cualitativa o necesitan adaptarse a medidas estándares de evaluación de software según las normas ISO/IEC 9126 (1991), surge la necesidad de la disponibilidad de un instrumento de medidas estándares de calidad para la evaluación de software educativo, que sea de utilidad tanto para los desarrolladores de software educativo como para los interesados en adquirir software comercial (por ejemplo, educadores e instituciones educativas). Adecuación de mosca para software educativo Dado que MOSCA es un modelo de especificación de la calidad de los sistemas de software, que además permite su medición, en este artículo se hace una adecuación del mismo para software educativo. Como un primer alcance, se decidió utilizar sólo la Perspectiva Producto, y de esta perspectiva sólo la Dimensión de la Efectividad del Producto; en virtud de que la necesidad más inmediata es dar a las escuelas venezolanas una orientación para su proceso de selección del software educativo a adquirir. La propuesta del modelo de evaluación de calidad de software educativo consiste, entonces, en un conjunto de categorías, características, subcaracterísticas y las métricas asociadas (ver Gráfico Nº 2 y Tabla 1). La estructura del modelo consta de cuatro niveles que se explican brevemente a continuación: Gráfico Nº 2 Propuesta del modelo de evaluación de software educativo (modificado de Mendoza et al., 2001). Perspectiva: Producto Nivel 0: Dimensiones. Efectividad Producto. Nivel 1: Categorías. Se contemplan tres categorías: Funcionalidad (FUN): Es la capacidad del producto del software para proveer funciones que cumplan con necesidades específicas o implícitas, cuando el software es utilizado bajo ciertas condiciones. Usabilidad (USA): Esta categoría se refiere a la capacidad del producto de software para ser atractivo, entendido, aprendido y utilizado por el usuario bajo condiciones específicas. Fiabilidad (FIA): La fiabilidad es la capacidad del producto de software para mantener un nivel especificado de rendimiento cuando es utilizado bajo condiciones especificadas. Como se indicó en la sección anterior, MOSCA consta de seis categorías, de las cuales sólo se deben utilizar tres para la evaluación de software educativo. Debido a que la categoría de Funcionalidad siempre debe estar presente, en esta actividad se seleccionan dos categorías de las cinco restantes del modelo del producto (Usabilidad, Fiabilidad, Eficiencia, Mantenibilidad y Portabilidad). Se seleccionaron Usabilidad y Fiabilidad (Grimán et al., 2001). La Usabilidad es seleccionada debido a que para que un software educativo motive al aprendizaje, es fundamental que el material educativo sea atractivo y de fácil manejo, debe generar actividades interactivas que motiven y mantengan la atención, actividades que deben ser variadas y que respondan a los diversos estilos de aprendizaje. Se seleccionó Fiabilidad debido a que es importante que el producto funcione bajo las condiciones establecidas y mantenga un nivel específico de rendimiento para garantizar un ambiente de aprendizaje adecuado. Nivel 2: Características. Cada categoría tiene asociado un conjunto de características (10 en total). Una vez seleccionadas las categorías que están relacionadas con la evaluación de software educativo (Funcionalidad, Usabilidad y Fiabilidad), se seleccionan las características asociadas a estas categorías en MOSCA, que están relacionadas con el área educativa. Se decidió seleccionar ciertas características asociadas a la efectividad del producto y no a la eficiencia del producto, debido a que, al adquirir un software comercial, no se tiene acceso a los documentos que permiten aplicar las métricas correspondientes a esta dimensión, por lo que no es posible evaluarla. Nivel 3: Subcaracterísticas. Para algunas de las características se asocian un conjunto de subcaracterísticas. Para algunas características, tales como ‘Ajuste a los propósitos’ y ‘Facilidad de comprensión del software’, se agregó un conjunto de sub-características (14 en total) que añadieron el componente educativo a MOSCA. Nivel 4: Métricas. Para cada característica se propone una serie de métricas utilizadas para medir la calidad sistémica. Dada la cantidad de métricas asociadas a cada una de las características que conforman la propuesta (276 en total), éstas no serán presentadas en el presente artículo. Es necesaria una selección de métricas adicionales relacionadas con Funcionalidad, Usabilidad y Fiabilidad, que permitan adaptar MOSCA en el área de software educativo. En esta propuesta se realizó una investigación sobre instrumentos de evaluación de software educativo elaborados por universidades, organizaciones e instituciones gubernamentales, y expertos en la materia (Barroso et al., 1998; Del Moral, 1998, Galvis, 2000; Gómez, 1997; González, 1999; Gros et al., 1997; Marquès, 1998; Martínez y Sauleda, 1993; MVU, 2002; Navarro, 1999; OTA, 1988; PEMGU, 1999; Reeves, 1998; Stephen, 1998). De esta investigación se realizó la propuesta de un conjunto de métricas que se incorporaron en la estructura de MOSCA (276 en total). En resumen, la propuesta del modelo de evaluación de software educativo consta de un total de 3 categorías, 10 características, 14 sub-características y 276 métricas (ver Tabla 1). Tabla Nº 1 Propuesta de categorías, características, sub-características y número de métricas, para el modelo propuesto basado en MOSCA. Adaptado de (Mendoza et al., 2001). CATEGORÍA CARACTERÍSTICAS SUBCARACTERÍSTICAS FUN.1.1 General (6) FUN.1.2 Objetivos aprendizaje (10) de FUN.1.3 Contenidos aprendizaje (24) de FUN.1.4 Actividades aprendizaje (17) de FUN.1 Ajuste a los FUN.1.5 Ejemplos (5) propósitos (118) FUN.1.6 Motivación (17) FUNCIONALIDAD FUN.1.7 Retroalimentación (11) (FUN) FUN 1.8 Ayudas (5) FUN.1.9 Evaluación registro de datos (11) y FUN.1.10 Metodología de enseñanza (12) FUN.2 Precisión (4) FUN.3 Seguridad (4) USA.1.1 General (13) USA.1.2 Interactividad (21) USA.1 Facilidad comprensión (91) USABILIDAD de USA.1.3 Diseño interfaz (34) de la USA.1.4 Guías didácticas (23) (USA) USA.2 Capacidad de uso(11) USA.3 Interfaz Gráfica (14) USA.4 Operabilidad (15) FIABILIDAD (FIA) FIA.1 Madurez (11) FIA.2 Recuperación (4) FIA.3 Tolerancia a fallas (4) Total de métricas: 276 Una vez formulado el modelo, se diseñó el proceso a seguir para estimar la calidad del Software educativo según MOSCA. Caso de Estudio y Resultados Para la prueba de este modelo de evaluación de software educativo con enfoque sistémico de calidad, se seleccionaron los 4 títulos que se muestran en la Tabla 2, dos en español y dos en inglés, para distintas áreas de la educación y para diferentes edades. Tabla Nº 2 Lista de software educativo que se consideró para la evaluación de la propuesta. Software educativo Los aventureros. 3er. grado. Materia 3er.grado Curricular Focus on Grammar Gramática inglesa Trampolín 3er. Grado Tercer ciclo Curricular Smart Start in English (Hable Inglés ¡ya!) Idioma Inglés Edad Fabricante 8 – 10 años The Learning Company 12 años adultos 8 a 10 años 10 años a adultos a Longman Knowledge Adventure Anaya Interactiva Syracuse Language Language Larousse Se aplicaron dos tipos de cuestionarios. El primero dirigido a los docentes y el segundo dirigido a los estudiantes. Ambos cuestionarios se desarrollaron a partir de las métricas que conforman el modelo propuesto. Cada software educativo fue evaluado por dos docentes y dos alumnos. A continuación se muestran los resultados. Funcionalidad: En la gráfico 3 se muestran los porcentajes alcanzados por los cuatro software educativos, en cuanto a los requerimientos de calidad asociados a Funcionalidad. – Gráfico Nº 3 Porcentaje de satisfacción del software educativo frente a las tres características de Funcionalidad. Como se puede observar en la gráfico 3, los cuatro softwares educativos cumplen con las características de ‘Ajuste a los propósitos’ y ‘Precisión’, por lo tanto se concluye que la categoría Funcionalidad es satisfecha para los cuatro softwares evaluados, a saber, “Los aventureros. 3er. Grado”, “Focus on Grammar”, “Trampolín tercer ciclo” y “Smart Start in English (Hable Inglés ¡ya!)”; y se procede a continuación con el algoritmo del modelo ampliado de MOSCA. Usabilidad: La Figura 4 muestra los porcentajes alcanzados por las características asociadas a la categoría Usabilidad. Gráfico Nº 4 Porcentaje de satisfacción del software educativo frente a las cuatro características de Usabilidad Como se puede observar en la gráfico 4, los primeros tres softwares educativos cumplen con tres de las cuatro características asociadas a Usabilidad, por lo tanto se concluye que la categoría Usabilidad es satisfecha para “Los aventureros. 3er. Grado”, “Focus on Grammar”, “Trampolín tercer ciclo”. Para el software “Smart Start in English (Hable Inglés ¡ya!)”, las características de ‘ facilidad de comprensión del software’ y ‘operabilidad’ no alcanzaron el 75% de la satisfacción, por lo que se concluye que para este software, la categoría Usabilidad no es satisfecha. Fiabilidad: La Figura 5 muestra los porcentajes alcanzados por las características asociadas a la categoría Fiabilidad. Como se puede observar en la Figura 5, todos los softwares educativos cumplen con dos de las tres características asociadas a Fiabilidad, por lo tanto se concluye que la categoría Fiabilidad es satisfecha para “Los aventureros. 3er. Grado”, “Focus on Grammar”, “Trampolín tercer ciclo” y “Smart Start in English (Hable Inglés ¡ya!)”. Gráfico Nº 5 Porcentaje de satisfacción del software educativo frente a las tres características de Fiabilidad. Analizando los resultados de las Figuras 3, 4 y 5, se tiene la Tabla 3, la cual muestra que tres de los cuatro softwares evaluados presentan nivel de calidad avanzado; es decir, los softwares educativos “Los aventureros 3er. Grado”, “Focus on Grammar” y “Trampolín tercer ciclo” presentan nivel de calidad Avanzada. El software “Smart Start in English (Hable Inglés ¡ya!)” presenta nivel de Calidad Intermedia, debido a que la categoría Usabilidad no fue satisfecha. Tabla Nº 3 Resultados de las evaluaciones de los cuatro software educativos según el modelo propuesto. Software educativo Categoría Nivel Funcionalidad Usabilidad Fiabilidad calidad Aventureros, tercer grado Satisfecha Satisfecha Satisfecha Avanzada Focus on grammar Satisfecha Satisfecha Satisfecha Avanzada Trampolín tercer ciclo Satisfecha Satisfecha Satisfecha Avanzada Smart start in English Satisfecha Insatisfecha Satisfecha Básica de Como se podrá observar en la Tabla 3, para que un software educativo, presente nivel de calidad avanzada, debe satisfacer las tres categorías, a saber, Funcionalidad, Usabilidad y Fiabilidad. El nivel de calidad Intermedia sólo será posible en el caso de que las categorías de Funcionalidad y Usabilidad sean satisfechas. Esto quiere decir que si el software educativo tiene las categorías de Funcionalidad y Fiabilidad, satisfechas, el nivel de calidad será sólo de Básico. La exigencia de poseer al menos Funcionalidad y Usabilidad para poseer el nivel de calidad Intermedio, se debe a que el software educativo tiene que cumplir con los propósitos para el cual fue diseñado, debe ser fácil de usar y poseer una interfaz adecuada a los propósitos y a la población de estudiantes para la que fue diseñada. Conclusiones La incorporación de las Tecnologías de la información ofrece distintas dimensiones al proceso de aprendizaje. Garantizar que esta incorporación sea de calidad no es una tarea fácil, debido al caracter multi-dimensional de la calidad. En este artículo se propone un modelo de especificación de la calidad para el software educativo con un enfoque sistémico. El modelo contempla tres categorías para su evaluación ellas son: Funcionalidad, Usablidad y Fiabilidad. Estas características fueron seleccionadas en virtud de los requerimientos no funcionales más relevantes en el contexto del software educativo. Las mismas se operacionalizan a través de 276 métricas. Este modelo demostró ser una herramienta de evaluación útil para el docente al soportarlo en el proceso de selección de este tipo de software. El mismo se aplicó al estudio de un caso en una escuela venezolana. Para ello, se evaluaron cuatro software educativos, de los cuales tres demostraron tener un Nivel Avanzado de calidad y uno un Nivel Básico. Agradecimientos Esta investigación fue financiada por el Fondo Nacional de Ciencia, Tecnología e Innovación (FONACIT) de la República Bolivariana de Venezuela, a través del proyecto S1-2000000437. Referencias Barroso, J., Mendel, J.L., Valdeverde, J. (1998) Evaluación de los medios informáticos: una escala de evaluación para el software educativo. En Cebrián, M. et al. Creación de materiales para la innovación con nuevas tecnologías: EDUTEC 97, 355-358. Málaga: ICE Univ. Málaga. Callaos, N. y Callaos, B. (1993) Designing with Systemic Total Quality, en International Conference on Information Systems, International Institute of Informatics and Systemics, Orlando, pp. 548-560. Del Moral, E. (1998). El desarrollo de la creatividad y las nuevas herramientas tecnológicas. Comunicación Educativa y Nuevas Tecnologías”, 51-66. Barcelona: Praxis. Galvis, A., (2000) Ingeniería de software educativo 2da. reimpresión. Uniandes. Colombia. Gómez, M.T. (1997) Un ejemplo de evaluación de software educativo multimedia. En Cebrián, M. et al. Creación de materiales para la innovación con nuevas tecnologías: EDUTEC97. Málaga: ICE Univ. Málaga. González, M., (1999) Evaluación de software educativo. Orientaciones para su uso. Proyecto CONEXIONES. Universidad de EAFIT. Grimán, A, Mendoza, L., Pérez M., Rojas, T. (2001) Modelo de calidad de software educativo: aplicación del estándar ISO/IEC 9126. Valencia: 2da. Edición EDUWEB – Congreso Venezolano de Educación e Informática. Julio. 2001, Venezuela. Gros, B. (2000) Del software educativo a educar con software. Artículo publicado en el número monográfico de la revista digital Quaderns Digital. Disponible en: http://www.quadernsdigitals.net/articuloquaderns.asp?IdArticle=3743 Gros, B. (Coord.), Bernardo, A., Lizano, M., Martínez, C., Panadés, M., Ruiz, I. (1997) Diseños y programas educativos, pautas pedagógicas para la elaboración de software. Editorial Ariel, S.A. 149 pp. ISO/IEC 9126: 1991, JTC 1/SC 7. Information technology - Software product evaluation - Quality characteristics and guidelines for their use, JTC 1 Organization, Montreal, Quebec, 1991. JTC 1/SC 7. Software Process Assessment, TR 15504, on-line, WG 10: Software Process Assessment. ISO/IEC Organization, 1991. Disponible en: http://www.sqi.gu.edu.au/spice Marqués, P. (1998). "La evaluación de programas didácticos". Comunicación y Pedagogía, (149) 53-58, Barcelona. Disponible en: http://www.xtec.es/~pmarques/tecnoedu.htm Martínez, R. y Sauleda, N. (1993) La evaluación de software educativo en el escenario de la evolución de los paradigmas educativos. Enseñanza, 161 – 174. Mendoza, L., Pérez, M., Rojas, T. (2001) Modelo sistémico para estimar la calidad de los sistemas de software. (MOSCA).ASOVAC, Acta Científica Venezolana, (53:3) p. 435. Disponible en: http://www.lisi.usb.ve/publicaciones Mendoza, L., Pérez, M., Grimán, A., Rojas, T. (2002) Algoritmo para la Evaluación de la Calidad Sistémica del Software. 2das. Jornadas Iberoamericanas de Ingeniería del Software e Ingeniería del Conocimiento (JIISIC 2002) Salvador, Brasil, Noviembre, pp. 1-11. Disponible en: http://www.lisi.usb.ve/publicaciones MVU, Michigan Virtual University (2002) Standard Quality on-line courses. Disponible en: http://ideos.mivu.org/standards Navarro, E. (1999) Evaluación de materiales multimedia. Proyecto SAMIAL. Comunicación y Pedagogía. (157), 36 – 39. Ortega M.; Pérez, M.; Rojas T. (2000) “A Model for Software Product Quality with a Systemic Focus”, en The 4th World Multiconference on Systemics, Cybernetics and Informatics SCI 2000 and The 6th Intrernational Conference on Information Systems, Analysis and Synthesis ISAS 2000. Orlando, USA, Julio. Disponible en: http://www.lisi.usb.ve/publicaciones OTA (1988) Power on! New tools for teaching and learning. U.S. Congress, Office of Technology Assestment, SET-379, September, Government Printing Office, Washington D.C. PEMGU, (1999) Pedagogical evaluation methods & guidelines for multimedia applications Partners: Epral (Portugal), Colegio Irabia (Spain) and Holbaek Technical College (Denmark), DEL (Denmark), the University of Cologne (Germany) and Olivetti (Italy). Disponible en: http://www.irabia.org/pemgu Pérez, M., Rojas T., Ortega, M., y Alvarez, C. (1999) Toward Systemic Quality: Case study, en 4Th Squad Meeting, Squad, Porlamar, Venezuela, July 1999. Disponible en: http://www.lisi.usb.ve/publicaciones Pérez, M.; Mendoza, L.; Rojas, T.; Grimán, A. (2001) Systemic Quality Model for System Development Process: Case Study, en: Seventh Americas Conference on Information Systems AMCIS 2001. Boston, USA, Agosto 2001. Disponible en: http://www.lisi.usb.ve/publicaciones Pressman, R. (2002) Ingeniería de Software: Un enfoque Práctico. 5ta. Edición. McGraw Hill. Reeves, T (1998) A model to guide the integration of the www as a cognitive tool in K-12 education. Universidad de Georgia. Disponible en: http://itechl.coe.uga.edu/Reeves.html Stephen, B. (1998) Evaluating checklist. Evaluating training software. Lancaster University. Disponible en: http://www.keele.ac.uk/depts/cs/Stephen_Bostock/docs/evaluationchecklist2.html