IA Generativa e Integridad Académica: Desafíos Éticos

1er Congreso Internacional en Inteligencia Artificial y Educación (CIIAE)
Educar en la era de la inteligencia artificial generativa
Integridad académica y uso de Inteligencia Artificial Generativa: Desafíos
éticos para la educación del siglo XXI
María Gabriela Galli (1); María Cristina Kanobel (2); Israel Pavelek (3); Analía Chaparro (4);
Paula Ithurralde (5)
(1)(3)(4)(5)Universidad Tecnológica Nacional-INSPT [email protected]
(2) Universidad Tecnológica Nacional-Facultad Regional Avellaneda [email protected]
En la Educación Superior, el uso de la Inteligencia Artificial y, en particular, Inteligencia Artificial Generativa,
es un tema de creciente relevancia a nivel global, ya que abre oportunidades para la enseñanza y para la
investigación, conlleva reestructuraciones en los procesos de enseñanza y plantea desafíos e implicaciones
relacionadas con la integridad académica. El objetivo de este trabajo es examinar aspectos éticos en el empleo
de la Inteligencia Artificial Generativa en la producción de trabajos académicos y sus implicancias para la
integridad académica. La metodología implementada se fundamenta en el método cualitativo, bajo la técnica de
revisión documental, la cual permitió la construcción de categorías de análisis. Los principales resultados
develan que, más allá del aprovechamiento de las potencialidades de la tecnología, es necesario atender a
aspectos éticos para preservar la integridad académica.
Palabras clave: Inteligencia artificial generativa. Integridad académica. Educación Superior. Ética.
Abstract: In Higher Education, the use and implementation of Artificial Intelligence and generative Artificial
Intelligence, is a topic of growing relevance at a global level, since it opens opportunities for teaching and
research, and entails restructuring in teaching processes. and raises challenges and implications related to
academic integrity. The objective of this work is to examine ethical aspects in the use of Generative Artificial
Intelligence in the production of academic works and its implications for academic integrity. The implemented
methodology is based on the qualitative method, under the documentary review technique, which allowed the
construction of analysis categories. The main results reveal that, beyond taking advantage of the potential of
technology, it is necessary to address ethical aspects to preserve academic integrity.
Keywords: Generative artificial intelligence. Academic integrity. Higher education. Ethics.
1. Introducción
El vertiginoso avance en el uso de Inteligencia artificial generativa (IAGen) en diversos
sectores societarios, incluyendo la educación, ha generado un sustancial interés en el ámbito
académico. Particularmente, está marcando un hito en la forma en que tanto el profesorado
como el estudiantado de Educación Superior (ES) e investigadores de distintas áreas
interactúan con la información para transformarla en conocimiento. En esta línea, la
UNESCO (2019) se comprometió a utilizar las capacidades de las tecnologías de la
inteligencia artificial (IA) para cumplir el Objetivo de Desarrollo Sostenible 4, que busca
1er Congreso Internacional en Inteligencia Artificial y Educación (CIIAE)
Educar en la era de la inteligencia artificial generativa
asegurar una educación inclusiva, equitativa y de alta calidad y fomentar oportunidades de
aprendizaje para las personas, acordes a la Agenda Educación 2030.
La IAGen, que posee una enorme capacidad para crear contenido, se presenta como una
herramienta que plantea desafíos éticos que requieren de atención y reflexión tanto de
productores como de consumidores, también llamados prosumidores (Carrión Espinosa et al.,
2022; Gallent-Torres et al, 2023; Galli & Kanobel, 2023; Liu et al., 2023; Moorhouse et al.,
2023; Sullivan et al., 2023; UNESCO, 2022; UNESCO-IELSAC, 2023; García-Peñalvo et
al., 2024). En este sentido, la integridad académica y la ética son principios fundamentales en
el ámbito educativo, que guían el comportamiento y las prácticas para promover un entorno
de aprendizaje justo y equitativo para todas las personas involucradas.
Este trabajo se propone explorar aspectos éticos asociados al uso de la IAGen en la
producción de trabajos académicos en ES ya que, a medida que esta tecnología se integra
cada vez más en el entorno educativo, surge la necesidad de examinar detenidamente los
principios éticos y de integridad académica que deben regir su aplicación. La exploración se
centrará en la honestidad, la equidad y la responsabilidad, debido a que, al examinar estas
cuestiones, no solo se exploran los límites de la tecnología y la ética, sino que también se
busca comprender cómo la convergencia de estos campos moldea el futuro de la ES.
2. Marco Teórico
La IA está cada vez más integrada a la vida cotidiana como una tecnología omnipresente que
presenta desafíos y oportunidades a la sociedad, particularmente, en el campo educativo
(UNESCO, 2022; Cerón & Penela, 2023; Galli & Kanobel, 2023; Liu et al., 2023; Moya, &
Eaton, 2023; UNESCO-IELSAC, 2023). Aunque la IA se remonta a los años cincuenta, de la
mano de Turing y sus cuestionamientos acerca de si las máquinas pueden pensar, sus avances
recientes han permitido crear sistemas que simulan situaciones, comparan patrones, resuelven
problemas y sugieren acciones que imitan el comportamiento humano, de modo que es
utilizada como herramienta de apoyo para la automatización de procesos y para la
retroalimentación bajo decisiones informadas (Cerón & Penela, 2023; Liu et al., 2023).
Aunque no hay acuerdos sobre una definición de IA, según la UNESCO (2019) se trata de
“máquinas capaces de imitar ciertas funcionalidades de la inteligencia humana, incluyendo
características como la percepción, el aprendizaje, el razonamiento, la resolución de
problemas, la interacción del lenguaje e incluso la producción creativa” (p.14). Asimismo,
enfatiza que la IA se debe centrar en el ser humano, para que todos puedan beneficiarse de los
avances tecnológicos, especialmente en innovación y conocimiento (UNESCO, 2022).
Aunque estos avances pueden servir para una renovación didáctica del profesorado, en su
inclusión se observan resistencias vinculadas a la disconformidad con la inclusión de esta
tecnología como herramienta de apoyo a la enseñanza, a una sensación de que se puede
avanzar hacia una posible sustitución del rol docente y a la eliminación de la creación de
1er Congreso Internacional en Inteligencia Artificial y Educación (CIIAE)
Educar en la era de la inteligencia artificial generativa
contenido del estudiantado (Cerón & Penela, 2023; Chávez Solís et al., 2023; Gallent-Torres
et al., 2023). Aun así, la IAGen se ha convertido en una tecnología de gran relevancia en la
ES, transformando aspectos no contemplados en las aulas y en la investigación (Cerón &
Penela, 2023; Galli & Kanobel, 2023), con capacidad de generar contenido original en varios
formatos (texto, imágenes, video, audio y código) y de simular la producción humana
mediante el análisis de patrones subyacentes en los datos.
Para la educación, la IAGen ofrece una amplia gama de aplicaciones: creación de contenido
educativo personalizado, apoyo a la escritura, colaboración, automatización de procesos de
evaluación y retroalimentación. Además, puede potenciar los procesos de investigación al
facilitar la búsqueda y generación de hipótesis, la recopilación y análisis de datos y la
elaboración de informes (Cerón & Penela, 2023; Gallent-Torres et al., 2023; Galli &
Kanobel, 2023; Liu et al., 2023; UNESCO-IELSAC, 2023). Constantemente surgen nuevas
aplicaciones de IAGen, algunas pagas y en una gran mayoría, gratuitas, que son utilizadas de
forma masiva para diversas áreas. Así, conviven diversas herramientas tales como asistentes,
motores de búsqueda, asistentes de escritura, resumidores, convertidores de textos en
presentaciones, creadores de imágenes, generadores de videos, convertidores de voz en texto,
creadores de código, detectores de textos generados con IA y algunas aplicaciones para
investigadores (Cerón & Penela, 2023; Chávez Solís et al., 2023; García-Peñalvo et al.,
2023). Estas aplicaciones tienen el potencial de mejorar la calidad y eficacia del aprendizaje,
así como de optimizar los recursos y la gestión del tiempo del profesorado, estudiantado e
investigadores. Sin embargo, su inclusión es disruptiva, planteando retos a las instituciones
en términos de competencias tecnológicas, métodos de enseñanza e investigación, y
adaptación de los programas académicos (Cerón & Penela, 2023; García-Peñalvo et al., 2023;
Liu et al., 2023; Sullivan et al., 2023). En este sentido, muchas universidades no han
adoptado una postura definida sobre el uso de esta tecnología; otras han prohibido su uso, e
incluso, algunos docentes han incluido pautas específicas sobre su implementación en las
guías académicas (Chan, 2023; Moorhouse et al., 2023; Sullivan et al., 2023).
Actualmente, la IAGen ha alcanzado un punto en el que resulta desafiante para el usuario
distinguir con claridad entre textos generados por esta tecnología y aquellos creados por seres
humanos (Cotton et al., 2023; Moya, & Eaton, 2023). Esto plantea cuestionamientos sobre la
integridad académica y la ética en el proceso de construcción. Además, respecto de la gestión
de datos, las instituciones educativas deben establecer estrategias para garantizar la integridad
y evitar el abuso de información en los sistemas de IAGen (Liu et al., 2023).
La integridad académica es un constructo complejo, basado en principios ético-morales. La
Red Europea de Integridad Académica (Tauginienė et al., 2018) la define como la
“conformidad con principios, estándares, prácticas y sistemas consistentes de valores éticos y
profesionales, que sirven como guía para tomar decisiones y realizar acciones en la
educación, investigación y escolaridad” (p.24). En este trabajo, se adscribe a la concepción
expuesta por Liu et al. (2023), relacionada con valores como la honestidad, la equidad y la
1er Congreso Internacional en Inteligencia Artificial y Educación (CIIAE)
Educar en la era de la inteligencia artificial generativa
responsabilidad, que centran la atención en el plagio, el engaño u otras infracciones
cometidas por estudiantes o investigadores.
3. Protocolos y marcos regulatorios
Las diversas implicaciones que surgen con la inclusión de la IAGen en los procesos
pedagógicos requieren desarrollar marcos legales, protocolos y modelos que brinden
orientación para su uso ético y para promover la integridad académica. Según expresan
Kasneci et al. (2023), es necesario abordar un marco regulatorio que incluya aspectos como
seguridad, transparencia de los algoritmos, privacidad de los datos y responsabilidad en la
toma de decisiones automatizadas. Además, al momento de diseñar un modelo de IAGen,
también se deben evaluar posibles consecuencias asociadas a los conflictos éticos que podrían
suscitarse al usar dicha herramienta (Sullivan et al., 2023). En este sentido, Chan (2023)
propone un modelo organizado en tres dimensiones, para integrar la IAGen en la práctica
docente: pedagógica (referida al uso ético y responsable de la IAG en los procesos de
enseñanza y aprendizaje), de gobernanza (que define regulaciones, pautas y políticas claras
para el uso de la IAGen) y operativa (orientada a brindar herramientas, asistencia y
capacitación para el uso adecuado de la IAGen). Para ello, es necesario fomentar un trabajo
multidisciplinar de colaboración entre personas expertas de diversos ámbitos (tecnología,
derecho, sociología, educación, entre otras), que garantice un enfoque integral que incluya el
análisis de los desafíos éticos desde diferentes perspectivas (UNESCO, 2023). Además, es
importante proponer y acompañar programas de alfabetización, sensibilización y
concientización sobre el uso responsable de este recurso. Para ello, el rol de los Estados es
central como garantes de los derechos humanos, la paz y la seguridad (Roumate, 2023).
Actualmente, existen algunas normas estatales para orientar el desarrollo de la IAGen. En
China, se han redactado normativas que incluyen principios sobre la no discriminación en los
datos y sobre elcontenido que pueden incluir (Kharpal, 2023). La OCDE ha realizado
recomendaciones de orden jurídico sobre el uso ético de la IA, desde un enfoque centrado en
el ser humano y tomando la confiabilidad como principio rector (Roumate, 2023). Asimismo,
la Unión Europea desarrolló un marco de regulación en 2021 y, a fines del 2023, aprobó la
Ley de IA, que entrará en vigor en 2026 y busca garantizar la seguridad y los derechos de la
ciudadanía, e impulsar la inversión e innovación en IA en Europa.
4. Enfoque metodológico
El trabajo presenta un estudio descriptivo con enfoque exploratorio, a partir del análisis
documental de la literatura académica, entre enero de 2023 y enero 2024 para obtener
información actualizada. La consulta se realizó a partir de una selección de fuentes de Google
Scholar, teniendo en cuenta aquellas que abordan específicamente las cuestiones éticas y de
integridad académica sobre el uso de la IAGen en la ES. En una primera búsqueda se
1er Congreso Internacional en Inteligencia Artificial y Educación (CIIAE)
Educar en la era de la inteligencia artificial generativa
obtuvieron 65 resultados, que fueron revisados hasta seleccionar 12, luego de excluir algunos
por no ajustarse a los criterios de búsqueda. A partir del análisis de dichos trabajos se
identificaron algunas categorías consideradas relevantes para este estudio.
5. Resultados parciales
La honestidad es un elemento esencial en el trabajo académico porque promueve la
credibilidad y legitimidad, así como también fomenta una cultura de integridad que beneficia
a la comunidad y garantiza la veracidad en la representación. Sin embargo, en el contexto
IAGen, la honestidad enfrenta desafíos significativos debido a la capacidad de esta tecnología
para generar contenido de manera automatizada. Un primer aspecto se relaciona con la
originalidad y la atribución adecuada de autorías. Algunas herramientas de IAGen poseen la
capacidad de producir textos en lenguaje similar al humano, lo que dificulta la distinción
entre contenido generado por personas y contenidos generados por tecnología, abriendo
debates sobre la autenticidad de los textos producidos. Gallent-Torres et al. (2023)
manifiestan que, con diferentes motivaciones, la IAGen podría incitar, tanto al estudiantado
como al profesorado, a incurrir en conductas de plagio, a partir de la apropiación de las ideas
de terceros, omitiendo créditos, usando información no contrastada, recurriendo
intencionalmente a la fabricación de datos e incluso a la violación de la privacidad en
conversaciones registradas a través de la IAGen. Por otro lado, investigaciones recientes
(Cotton, 2023; Moya & Eaton, 2023) sugieren que los revisores, a pesar de emplear múltiples
criterios, tienen dificultades para distinguir entre la escritura generada por IAGen y la
escritura humana. Para abordar estos desafíos, algunas instituciones han implementado
detectores de plagio, aunque persisten interrogantes sobre su eficacia (Moorhouse et al.,
2023). Por su parte, en el análisis de Carrión Espinosa et al. (2023) se concluye que la IA
puede preservar la originalidad y la integridad académica en el estudiantado universitario,
siempre y cuando las instituciones promuevan la educación ética para encontrar soluciones
que fomenten la innovación y los valores fundamentales de la ES. En concordancia con lo
anterior, Gallent-Torres et al. (2023) destacan la importancia de que el estudiantado sea capaz
de generar textos originales utilizando IAGen sin comprometer sus principios y formación,
mientras que los profesores deben usar esta tecnología como apoyo y no como reemplazo a
su labor docente e investigadora. En este sentido, se respaldan las recomendaciones de Liu et
al. (2023) sobre la necesidad de modificar las didácticas para reducir el riesgo de plagio.
Una de las formas más comunes de la falta de honestidad es a través del plagio, lo que puede
manifestarse por la omisión de atribución adecuada como en la inclusión de fuentes no
consultadas (Moorhouse et al., 2023). De esta manera, el uso deliberado de IAGen para
producir contenido sin reconocer la autoridad intelectual constituye plagio (Gallent-Torres et
al., 2023). Asimismo, es necesario tener en cuenta que algunas aplicaciones de IAGen no
citan autores. Esto plantea problemas significativos en términos de integridad académica, por
1er Congreso Internacional en Inteligencia Artificial y Educación (CIIAE)
Educar en la era de la inteligencia artificial generativa
lo que se requiere fomentar la responsabilidad al producir materiales para preservar los
derechos de autoría y la generación de contenidos originales.
Además, la responsabilidad se extiende al diseño, implementación y uso de esta tecnología,
ya que los algoritmos pueden generar sesgos en la producción y distribución del
conocimiento. En este sentido, la precisión de algunas aplicaciones en la generación de
contenido plantea preocupaciones sobre la integridad académica: diversos estudios (Cerón &
Penela, 2023; Galli & Kanobel, 2023) han identificado contenido inexacto, autorías ficticias,
falta de una comprensión profunda del significado de las palabras procesadas por el
mecanismo y dificultad para evaluar la calidad de las respuestas. Por tal razón, vale
mencionar que las aplicaciones no son capaces de comprender de la misma manera que puede
hacerlo un humano, ya que los datos que se utilizan para entrenar la IA generalmente tienen
sesgos incorporados o se generan en el mismo proceso de creación de algoritmos. García
Peñalvo et al. (2023) señalan que la IAGen, si bien es poderosa y evoluciona rápidamente, se
basa en modelos de lenguaje probabilísticos, lo que la hace susceptible a fallos, por lo que sus
contenidos requieren ser contrastados.
Asimismo, se plantean inquietudes con relación al fácil acceso a la IAGen. Algunos estudios
lo consideran un factor democratizador ya que permite a un mayor número de personas
acceder a estas herramientas sin incurrir en costos elevados (Kasneci et al., 2023). Otros lo
ven como una tentación que podría llevar al estudiantado a comercializar los resultados
obtenidos con sus pares (Qadir, 2023). Además, se abre un debate ante la preocupación de
que el alumnado pueda volverse excesivamente dependiente de la IAGen, considerándola
imprescindible de su proceso de aprendizaje (Farrokhnia et al.,2023; Moorhouse et al., 2023).
También se plantea que el uso de esta tecnología para la creación de trabajos académicos
desarrolla en el usuario tal confianza que pone en riesgo la veracidad de su contenido y, a la
vez, reduce las habilidades de escritura, pensamiento crítico, creatividad y resolución de
problemas del estudiantado (Chávez-Solís et al., 2023). Eso podría obstaculizar el desarrollo
intelectual de las personas a lo largo del tiempo (Cerón & Penela, 2023) y tener un impacto
negativo en la calidad de la educación y en los resultados del aprendizaje.
6. Primeras conclusiones
El uso de la IAGen en la ES plantea desafíos éticos relacionados con la integridad académica.
En línea con Sullivan et al. (2023), si bien esta tecnología ofrece oportunidades para la
enseñanza y la investigación, es fundamental abordar aspectos éticos en las producciones
académicas. La capacidad de la IAGen para generar contenido de manera automatizada
dificulta la distinción entre contenido generado por personas y contenido generado por la
tecnología, abriendo debates sobre la autenticidad de los textos producidos. Por tal razón, es
importante establecer pautas claras para la atribución adecuada de autorías y promover una
cultura de integridad que garantice la veracidad en dicha representación.
1er Congreso Internacional en Inteligencia Artificial y Educación (CIIAE)
Educar en la era de la inteligencia artificial generativa
El plagio y otras formas de deshonestidad, como la omisión de atribución adecuada, deberían
ser consideradas como preocupaciones centrales para la comunidad académica en el contexto
de la IAGen. Esta tecnología podría ser utilizada de manera intencional, tanto por el
estudiantado como por el profesorado, para incurrir en conductas de plagio, a partir de la
apropiación de las ideas de terceros, omitiendo créditos, usando información no contrastada,
recurriendo intencionalmente a la fabricación de datos e incluso a la violación de la
privacidad en conversaciones registradas a través de la IAGen. Por tal razón, es fundamental
que se establezcan estrategias para garantizar la integridad y evitar el abuso de información
en los sistemas de IAGen. Coinicdimos con Caballero (2024), en la necesidad de promover
prácticas pedagógicas y estrategias didácticas que fomenten la originalidad en las
producciones, la innovación en el uso de la IAGen, y fomenten una cultura de integridad y
honestidad en los distintos actores de la ES.
Referencias
Caballero, M. M. B. (2024). Percepciones de la integridad en la docencia universitaria:
perspectiva
del
alumnado.
Práxis
Educativa,
19,
1-20.
https://revistas.uepg.br/index.php/praxiseducativa/article/view/22859
Carrión Espinosa, W., Bravo Bravo, V., Yánez Romero, M., & Beltrán Balarezo, C. (2022).
Aplicaciones de la Inteligencia Artificial en la Preservación de la Originalidad y la
Integridad Académica en estudiantes Universitarios. Journal of Science and Research,
7(2), 179-200. https://doi.org/10.5281/zenodo.8239966
Cerón, M. H., & Penela, C. G. (2023). La Inteligencia Artificial en la Educación Superior.
OBS Business School. https://bit.ly/48GhIPv
Chan, C. (2023). A comprehensive AI policy education framework for university teaching
and learning. Int J Educ Technol High Educ, 20(38). https://doi.org/10.1186/s41239023-00408-3
Chávez Solís, M. E., Labrada Martínez, E., Carbajal Degante, E., Pineda Godoy, E., &
Alatristre Martínez, Y. (2023). Inteligencia artificial generativa para fortalecer la
educación superior. LATAM Revista Latinoamericana de Ciencias Sociales y
Humanidades, 4(3). https://doi.org/10.56712/latam.v4i3.1113
Cotton, D., Cotton, P., & Reuben Shipway, J. (2023). Chatting and cheating: Ensuring
academic integrity in the era of ChatGPT. Innovations in Education and Teaching
International, 1-12. https://doi.org/10.1080/14703297.2023.2190148
Gallent-Torres, C., Zapata-González, A., & Ortego-Hernando, J. L. (2023). El impacto de la
inteligencia artificial generativa en educación superior: una mirada desde la ética y la
integridad académica. RELIEVE. Revista Electrónica de Investigación y Evaluación
Educativa, 29(2), 1-21. https://doi.org/10.30827/relieve.v29i2.29134
1er Congreso Internacional en Inteligencia Artificial y Educación (CIIAE)
Educar en la era de la inteligencia artificial generativa
Galli, M. G., & Kanobel, M. C. (2023). ChatGPT en Educación Superior: explorando sus
potencialidades y sus limitaciones. Revista Educación Superior Y Sociedad (ESS),
35(2), 174-195. https://doi.org/10.54674/ess.v35i2.815
García-Peñalvo, F. J., Llorens-Largo, F., & Vidal, J. (2024). La nueva realidad de la
educación ante los avances de la inteligencia artificial generativa. RIED-Revista
Iberoamericana
de
Educación
a
Distancia,
27(1),
9-39.
https://doi.org/10.5944/ried.27.1.37716
Liu, B. L., Morales, D., Roser Chinchilla, J. F., Sabzalieva, E., Valentini, A., Vieira do
Nascimento, D. M., & Yerovi Verano, C. A. (2023). Oportunidades y desafíos de la
era de la inteligencia artificial para la educación superior: una introducción para los
actores de la educación superior. UNESCO-IELSAC.
Moorhouse, B. L., Yeo, M. A., & Wan, Y. (2023). Generative AI tools and assessment:
Guidelines of the world's top-ranking universities. Computers and Education Open.
https://doi.org/10.1016/j.caeo.2023.100151
Moya, B.A., & Eaton, S.E. (2023). Examinando Recomendaciones para el Uso de la
Inteligencia Artificial Generativa con Integridad desde un Lente de Enseñanza y
Aprendizaje. RELIEVE, 9(2). https://doi.org/10.30827/relieve.v29i2.29295
Sullivan, M., Kelly, A., & McLaughlan, P. (2023). ChatGPT in higher education:
Considerations for academic integrity and student learning. Journal of Applied
Learning & Teaching, 6(1). https://doi.org/10.37074/jalt.2023.6.1.17
Tauginienė, L et al. (2018). Glosario de Integridad Académica. Reporte Red Europea para la
Integridad Académica 3G. http://www.academicintegrity.eu/wp/.
UNESCO. (2019). International conference on Artificial intelligence and Education,
Planning education in the AI Era Lead the leap: Final report. UNESCO.
https://unesdoc.unesco.org/ark:/48223/pf0000370967.locale=es
UNESCO. (2022). Recomendación sobre la ética de la inteligencia artificial. UNESCO.
https://bit.ly/3qkaa4e
UNESCO-IELSAC. (2023). ChatGPT e inteligencia artificial en la educación superior: guía
de
inicio
rápido.
UNESCO-IELSAC.
https://unesdoc.unesco.org/ark:/48223/pf0000385146_spa.locale=es