Marcos normativos para una IA ética y confiable en la educación superior: estado de la cuestión

• María Obdulia González Fernández ^[1] ; María Asunción Romero-López ^[2] ; Natalia Fátima Sgreccia ^[3] ; María José Latorre Medina ^[2]
  1. [1] Universidad de Guadalajara

     Universidad de Guadalajara

     México

     
  2. [2] Universidad de Granada

     Universidad de Granada

     Granada, España

     
  3. [3] Universidad Nacional de Rosario

     Universidad Nacional de Rosario

     Argentina

     

  Mostrar afiliaciones +
• Localización: RIED: revista iberoamericana de educación a distancia, ISSN 1138-2783, Vol. 28, Nº 2, 2025
• Idioma: español
• DOI: 10.5944/ried.28.2.43511
• Títulos paralelos:
  • Normative framework for ethical and trustworthy AI in higher education: state of the art
• Enlaces
  • Texto completo
• Dialnet Métricas: 19 Citas
• Resumen
  • español

    La investigación sobre el uso de la inteligencia artificial (IA) en instituciones educativas es un área emergente y en evolución. En la actualidad se ve la necesidad de analizar la sinergia entre la ética y el adecuado uso de la IA en el contexto académico. Por ende, se presenta un estudio documental para indagar sobre los marcos normativos y éticos del uso de la IA en las instituciones de educación superior. Se realizó una revisión sistemática de literatura bajo las directrices y procedimientos del modelo PRISMA. La búsqueda de la información se realizó en las bases de datos de Scielo, Scopus, Redalyc, entre otras, que posteriormente fueron exportados a Mendeley y procesados en Rayyan con la intención de analizarlos y categorizarlos. En el proceso de cribación se seleccionaron 28 artículos clasificados en cuatro categorías: desafíos y riesgos éticos, marcos normativos, formación ética y modelos didácticos. Se utilizó el software de MAXQDA para su procesamiento. Además, se realizó un análisis bibliométrico (VOSviewer) que permitió conocer las principales tendencias en torno a la temática. En general, los resultados manifiestan, por un lado, la importancia de generación de políticas y regulaciones específicas que permitan el uso adecuado de la IA en contextos universitarios. Por otro, la necesidad de formación de toda la comunidad educativa involucrada, incorporando su uso responsable. El debate académico sobre cómo afrontar el desafío de equilibrar la innovación tecnológica con la ética, la inclusión y la sostenibilidad continúa abierto.

  • English

    The use of artificial intelligence (AI) in higher education represents an emerging and continuously evolving field. Current research highlights the critical synergy required between ethics and appropriate use in the academic application of AI. Therefore, adocumentary study is presented to investigate the regulatory and ethical frameworks of the use of AI in higher education institutions. A systematic literature review was conducted following the guidelines and procedures of the PRISMA model. The information search was carried out in the databases of Scielo, Scopus, Redalyc, among others, which were subsequently exported to Mendeleyand Rayyanplatforms for analysis and categorization. In the screening process, 28 articles were selected, classified into fourcategories: ethical challenges and risks, regulatory frameworks, ethical training and didactical models, utilizing the MAXQDAsoftware. Additionally, a bibliometric analysis (VOSviewer) was performed to identify major research trends in this domain. In general, the results show, on the one hand, the importance of generating specific policies and regulations that allow the appropriate use of AI in university contexts. On the other hand, the need for training of the entire educational community involves incorporating its responsible use. The academic debate on how to balance technological innovation with ethics, inclusion, and sustainability remains an open and pressing challenge.

• Referencias bibliográficas
  • Aler, A., Mora, M., & Nieves, J. C. (2024). How to teach responsible AI in Higher Education: challenges and opportunities. Ethics and...
  • Avello-Sáez, D., & Estrada-Palavecino, L. (2023). ChatGPT e seu impacto na formação de competências para terapeutas ocupacionais: uma...
  • Baldrich, K., & Domínguez, J. C. (2024). El uso de ChatGPT en la escritura académica: un estudio de caso en educación. Pixel-Bit. Revista...
  • Chan, C. K. Y. (2023). A comprehensive AI policy education framework for university teaching and learning. International Journal of Educational...
  • Chan, C. K. Y., & Hu, W. (2023). Students' voices on generative AI: Perceptions, benefits, and challenges in higher education. International...
  • Cisneros, J. D. D., Limo, F. A. F., Tinoco, L. M. B., Aybar, H. N. C., Alarcon, V. G. C., Romero, M. Á. M., & Flores, R. A. R. (2023)....
  • Comas Forgas, R., Cerdá-Navarro, A., Touza Garma, C., & Moreno Herrera, L. (2023). Prevalencia y factores asociados al plagio académico...
  • Cordón García, O. (2023). Inteligencia Artificial en Educación Superior: Oportunidades y Riesgos. RiiTE. Revista interuniversitaria de investigación...
  • Cornejo-Plaza, I., & Cippitani, R. (2023). Consideraciones éticas y jurídicas de la Inteligencia Artificial en Educación Superior: desafíos...
  • Cox, A. M. (2021). Exploring the impact of Artificial Intelligence and robots on higher education through literature-based design fictions....
  • Dai, Y., Lai, S., Lim, C. P., & Liu, A. (2024). University policies on generative AI in Asia: promising practices, gaps, and future directions....
  • Dávila Morán, R. C., & Agüero Corzo, E. C. (2023). Desafíos éticos de la inteligencia artificial: implicaciones para la sociedad y la...
  • Flores, J. M., & García, F. J. (2023). Reflexiones sobre la ética, potencialidades y retos de la Inteligencia Artificial en el marco de...
  • Fornasier, M. de O. (2021). Artificial intelligence and democratic rule of law. Revista de Estudos Constitucionais, Hermenêutica e Teoria...
  • Gairín, J., & Alguacil, L. (Coords.). (2024). La gestión de la inteligencia artificial en los contextos universitarios iberoamericanos....
  • Gallent Torres, C., Zapata González, A., & Ortego Hernando, J. L. (2023). El impacto de la inteligencia artificial generativa en educación...
  • García-Fuentes, O., Raposo-Rivas, M., Martínez-Figueira, M. E., & Sarmiento-Campos, J. A. (2024). Análisis de vídeo-anotaciones sobre...
  • García Peñalvo, F. J., Llorens-Largo, F., & Vidal, J. (2024). The new reality of education in the face of advances in generative artificial...
  • Gibert Delgado, R. P., Gorina Sánchez, A., Reyes-Palau, N. C., Tapia-Sosa, E. V., & Siza Moposita, S. F. (2023). Educación 4.0: Enfoque...
  • González Alcaide, G. (2024). 1 d.C. (después de ChatGPT). Inteligencia artificial generativa en la educación superior. Publicaciones de la...
  • Guissepe Hernández, Y. K., Hernández Chávez, W. J., & Moucharrafieh Moucharafieh, S. (2021). Orientaciones éticas en la educación superior...
  • Henry, J. V., & Oliver, M. (2022). Who Will Watch the Watchmen? The Ethico-political Arrangements of Algorithmic Proctoring for Academic...
  • Holmes, W., Iniesto, F., Anastopoulou, S., & Boticario, J. G. (2023). Stakeholder perspectives on the ethics of AI in distance-based higher...
  • Huang, C., Samek, T., & Shiri, A. (2021). AI and ethics: Ethical and educational perspectives for LIS. Journal of Education for Library...
  • Humble, N., & Mozelius, P. (2022). The threat, hype, and promise of artificial intelligence in education. Discover Artificial Intelligence,...
  • Instituto Nacional de Tecnologías Educativas y de Formación del Profesorado. (2024). Guía sobre el uso de la Inteligencia Artificial en el...
  • Ivanov, S. (2023). The dark side of artificial intelligence in higher education. The Service Industries Journal, 43(15-16), 1055-1082. https://doi.org/10.1080/02642069.2023.2258799
  • Knoke, D., & Yang, S. (2008). Social network analysis. Sage. https://doi.org/10.4135/9781412985864
  • Kwak, Y., Ahn, J. W., & Seo, Y. H. (2022). Influence of AI ethics awareness, attitude, anxiety, and self-efficacy on nursing students'...
  • López-Regalado, O., Núñez-Rojas, N., López-Gil, O. R., & Sánchez-Rodríguez, J. (2024). Análisis del uso de la inteligencia artificial...
  • Lopezosa, C., Codina, L., Pont-Sorribes, C., & Vállez, M. (2023). Use of generative artificial intelligence in the training of journalists:...
  • Marín, V. I., & Tur, G. (2024). Ethical Issues in the Use of Technologies in Education Settings: A Scoping Review. Education in the Knowledge...
  • McGrath, C., Pargman, T. C., Juth, N., & Palmgren, P. J. (2023). University teachers' perceptions of responsibility and artificial...
  • Mendoza, D. S. O. E. (2021). Las revisiones sistemáticas como proceso de selección artificial del conocimiento científico en el área de salud....
  • Michel-Villarreal, R., Vilalta-Perdomo, E., Salinas-Navarro, D. E., Thierry-Aguilera, R., & Gerardou, F. S. (2023). Challenges and Opportunities...
  • Mora Naranjo, B. M., Aroca Izurieta, C. E., Tiban Leica, L. R., Sánchez Morrillo, C. F., & Jiménez Salazar, A. (2023). Ética y Responsabilidad...
  • Moya, B. A., & Eaton, S. E. (2023). Examinando Recomendaciones para el Uso de la Inteligencia Artificial Generativa con Integridad desde...
  • Nguyen, A., Ngo, H. N., Hong, Y., Dang, B., & Nguyen, B. P. T. (2023). Ethical principles for artificial intelligence in education. Education...
  • Page, M. J., McKenzie, J. E., Bossuyt, P. M., Boutron, I., Hoffmann, T. C., Mulrow, C. D., Shamseer, L., Tetzlaff, J. M., Akl, E. A., Brennan,...
  • Pham, M. T., Rajić, A., Greig, J. D., Sargeant, J. M., Papadopoulos, A., & McEwen, S. A. (2014). A scoping review of scoping reviews:...
  • Piedra Alegría, J. (2023). Anotaciones iniciales para una reflexión ética sobre la regulación de la Inteligencia Artificial en la Unión Europea....
  • Pierrès, O., Christen, M., Schmitt-Koopmann, F. M., & Darvishy, A. (2024). Could the use of AI in Higher Education hinder students with...
  • Rodríguez-Argueta, C. M. (2020). Tendencias de la oferta en educación superior en El Salvador - Relevancia de las carreras en Ciencia, Tecnología,...
  • Ruiz Bueno, A. (2021). El contenido y su análisis: enfoque y proceso. Universitat de Barcelona. http://hdl.handle.net/2445/179232
  • Samuel, G., & Derrick, G. (2020). Defining ethical standards for the application of digital tools to population health research. Bulletin...
  • Sánchez, M. M. (2023). La inteligencia artificial como recurso docente: usos y posibilidades para el profesorado. Educar, 60(1), 33-47. https://doi.org/10.5565/rev/educar.1810
  • Seldon, A., Lakhani, P., & Luckin, R. (2020). The Ethical Framework for AI in Education. The Institute for Ethical AI in Education. https://bit.ly/3Q9yobB
  • Svaricek, R. (2024). Sceptical teacher and silent students: a case study of teacher changes during a teacher professional development programme....
  • Torres-Fonseca, A., & López-Hernández, D. (2014). Criterios para publicar artículos de revisión sistemática. Revista de Especialidades...
  • UNESCO. (2023). UNESCO survey: Less than 10% of schools and universities have formal guidance on AI. UNESCO.
  • Vélez-Rivera, R., Muñoz-Álvarez, D., Leal-Orellana, P., & Ruiz-Garrido, A. (2024). Uso de Inteligencia Artificial en educación superior...
  • Villegas, V., & Delgado, M. (2024). Inteligencia artificial: revolución educativa innovadora en la Educación Superior. Pixel-Bit. Revista...
  • Yu, L., & Yu, Z. (2023). Qualitative and quantitative analyses of artificial intelligence ethics in education using VOSviewer and CitNetExplorer....
  • Yusuf, A., Pervin, N., & Román-González, M. (2024). Generative AI and the future of higher education: a threat to academic integrity or...