Impacto de ChatGPT en los métodos de evaluación de un grado de Ingeniería Informática

• Roberto Rodríguez-Echeverría ^[1] ; Juan D. Gutiérrez ^[1] ; José M. Conejero ^[1] ; Álvaro E. Prieto ^[1]
  1. [1] Universidad de Extremadura
• Localización: Actas de las Jornadas sobre la Enseñanza Universitaria de la Informática (JENUI), ISSN 2531-0607, Nº. 8, 2023, págs. 33-40
• Idioma: español
• Enlaces
  • Texto completo
• Resumen
  • español

    Las Inteligencias Artificiales Generativas han experimentado una importante evolución durante los últimos años y, en especial, en el 2022. Una de las inteligencias que más revuelo ha causado en el mundo académico es ChatGPT, que proporciona una interfaz que simplifica enormemente el uso productivo de un modelo de lenguaje de gran tamaño. Estos modelos de lenguaje son capaces de analizar y generar textos con gran rapidez y calidad. Estas capacidades podrían tener un impacto relevante en las metodologías de enseñanza-aprendizaje y también en los métodos de evaluación. Con el fin de analizar el posible impacto de ChatGPT en los métodos de evaluación, en este trabajo, se ha puesto a prueba la capacidad de ChatGPT para resolver los exámenes de 15 asignaturas de Ingeniería del Software de un grado de Ingeniería Informática. Los resultados muestran que ChatGPT podría tener un impacto evidente en los métodos de evaluación; ya que, es capaz de superar una cantidad significativa de preguntas y problemas de diferente naturaleza en múltiples asignaturas. Como contribución fundamental, se proporciona un estudio detallado de los resultados por tipología de preguntas y problemas, que permite establecer unas recomendaciones a tener en cuenta en el diseño de los métodos de evaluación.

  • English

    Generative Artificial Intelligence has undergone significant evolution over the last few years, especially in 2022. The artificial intelligence causing the most buzz in the academic world is ChatGPT, which provides an user interface that significantly simplifies the productive use of a large language model. These language models can parse and generate text with great speed and quality. Such language competences might have a relevant impact on teaching-learning methodologies and assessment methods. In order to analyze the possible impact of ChatGPT on assessment methods, in this work, we have used it to solve the exams of 15 Software Engineering subjects of a Computer Engineering degree. The results show that ChatGPT has an evident impact on assessment methods, because it can provide a correct answer to many questions and problems of different typology in multiple subjects. A detailed study of the results organized by types of questions and problems is provided as main contribution. Finally, some recommendations are derived from those results to guide in the design of assessment methods.

• Referencias bibliográficas
  • Michael James Bommarito y Daniel Martin Katz. GPT Takes the Bar Exam, 2022. Disponible en SSRN: https://ssrn.com/abstract=4314839.
  • Tom B Brown, Benjamin Mann, Nick Ryder, Melanie Subbiah, Jared Kaplan, Prafulla Dhariwal, Arvind Neelakantan, Pranav Shyam, Girish Sastry,...
  • José Divasón, F. Javier Martínez de Pisón, Ana Romero, y Eduardo Sáenz de Cabezón. Modelos de inteligencia artificial para asesorar el proceso...
  • Aidan Gilson, Conrad Safranek, Thomas Huang, Vimig Socrates, Ling Chi, R. Andrew Taylor, y David Chartash. How does ChatGPT perform on the...
  • Nora Kassner y Hinrich Schütze. Negated and Misprimed Probes for Pretrained Language Models: Birds Can Talk, But Cannot Fly. En Proceedings...
  • Lars Lidén. Artificial stupidity: The art of intentional mistakes. AI game programming wisdom, 2:41–48, 2003.
  • Muneer M Alshater. Exploring the role of artificial intelligence in enhancing academic performance: A case study of ChatGPT, 12 2022. Disponible...
  • Kyle Mahowald, Anna A. Ivanova, Idan A. Blank, Nancy Kanwisher, Joshua B. Tenenbaum, y Evelina Fedorenko. Dissociating language and thought...
  • Warren S McCulloch y Walter Pitts. A logical calculus of the ideas immanent in nervous activity. The bulletin of mathematical biophysics,...
  • OpenAI. ChatGPT: Optimizing Language Models for Dialogue, noviembre 2022. Disponible en https://openai.com/blog/chatgpt/.
  • Teo Susnjak. ChatGPT: The End of Online Exam Integrity? arXiv:2212.09292, 2022. Disponible en arXiv: https://arxiv.org/abs/2212.09292.
  • Edmundo (ed.) Tovar Caro. Actas de las III Jornadas de Enseñanza Universitaria de Informática, Jenui 1997, junio 1997.
  • Alan M. Turing. I.—Computing Machinery and Intelligence. Mind, LIX(236):433–460, 10 1950.
  • Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N Gomez, Łukasz Kaiser, e Illia Polosukhin. Attention is All...
  • Sebastian Wollny, Jan Schneider, Daniele Di Mitri, Joshua Weidlich, Marc Rittberger, y Hendrik Drachsler. Are we there yet? - A systematic...
  • BigScience Workshop. BLOOM: A 176B-Parameter Open-Access Multilingual Language Model. arXiv:2211.05100, 2022. Disponible en arXiv: https://arxiv.org/abs/2211.05100.
  • Xiaoming Zhai. ChatGPT user experience: Implications for education, 2022. Disponible en SSRN: https://ssrn.com/abstract=4312418.
  • Susan Zhang, Stephen Roller, Naman Goyal, Mikel Artetxe, Moya Chen, Shuohui Chen, Christopher Dewan, Mona Diab, Xian Li, Xi Victoria Lin,...