IA generativa y efectividad de detección de una deepfake: Análisis sobre la efectividad en la capacidad de detección de una deepfake entre inteligencia artificial y el cerebro humano.

• Rodriguez Egas, Nathalie Alejandra ^[1] ; Gómez González, Daniel ^[1] ; Sierra Sánchez, Javier ^[1] ; Medranda Morales, Narcisa Jessenia ^[2]
  1. [1] Universidad Complutense de Madrid

     Universidad Complutense de Madrid

     Madrid, España

     
  2. [2] Universidad Politécnica Salesiana

     Universidad Politécnica Salesiana

     Cuenca, Ecuador

     
• Localización: VISUAL REVIEW: International Visual Culture Review / Revista Internacional de Cultura Visual, ISSN-e 2695-9631, Vol. 18, Nº. 3, 2026, 166 págs.
• Idioma: español
• DOI: 10.62161/revvisual.v18.5893
• Títulos paralelos:
  • Generative AI and Effectiveness of Deepfake Detection: Analysis of the effectiveness of deepfake detection capabilities between artificial intelligence and the human brain.
• Enlaces
  • Texto completo
• Resumen
  • español

    La inteligencia artificial ha transformado múltiples industrias, especialmente en la generación de imágenes y vídeos. La aparición de herramientas capaces de crear vídeos hiperrealistas plantea serios riesgos en la suplantación de identidad. Este artículo examina el fenómeno de los deepfakes, junto con factores que inciden al momento de identificarlos y presenta un estudio experimental que evalúa la efectividad de la detección de estos contenidos mediante redes neuronales profundas. Se compara el desempeño de un grupo de personas con una herramienta basada en tecnología de deep learning, proporcionando un análisis detallado sobre las fortalezas y limitaciones de ambos enfoques.

  • English

    Artificial intelligence has revolutionized multiple industries, particularly in the generation of images and videos. The emergence of tools capable of creating hyper-realistic videos poses serious risks in identity theft. This article examines the phenomenon of deepfakes and, factors that influence their identification, and presents an experimental study that evaluates the effectiveness of detecting these contents using deep neural networks. It compares the performance of a group of people with a tool based on deep learning technology, providing a detailed analysis of the strengths and limitations of both approaches.

• Referencias bibliográficas
  • Aguiar, A. R. (2024). La Guardia Civil detecta un nuevo escándalo de menores 'desnudadas' con IA en España: cinco jóvenes, investigados...
  • Ajder, H. (2019). Scams And Sabotage: Why Deepfakes Pose An Unprecedented Threat To Businesses. Medium. Retrieved October 6, 2023, from https://acortar.link/EHLBz8
  • Ajder, H. (2020). Tracer Newsletter 58 (09/07/20)-Deepfake Threat Intelligence: A statistics snapshot from June 2020. Medium. Retrieved October...
  • Albahar, M., & Almalki, J. (2019). Deepfakes: Threats and countermeasures systematic review. Journal of Theoretical and Applied Information...
  • Bhuiyan, J. (2023, May 16). OpenAI CEO calls for laws to mitigate 'risks of increasingly powerful' AI. The Guardian. https://lc.cx/vE8-g8
  • Dolhansky, B., Bitton, J., Pflaum, B. L., Howes, R., Wang, M., & Ferrer, C. C. (2020). The deepfake detection challenge (dfdc) dataset....
  • Eben, C. (2023, April). Ask a Techspert: What is generative AI? Google. https://lc.cx/yD6o_fGiansiracusa,
  • Fernández, M. (2024, Noviembre). La teoría de la mente: un experimento probó que la IA tiene una capacidad humana que se creía imposible....
  • Giansiracusa, N. (2021). How Algorithms Create and Prevent Fake News: Exploring the Impacts of Social Media, Deepfakes, GPT-3, and More. Apress....
  • Google Cloud. (2025, Marzo). ¿Qué es la inteligencia artificial (IA)? .https://lc.cx/0YFGOG
  • Groh, M., Epstein, Z., & Picard, R. (2022). Deepfake detection by human crowds, machines, and machine-informed crowds. Proceedings of...
  • Kosinski, M. (2024). Evaluating large language models in theory of mind tasks. Proceedings of the National Academy of Sciences, 121(45). https://doi.org/10.1073/pnas.2405460121
  • Lake, B. M., & Baroni, M. (2023). Human-like systematic generalization through a meta-learning neural network. Nature, 623(7985), 115-121....
  • Loaiza, Y. (2023, October 5). Estudiantes de un colegio de Quito utilizaron fotografías de sus compañeras para crear contenido sexual con...
  • López de Mántaras, R., & Meseguer, P. (2017). Inteligencia artificial. CSIC Los Libros de la Catarata.
  • Massachusetts Institute of Technology. (2020). Tackling the misinformation epidemic with In Event of Moon Disaster. MIT News Office. https://lc.cx/tUb3GL
  • McCarthy, J., Minsky, M. L., Rochester, N., & Shannon, C. E. (2006). A proposal for the Dartmouth summer research project on artificial...
  • Michalos, A. C. (1985). Multiple discrepancies theory (MDT). Social indicators research, 16, 347-413.
  • Mirsky, Y., & Lee, W. (2021). The Creation and Detection of Deepfakes: A Survey. ACM Comput, 54(1), 1-41. https://doi.org/10.1145/3425780
  • OpenAI. (2025). Deepware (versión del 07 de febrero) [Modelo multimodal grande]. https://scanner.deepware.ai/
  • Pérez, E. (2023, September 18). Falsos desnudos de menores generados por IA: la Policía investiga en Almendralejo el primer caso masivo en...
  • Plan de Recuperación, Transformación y Resiliencia. (2023, April 19). Qué es la Inteligencia Artificial. Retrieved March 4, 2025, from https://planderecuperacion.gob.es/noticias/que-es-inteligencia-artificial-ia-prtr
  • Popova, M. (2019). Reading out of context: Pornographic deepfakes, celebrity and intimacy. Porn Studies, (7). https://doi.org/10.1080/23268743.2019.1675090
  • Raya, A. (2025, January 21). Elon Musk y Mark Zuckerberg juegan a dos bandas: X y Meta mantendrán la lucha contra las noticias falsas en la...
  • Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia...
  • Russell, S. J., & Norvig, P. (2004). Inteligencia artificial: un enfoque moderno. Pearson Educación.
  • Searle, J. R. (1980). Minds, brains, and programs. Behavioral and Brain Sciences, 3(3), 417–424. doi:10.1017/S0140525X00005756
  • Sensity. (2022). Deepfakes vs biometric KYC verification [Report]. Sensity AI. https://sensity.ai/reports/
  • Sensity. (2023, May 10). How to detect AI generated images with Sensity in 2023. Sensity AI. Retrieved April 2, 2024, from https://lc.cx/taJOpi
  • The Guardian. (2023, May 25). Deepfakes are biggest AI concern, says Microsoft president. The Guardian. https://lc.cx/inUT0b
  • Turing, A. M. (1980). Computing machinery and intelligence. Creative Computing, 6(1), 44-53.
  • Vasist, P., & Krishnan, S. (2022). Deepfakes: An Integrative Review of the Literature and an Agenda for Future Research. Communications...
  • Von Neumann, J. (1980). El ordenador y el cerebro. Antoni Bosch.
  • Von Neumann, J. (2012). The computer & the brain (R. Kurzweil, Foreword; 3ra ed.). Yale University Press. https://lc.cx/5WsZ-M
  • Woodruff, G., & Premack, D. (1979). Intentional communication in the chimpanzee: The development of deception. Cognition, 7(4), 333-362.