Resumen de Fighting disinformation with artificial intelligence: fundamentals, advances and challenges

Andrés Montoro Montarroso, Francisco Javier Cantón Correa, Paolo Rosso , Berta Chulvi Ferriols, Ángel Panizo, Javier Huertas Tato, Blanca Calvo Figueras, María José Rementeria Núñez, Juan Gómez Romero

• español

  Internet y las redes sociales han revolucionado la forma en la que se distribuye y consume la información. Sin embargo, la enorme cantidad de contenidos disponibles en estas plataformas dificulta la tarea distinguir entre lo verdadero y lo falso, más aún con la proliferación de actores malintencionados que difunden bulos. Desmentir la desinformación es un proceso muy costoso, por lo que en los últimos años se han desarrollado múltiples investigaciones sobre el potencial de la inteligencia artificial (IA) –y, más concretamente, del aprendizaje automático (AA)– como una solución al problema. Este trabajo revisa la bibliografía reciente sobre las técnicas de IA y AA que han sido propuestas para combatir la desinformación, que van desde la clasificación automática de texto hasta la extracción de características, así como el papel relevante que pueden jugar en la creación de contenido artificial. La principal conclusión del estudio es que los avances en IA se han centrado principalmente en la clasificación automática y que su utilización fuera de los laboratorios de investigación ha sido escasa. Esto se debe principalmente a que los modelos de AA dependen mucho de los conjuntos de datos con los que son entrenados, lo cual limita su aplicación y su efectividad en diferentes ámbitos. En consecuencia, se propone que los esfuerzos de investigación ha de dirigirse hacia el desarrollo de sistemas de IA que sean explicables, confiables y que apoyen a las personas, en lugar de sustituirlas, en la detección temprana de desinformación.

• English

  Internet and social media have revolutionised the way news is distributed and consumed. However, the constant flow of massive amounts of content has made it difficult to discern between truth and falsehood, especially in online platforms plagued with malicious actors who create and spread harmful stories. Debunking disinformation is costly, which has put artificial intelligence (AI) and, more specifically, machine learning (ML) in the spotlight as a solution to this problem. This work revises recent literature on AI and ML techniques to combat disinformation, ranging from automatic classification to feature extraction, as well as their role in creating realistic synthetic content. We conclude that ML advances have been mainly focused on automatic classification and scarcely adopted outside research labs due to their dependence on limited-scope datasets. Therefore, research efforts should be redirected towards developing AI-based systems that are reliable and trustworthy in supporting humans in early disinformation detection instead of fully automated solutions.