Multivariate time-series modelling and forecasting with high-order dynamic Bayesian networks applied in industrial settings

• Autores: David Quesada López
• Directores de la Tesis: Concha Bielza Lozoya (dir. tes.) , Pedro Larrañaga Múgica (codir. tes.)
• Lectura: En la Universidad Politécnica de Madrid ( España ) en 2023
• Idioma: inglés
• Tribunal Calificador de la Tesis: María Elena Hernando Pérez (presid.) , Juan Antonio Fernández del Pozo de Salamanca (secret.) , Eduardo C. Garrido Merchán (voc.) , Marco Bernabei (voc.) , Manuele Leonelli (voc.)
• Programa de doctorado: Programa de Doctorado en Inteligencia Artificial por la Universidad Politécnica de Madrid
• Calificación: Sobresaliente Cum Laude
• Enlaces
  • Tesis en acceso abierto en: Archivo Digital UPM
• Resumen

  • Con la proliferación en estos últimos años de sistemas industriales monitorizados por sensores, ha habido un incremento drástico en el volumen de datos recuperados que caracterizan estos sistemas. En particular, el guardado continuo de datos genera series temporales multivariantes, las cuales tienen características específicas y requieren un tratamiento especial. Además, los sistemas industriales normalmente contienen procesos complejos subyacentes, y estas series temporales ofrecen información valiosa sobre estos procesos y sobre cómo se relacionan las variables de nuestro sistema entre ellas. Un modelo que nos permite tratar datos de series temporales y que es capaz de ofrecernos información sobre el proceso subyacente son las redes bayesianas dinámicas. Sin embargo, la arquitectura de estas redes es muy restrictiva, y no puede ser aplicada directamente a muchos procesos industriales. Las series temporales no necesariamente siguen un orden autorregresivo unitario y pueden tener variables cuyas relaciones vienen definidas por procesos físicos no lineales. Sin embargo, las redes bayesianas dinámicas para datos continuos suelen asumir normalidad en los datos y orden autorregresivo 1, siendo modelos lineales por definición en el caso de las redes lineales gaussianas. Estas restricciones provocan que la precisión de las redes bayesianas dinámicas disminuya cuando se aplican directamente a problemas industriales. En esta tesis vamos a extender el modelo de redes bayesianas dinámicas para que pueda usarse como un modelo de propósito general en problemas industriales. En primer lugar, relajamos la restricción del orden autorregresivo de las redes bayesianas dinámicas para aplicarlas a la predicción a largo plazo de la temperatura dentro de un horno industrial. Para ello, creamos varios modelos de redes bayesianas dinámicas que son capaces de modelar mejor la tendencia de las series temporales según aumentamos el orden markoviano de las redes hasta un cierto punto. Con esto, generamos un modelo de redes bayesianas dinámicas que puede hacer predicciones precisas de la temperatura dentro del horno industrial a lo largo de periodos de miles de horas. Para solucionar el aumento de complejidad del aprendizaje de estructuras de alto orden, proponemos un algoritmo de enjambre de partículas para movernos en el espacio de posibles grafos. Primero, restringimos la búsqueda a grafos que únicamente permiten arcos dirigidos al instante más reciente. Después, definimos unos operadores y una codificación por medio de vectores de números naturales que son independientes del orden markoviano de la red en términos de tamaño de las partículas. Así, el tamaño de los vectores que codifican las estructuras se mantiene constante sin importar el orden markoviano, mejorando la eficiencia del algoritmo para órdenes altos. Para hacer los modelos de redes bayesinas dinámicas más flexibles en presencia de sistemas no lineales, proponemos un híbrido entre model trees y redes bayesianas dinámicas. Este híbrido ajusta un árbol de clasificación y regresión a un conjunto de datos y después ajusta un modelo de red bayesiana dinámica en cada una de las hojas del árbol. Con esta estructura, podemos utilizar el árbol para asignar cada nueva instancia a un modelo de una hoja del mismo y así usar el modelo de red bayesiana dinámica apropiado para predecir el siguiente instante. Esto nos permite realizar inferencia no lineal utilizando este mecanismo de regresión a trozos. Como último caso de uso, hemos aplicado las redes bayesianas dinámicas a un problema de clasificación a lo largo del tiempo del estado de pacientes que sufren infecciones de COVID-19, usando redes neuronales combinadas como modelo clasificador. Finalmente, hemos compilado y distribuido el modelo base de red bayesiana dinámica y todas nuestras contribuciones en un paquete de código abierto en R que permite una aplicación directa de las redes bayesianas dinámicas en casos industriales.