Feature Subset Selection and Multi-dimensional Continuous-Time Bayesian Network Classifiers for streaming data

• Autores: Carlos Villa Blanco
• Directores de la Tesis: Concha Bielza Lozoya (dir. tes.) , Pedro Larrañaga Múgica (codir. tes.)
• Lectura: En la Universidad Politécnica de Madrid ( España ) en 2024
• Idioma: inglés
• Tribunal Calificador de la Tesis: Francisco Javier Díez Vega (presid.) , Bojan Mihaljevic (secret.) , Aritz Pérez Martínez (voc.) , Arjen Hommersom (voc.) , Rafael Ballester Ripoll (voc.)
• Programa de doctorado: Programa de Doctorado en Inteligencia Artificial por la Universidad Politécnica de Madrid
• Calificación: Sobresaliente Cum Laude
• Enlaces
  • Tesis en acceso abierto en: Archivo Digital UPM
• Resumen

  • El auge del aprendizaje automático en la toma de decisiones resalta la necesidad de modelos transparentes e interpretables. Los modelos gráficos probabilísticos (PGMs) y la selección de variables (FSS) atienden estas demandas. Los PGMs ofrecen una representación gráfica que captura complejas dependencias probabilísticas en los datos, aclarando procesos subyacentes y decisiones. La FSS, en cambio, simplifica los modelos al centrarse en variables relevantes, mejorando su interpretabilidad y, posiblemente, precisión. Esta disertación aborda estas técnicas para datos en streaming. Este escenario es común en dominios reales, bien porque los datos se reciben dinámicamente, requiriendo actualizar constantemente las soluciones, o bien porque es transcendental modelar la dimensión temporal. La primera contribución trata la clasificación multidimensional de series temporales categóricas multivariantes, donde secuencias de datos ordenados en el tiempo son clasificadas en múltiples clases. Pese a los beneficios de los PGMs, estos no han sido explorados en este ámbito. Surge así el clasificador Bayesiano multidimensional en tiempo continuo (Multi-CTBNC), extendiendo las redes Bayesianas en tiempo continuo (CTBNs) para abordar esta tarea considerando las dependencias entre variables clase. Esta propuesta arroja resultados prometedores frente a clasificadores independientes y su potencial se evidencia en una aplicación desarrollada dentro de la Industria 4.0. El aprendizaje de estructuras de CTBNs ha usado tradicionalmente algoritmos basados en puntuaciones. No obstante, un enfoque reciente basado en restricciones ha destacado en ciertos escenarios. Dado que cada algoritmo tiene sus ventajas, diversificar estrategias de aprendizaje es clave para afrontar eficazmente diferentes problemas. A fin de mejorar la versatilidad del Multi-CTBNC, la segunda contribución profundiza en su aprendizaje estructural. Esto ha resultado en el MB-CTPC, un algoritmo basado en restricciones que aprovecha la topología del modelo para centrarse en tests relevantes para la clasificación. Además, se ha explorado una nueva solución híbrida para integrar las ventajas de las metodologías basadas en puntuaciones y restricciones. Diversos algoritmos se han comparado experimentalmente, tanto en datos sintéticos como en datos reales de estudios socioeconómicos longitudinales. En escenarios reales, el volumen creciente y la naturaleza dinámica de los datos pueden implicar la generación continua de nuevas instancias o variables. La FSS es útil en este contexto, donde es común una alta dimensionalidad, y las variables pueden ser, o volverse, irrelevantes o redundantes. La tercera contribución es una revisión exhaustiva de algoritmos de FSS incrementales, u online, para flujos de datos y de variables, algoritmos que actualizan las variables seleccionadas conforme los datos (o variables) evolucionan. Múltiples propuestas son analizadas, detallando su funcionamiento y algunas de sus limitaciones. Además, se abordan distintos problemas de aprendizaje, incluyendo enfoques supervisados y no supervisados, aprendizaje multitarea y por conjuntos, o metodologías basadas en conjuntos aproximados. La última contribución aplica Multi-CTBNCs en escenarios con flujos de datos o variables, presentando dos métodos para ello. Para flujos de datos, el método se centra en la detección local de cambios de concepto y la actualización del modelo, a fin de mejorar las clasificaciones de un modelo estático y los tiempos de aprendizaje respecto a una actualización global. Una extensión online del MB-CTPC es introducida para actualizar localmente los Multi-CTBNCs. Para flujos de variables, se integra un algoritmo online de FSS, adaptado para series temporales categóricas, con el fin de optimizar el aprendizaje de los Multi-CTBNCs. Ambas metodologías buscan mejorar el rendimiento del modelo y la eficiencia computacional al aprender de datos dinámicos o en entornos offline con restricciones.