Deep learning and complex systems: structure, applications and limitations

• Autores: Adrián Hernández Rodríguez
• Directores de la Tesis: José María Amigó García (dir. tes.)
• Lectura: En la Universidad Miguel Hernández de Elche ( España ) en 2025
• Idioma: español
• Tribunal Calificador de la Tesis: Pablo Varona (presid.) , María del Carmen Perea Marco (secret.) , José Salvador Cánovas Peña (voc.)
• Texto completo no disponible (Saber más ...)
• Resumen

  • El objetivo de esta Tesis es poder relacionar y avanzar el deep learning y los sistemas complejos a través de sus sinergias, técnicas y estructuras comunes.

    Primero, hemos propuesto las redes adaptativas multicapa, en las que diferentes capas paralelas interactúan de manera adaptativa con los nodos, como el marco apropiado para explicar el procesamiento de la información neuronal. Para ello, extendemos el formalismo matricial que relaciona cada par de nodos al formalismo tensorial de rango cuatro, que relaciona un nodo de una capa con uno de cualquier otra capa, teniendo en cuenta también la interacción entre la dinámica de cada nodo y la sus conexiones con otros nodos.

    Siguiendo con la relación entre deep learning y sistemas complejos, la forma más útil y completa de estudiar los diferentes modelos de deep learning es a través de la programación diferenciable. Definimos formalmente la programación diferenciable y proponemos varias características como relaciones entre tensores, invarianzas o simetrías y combinación de módulos y las usamos para explicar los modelos más recientes de deep learning. Aplicamos estos conceptos a un problema de clasificación con estructura de red usando diferentes modelos de deep learning y discutimos también las limitaciones inherentes de la programación diferenciable.

    Para profundizar en la relación entre deep learning y sistemas complejos, analizamos uno de los modelos más relevantes y recientes de programas diferenciables, los mecanismos de atención, y sus aplicaciones a los sistemas complejos.

    Por último, para analizar si se pueden superar limitaciones de la programación diferenciable, definimos el marco de las estrategias de aprendizaje y evaluamos si los LLM (grandes modelos de lenguaje), la técnica más reciente y disruptiva basada en los mecanismos de atención, pueden implementar dichas estrategias y generar nuevo conocimiento.