Resumen de Hacia una mejor comprensión de las decisiones de modelos de redes neuronales convolucionales aplicadas al diagnóstico del glaucoma
F.J. Fumero
Esta tesis doctoral está centrada en la aplicación de técnicas de explicabilidad a sistemas de redes neuronales convolucionales. El objetivo principal propuesto es comprender mejor las decisiones de este tipo de redes cuando se entrenan para diagnosticar glaucoma, una patología que afecta al nervio óptico y que es una de las primeras causas de ceguera irreversible en el mundo. Estas redes neuronales proporcionan buenos resultados de clasificación pero presentan una gran opacidad en su mecánica interna. Los métodos de explicabilidad contribuyen a entender mejor su funcionamiento, algo que resulta imprescindible en un ámbito tan crítico como la medicina.
En este sentido, se ha llevado a cabo una evaluación crítica y sistemática de la aplicabilidad de métodos de atribución y de los valores de Shapley como mecanismos de explicabilidad para este problema. Los experimentos realizados han resaltado la dificultad que conlleva la interpretación de estos métodos, por lo que se requiere un tratamiento especialmente cuidadoso en el contexto médico.
Por otro lado, se ha efectuado un análisis en profundidad de la viabilidad de sustituir la red neuronal convolucional por un sistema subrogado interpretable con características de entrada de uso habitual por el especialista médico. Utilizando árboles de decisión, entrenados con características de forma y tamaño calculadas a partir de imágenes simplificadas de disco y copa, hemos podido aproximar en alto grado las predicciones de redes neuronales entrenadas también con este tipo de imágenes. Frente a las otras técnicas analizadas, las buenas propiedades de interpretabilidad de los árboles de decisión nos lleva a concluir que constituyen la herramienta más prometedora para ser utilizada en el ámbito médico como ayuda al diagnóstico.
Transversalmente, se ha desarrollado también una base de datos con imágenes de la retina de pacientes con glaucoma y de sujetos sanos, denominada RIM-ONE DL, que se ha utilizado a lo largo de la tesis, entre otros conjuntos, para entrenar y evaluar nuestros modelos de redes neuronales convolucionales.
