IA explicable en detección de emociones y somnolencia para ADAS

• Caballero García-Alcaide, Diego ^[1] ; Sesmero Lorente, Paz ^[1] ; Iglesias Martínez, José Antonio ^[1] ; Sanchis de Miguel, Araceli ^[1]
  1. [1] Universidad Carlos III de Madrid

     Universidad Carlos III de Madrid

     Madrid, España

     
• Localización: Jornadas de Automática, ISSN-e 3045-4093, Nº. 46, 2025
• Idioma: español
• DOI: 10.17979/ja-cea.2025.46.12074
• Títulos paralelos:
  • Explainable AI in emotion and drowsiness detection for ADAS
• Enlaces
  • Texto completo
• Resumen
  • español

    Los Sistemas Avanzados de Asistencia a la Conducción (ADAS) son cruciales para mejorar la seguridad vial. Este trabajo explora la aplicación de la Inteligencia Artificial Explicable (XAI) para analizar y comparar el comportamiento de modelos de aprendizaje profundo, específicamente Redes Neuronales Convolucionales (CNN), en la detección de emociones y estados de somnolencia en conductores. Mediante técnicas de XAI, se investigan los procesos de toma de decisiones de los modelos, ofreciendo transparencia e interpretabilidad. Se discuten los hallazgos sobre cómo los modelos identifican características faciales relevantes para cada tarea y las diferencias inherentes entre la detección de emociones y de somnolencia. Finalmente, se analizan las implicaciones de estos hallazgos para el desarrollo y la confianza en futuros ADAS, destacando el potencial de la XAI para refinar estos sistemas y reducir el número de accidentes de tráfico.

  • English

    Advanced Driver Assistance Systems (ADAS) are crucial for enhancing road safety. This work explores the application of Explainable Artificial Intelligence (XAI) to analyze and compare the behavior of deep learning models, specifically Convolutional Neural Networks (CNN), in detecting driver emotions and drowsiness states. Using XAI techniques, the decision-making processes of the models are investigated, offering transparency and interpretability. Findings on how models identify relevant facial features for each task and the inherent differences between emotion and drowsiness detection are discussed. Finally, the implications of these findings for the development and trust in future ADAS are analyzed, highlighting XAI’s potential to refine these systems and reduce the number of traffic accidents.

• Referencias bibliográficas
  • Ghoddoosian, R., Galib, M., Athitsos, V., 2019. A realistic dataset and baseline temporal model for early drowsiness detection.
  • Goodfellow, I. J., Erhan, D., Carrier, P. L., Courville, A., Mirza, M., Hamner, B., Cukierski, W., Tang, Y., Thaler, D., Lee, D.-H., Zhou,...
  • Ioffe, S., Szegedy, C., 2015. Batch normalization: Accelerating deep network training by reducing internal covariate shift.
  • Jeon, M., 2016. Don’t cry while you’re driving: Sad driving is as bad as angry driving. International Journal of Human–Computer Interaction...
  • Jeon, M., Roberts, J., Raman, P., Yim, J.-B., Walker, B. N., 2011. Participatory design process for an in-vehicle affect detection and regulation...
  • Kapishnikov, A., Bolukbasi, T., Vi´egas, F., Terry, M., 2019. Xrai: Better attributions through regions.
  • Lorente, M. P. S., Lopez, E. M., Florez, L. A., Espino, A. L., Mart´ ınez, J. A. I., de Miguel, A. S., 2021. Explaining deep learning-based...
  • Magán, E., Sesmero, M. P., Alonso-Weber, J. M., Sanchis, A., 2022. Driver drowsiness detection by applying deep learning techniques to sequences...
  • Sheykhivand, S., Mousavi, Z., Rezaii, T. Y., Farzamnia, A., 2020. Recognizing emotions evoked by music using cnn-lstm networks on eeg signals....
  • Simonyan, K., Zisserman, A., 9 2014. Very deep convolutional networks for large-scale image recognition. 3rd International Conference on Learning...
  • Srivastava, N., Hinton, G., Krizhevsky, A., Sutskever, I., Salakhutdinov, R., 2014. Dropout: A simple way to prevent neural networks from...
  • Tamanani, R., Muresan, R., Al-Dweik, A., 2021. Estimation of driver vigilance status using real-time facial expression and deep learning....
  • Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, L. u., Polosukhin, I., 2017. Attention is all you need....
  • Verma, B., Choudhary, A., 11 2018. A framework for driver emotion recognition using deep learning and grassmann manifolds. pp. 1421–1426....