Integrating Human and Artificial Intelligence Capabilities to Guide the Development of High-Risk Psychomotor Intelligent Systems: the CARAIX framework

• Autores: Miguel Ángel Portaz Collado
• Directores de la Tesis: Olga C. Santos (dir. tes.)
• Lectura: En la UNED. Universidad Nacional de Educación a Distancia ( España ) en 2025
• Idioma: inglés
• Número de páginas: 271
• Tribunal Calificador de la Tesis: Rosa María Carro Salas (presid.) , Jorge Pérez Martín (secret.) , Vania Gatzeva Dimitrova (voc.)
• Enlaces
  • Tesis en acceso abierto en: TESEO
• Resumen
  • español

    La presente tesis examina la conceptualización y validación de un marco de trabajo centrado en el humano basado en los principios de la Inteligencia Híbrida (IH), atendiendo a la crucial necesidad de integrarnos con las capacidades de la Inteligencia Artificial (IA) para un diseño ético y efectivo en dominios de alto riesgo, como el aprendizaje psicomotor y la detección temprana del deterioro neurocognitivo. Está motivada por la creciente complejidad de los sistemas de IA y su profundo impacto en el bienestar de las personas. Busca garantizar que la tecnología incremente el potencial humano priorizando su seguridad, confianza e inclusividad en poblaciones diversas.

    El objetivo principal pasa por conceptualizar, definir y validar el marco de trabajo CARAIX (Collaborative, Adaptative, Responsible and eXplainable AI), una propuesta innovadora que integra principios colaborativos, adaptativos, responsables y explicables, y que ha sido puesto a prueba dentro del proyecto HumanAID, bajo el paraguas del Centro de Investigación PhyUM de la UNED. Para ello, tres casos de uso han sido estudiados dentro del ámbito psicomotor (determinación del nivel de experiencia, comportamiento motor durante el sueño y riesgo de lesión deportiva), analizando tanto datos inerciales obtenidos desde sensores como imágenes tratadas con técnicas de visión artificial. En concreto, las señales inerciales son analizadas para evaluar el nivel de experiencia de practicantes de artes marciales. Basado en esta metodología, pero con un cambio de enfoque, las señales inerciales recogidas durante el sueño son examinadas para determinar el grado de deterioro cognitivo asociado a pacientes con Alzheimer. Finalmente, el análisis de imágenes de video se utiliza para mejorar el compromiso cognitivo y para contribuir a la detección de lesiones de rodilla en jugadores de baloncesto. Estos tres casos de uso constituyen, por sí mismas, un estudio de caso dentro del proyecto HumanAID, centrado en la adquisición de habilidades psicomotoras. Mediante un proceso de evaluación con enfoque dual, que incluye un proceso cualitativo para determinar sus aspectos clave y una ponderación cuantitativa de éstos, el resultado de esta tesis busca desarrollar un proceso replicable que pueda evaluar el cumplimiento de CARAIX en los otros tres casos de estudio del proyecto HumanAID, incluyendo i) entrenamiento de vehículos autónomos, ii) competencias en la prevención de riesgos laborales, y iii) sistemas inteligentes de aprendizaje, que complementan el caso de estudio mencionado previamente: iv) adquisición de habilidades psicomotoras.

    Los principales hallazgos indican que CARAIX respalda el desarrollo de sistemas psicomotores que categorizan el nivel de experiencia (con una precisión de 82.14%) y evalúan el riesgo de lesiones con precisión. También avanza en la clasificación de la fase de deterioro cognitivo (con una sensibilidad del 93.94%), contribuyendo a la realización de cribados, permitiendo así una detección temprana y la posibilidad de ofrecer intervenciones psicomotoras. Además, introduce un conjunto amplio de artefactos de software y criterios de evaluación que vinculan principios teóricos con una implementación práctica, ofreciendo un enfoque sólido para transferir este conocimiento a procesos de auditoria operativos y eficaces. Tales autorías pueden verificar tanto el cumplimiento normativo como la adhesión a estándares que incorporan consideraciones éticas, asegurando que las mejores prácticas no solo se comprendan, sino que también se apliquen y validen sistemáticamente.

    La tesis concluye que la IH constituye una base sólida para el desarrollo de una IA centrada en el humano, impulsando el diseño ético de IA promoviendo transparencia, autonomía del usuario y beneficio social, estableciendo una base para futuras investigaciones que amplíen aplicabilidad de los principios de la IH en el desarrollo de sistemas inteligentes de alto riesgo. Este trabajo también aborda sus limitaciones, como la necesidad de realizar pruebas más amplias en ámbitos como el envejecimiento activo, aspectos que están siendo abordados en otras líneas de investigación en curso dentro de PhyUM. Finalmente, el marco propuesto también está alineado con varios Objetivos de Desarrollo Sostenible (ODS) clave, en particular aquellos relacionados con la salud y el bienestar (3), la educación inclusiva (4), la igualdad de género (5), el trabajo decente (8), la reducción de las desigualdades (10) y la sostenibilidad de las comunidades (11).

  • English

    This thesis explores the conceptualization and validation of a human-centered framework grounded in the principles of Hybrid Intelligence (HI), addressing the critical need to integrate human and Artificial Intelligence (AI) capabilities for ethical and effective system design in high-risk domains such as psychomotor learning and neurocognitive impairment screening. Motivated by the growing complexity of AI systems and their impact on human well-being, this research aims to ensure that technology augments human potential while prioritizing safety, trust, and inclusivity across diverse populations.

    The main objective is to conceptualize, define, and validate the CARAIX (Collaborative, Adaptative, Responsible and eXplainable AI) framework, a novel structure that integrates collaborative, adaptive, responsible, and explainable principles, tested within the scope of the HumanAID project and under UNED’s PhyUM Research Center actions. For this, three use cases have been studied within the psychomotor domain (expertise level assessment, sleep motion behaviour and risk of sport injuries) by analysing both inertial data obtained from wearables and images with computer vision techniques. Specifically, inertial signals are analysed to assess the expertise level of martial arts practitioners. Building on this methodology but shifting focus, inertial data collected during sleep is examined to determine the degree of cognitive decline in Alzheimer’s patients. Finally, video analysis is employed to enhance cognitive engagement and facilitate the detection of knee injury risk patterns in basketball players. These three use cases collectively constitute a stand-alone case study within HumanAID, specifically focusing on psychomotor skill acquisition. Through a mixed-method approach involving qualitative identification of key aspects and quantitative weighting of their importance, the study has carried out a replicable process for assessing framework compliance across the other three HumanAID case studies, including i) autonomous driving training, ii) occupational safety competences, and iii) intelligent tutoring systems, which complement the previous iv) psychomotor skill acquisition case study. Findings reveal that CARAIX framework effectively supports psychomotor systems with high accuracy in expertise categorization (with an accuracy of 82.14%) and injury risk assessments, while also advancing neurocognitive impairment classification for screening purposes (with a recall of 93.94%), which evaluates cognitive decline stages in primary degenerative dementia, aiding early detection and offering the possibility of psychomotor intervention. It further provides a comprehensive set of software artifacts and evaluation criteria that link theoretical principles to practical implementation, offering a robust approach for transferring this knowledge into actionable auditing processes. Such audits can verify both regulatory compliance and adherence to standards that embed ethical considerations, ensuring that best practices are not only understood but also systematically applied and validated.

    The thesis concludes that HI forms a solid foundation for human-centered AI and advances ethical AI design by promoting transparency, user autonomy, and societal benefit, setting a foundation for future research to expand the applicability of HI principles when developing high-risk intelligent systems. Some limitations are also addressed such the need for wider testing in areas like active ageing, which are being tackled in other on-going research works in PhyUM. Finally, the proposed framework is also aligned with several key Sustainable Development Goals (SDGs), notably related to health and well-being (3), inclusive education (4), gender equality (5), decent work (8), reduced inequalities (10), and sustainable communities (11).