A holistic perspective on designing and evaluating explainable AI models: from white-box additive models to post-hoc explanations for black-box models

Autores: Ettore Mariotti
Directores de la Tesis: José M. Alonso Moral (dir. tes.) , Albert Gatt (dir. tes.)
Lectura: En la Universidade de Santiago de Compostela ( España ) en 2024
Idioma: inglés
Tribunal Calificador de la Tesis: Karina Gibert Oliveras (presid.) , Alberto José Bugarín Diz (secret.) , Pietro Ducange (voc.)
Enlaces
- Tesis en acceso abierto en: MINERVA
Resumen
- A tese explora o problema da caixa negra na Intelixencia Artificial (IA) e a necesidade de sistemas de IA máis transparentes e explicables. A XAI busca abrir os sistemas de IA ao escrutinio, facendo o proceso de toma de decisións máis comprensible para os usuarios. Isto é crucial para construír confianza e asegurar unha implementación xusta e ética da IA en múltiples sectores. A tese formula a hipótese de que os modelos de IA transparentes (caixa branca) poden ser cruciais para explicar sistemas máis complexos e opacos. Os obxectivos inclúen: 1) Comprender a paisaxe da XAI, 2) Construír modelos interpretables por deseño, 3) Xerar explicacións post-hoc para modelos caixa negra, 4) Entender as implicacións para a industria.