A holistic perspective on designing and evaluating explainable AI modelsfrom white-box additive models to post-hoc explanations for black-box models

Abstract

A tese explora o problema da caixa negra na Intelixencia Artificial (IA) e a necesidade de sistemas de IA máis transparentes e explicables. A XAI busca abrir os sistemas de IA ao escrutinio, facendo o proceso de toma de decisións máis comprensible para os usuarios. Isto é crucial para construír confianza e asegurar unha implementación xusta e ética da IA en múltiples sectores. A tese formula a hipótese de que os modelos de IA transparentes (caixa branca) poden ser cruciais para explicar sistemas máis complexos e opacos. Os obxectivos inclúen: 1) Comprender a paisaxe da XAI, 2) Construír modelos interpretables por deseño, 3) Xerar explicacións post-hoc para modelos caixa negra, 4) Entender as implicacións para a industria.